近期，社交媒體巨頭meta正在醞釀一場(chǎng)審核機(jī)制的變革，計(jì)劃將原本依賴人工的風(fēng)險(xiǎn)評(píng)估工作大幅轉(zhuǎn)向人工智能（AI）處理。據(jù)美國(guó)國(guó)家公共廣播電臺(tái)（NPR）的深度報(bào)道，meta內(nèi)部文件透露，公司旨在讓AI承擔(dān)起高達(dá)90%的風(fēng)險(xiǎn)評(píng)估重任，這一轉(zhuǎn)變不僅限于常規(guī)內(nèi)容，更將觸及青少年保護(hù)和“誠(chéng)信”領(lǐng)域，后者廣泛涵蓋暴力、虛假信息等敏感問題。

過去，meta旗下平臺(tái)如Instagram和WhatsApp在推出新功能或更新前，均需經(jīng)過嚴(yán)格的人工審核流程。然而，近兩個(gè)月來，meta顯著加快了AI技術(shù)的應(yīng)用步伐?，F(xiàn)在，產(chǎn)品團(tuán)隊(duì)需先填寫詳盡的調(diào)查問卷，再由AI系統(tǒng)迅速反饋潛在風(fēng)險(xiǎn)領(lǐng)域，產(chǎn)品團(tuán)隊(duì)必須解決AI提出的問題后方可發(fā)布。

對(duì)于這一變革，meta內(nèi)部出現(xiàn)了不同聲音。多位現(xiàn)任及前任員工在接受NPR采訪時(shí)表達(dá)了對(duì)AI審核能力的擔(dān)憂，他們認(rèn)為，AI可能無法像人工團(tuán)隊(duì)那樣敏銳捕捉到某些嚴(yán)重風(fēng)險(xiǎn)。一位前高管直言，審核力度的減弱等同于“增加潛在風(fēng)險(xiǎn)”，新產(chǎn)品變更可能帶來的負(fù)面效應(yīng)更難在初期得到遏制。

meta官方對(duì)此回應(yīng)稱，公司并未完全放棄人工審核，而是將“人類專業(yè)知識(shí)”聚焦于“新穎且復(fù)雜的問題”，而將那些“低風(fēng)險(xiǎn)決策”交由AI處理。這一策略調(diào)整旨在提升審核效率，同時(shí)保持對(duì)關(guān)鍵問題的敏銳洞察。

值得注意的是，meta近期發(fā)布了其最新季度誠(chéng)信報(bào)告，這也是公司自年初調(diào)整內(nèi)容審核和事實(shí)核查政策后的首次報(bào)告亮相。報(bào)告數(shù)據(jù)顯示，政策調(diào)整導(dǎo)致被刪除的內(nèi)容數(shù)量有所減少，但與此同時(shí)，霸凌騷擾行為以及暴力和血腥內(nèi)容的比例卻略有上升，這一現(xiàn)象引發(fā)了外界對(duì)meta審核機(jī)制有效性的進(jìn)一步關(guān)注。