隨著生成式AI技術(shù)的迅猛發(fā)展，網(wǎng)絡(luò)內(nèi)容創(chuàng)作的門檻顯著降低，各類標(biāo)題黨、低俗內(nèi)容及謠言的傳播能力與說(shuō)服力得到了前所未有的增強(qiáng)。這一趨勢(shì)不僅改變了信息傳播的格局，更悄然掀起了一場(chǎng)關(guān)乎每個(gè)人認(rèn)知的隱形戰(zhàn)爭(zhēng)。

在這場(chǎng)沒(méi)有硝煙的戰(zhàn)爭(zhēng)中，內(nèi)容平臺(tái)扮演了至關(guān)重要的角色。今日頭條發(fā)布的《2024年度治理報(bào)告》揭示了平臺(tái)在維護(hù)信息真實(shí)性方面的努力。數(shù)據(jù)顯示，去年今日頭條成功攔截超過(guò)500萬(wàn)條不實(shí)信息，封禁了4.77萬(wàn)個(gè)造謠傳謠賬號(hào)，處理了93萬(wàn)多條低質(zhì)量AI生成內(nèi)容，并對(duì)相關(guān)賬號(hào)采取了封禁或禁言措施。平臺(tái)還針對(duì)同質(zhì)化內(nèi)容進(jìn)行了大規(guī)模整治，處理了781萬(wàn)多篇同質(zhì)化文章，封禁了6.3萬(wàn)個(gè)違規(guī)賬號(hào)。

“作為內(nèi)容資訊平臺(tái)，我們有責(zé)任確保用戶接觸到真實(shí)、有價(jià)值的信息?！苯袢疹^條內(nèi)容策劃負(fù)責(zé)人劉姍姍強(qiáng)調(diào)。她指出，虛假和低質(zhì)內(nèi)容不僅破壞了平臺(tái)生態(tài)，降低了優(yōu)質(zhì)創(chuàng)作者的積極性，還可能誤導(dǎo)用戶，影響他們的思考能力和道德價(jià)值判斷。

為了應(yīng)對(duì)這一挑戰(zhàn)，今日頭條推出了包括謠言庫(kù)、權(quán)威信源庫(kù)和專業(yè)審核團(tuán)隊(duì)在內(nèi)的“治謠套餐”。謠言庫(kù)利用大模型技術(shù)，通過(guò)關(guān)鍵詞抓取和內(nèi)容比對(duì)快速驗(yàn)證信息真?zhèn)?；?quán)威信源庫(kù)則幫助審核人員準(zhǔn)確判斷信息，并在發(fā)現(xiàn)謠言后進(jìn)行精準(zhǔn)辟謠。結(jié)合人工審核和AI審核機(jī)制，平臺(tái)形成了高效的風(fēng)險(xiǎn)治理流程，既保護(hù)了原創(chuàng)內(nèi)容，又凈化了用戶的閱讀環(huán)境。

與此同時(shí)，抖音也在積極應(yīng)對(duì)虛假信息和謠言的挑戰(zhàn)。根據(jù)抖音發(fā)布的2024年平臺(tái)治理報(bào)告，去年平臺(tái)累計(jì)刪除了452萬(wàn)條謠言，提前攔截了340萬(wàn)條謠言，并處理了4.8萬(wàn)條涉及企業(yè)的謠言視頻。針對(duì)老年人易受騙的問(wèn)題，抖音日均下架5000多條違規(guī)視頻，并成功勸阻了約1萬(wàn)名潛在受害者。

作為短視頻平臺(tái)，抖音還面臨著擺拍亂象的挑戰(zhàn)。抖音集團(tuán)副總裁李亮指出，識(shí)別擺拍是治理的難點(diǎn)之一，有時(shí)連媒體也會(huì)誤將段子當(dāng)作新聞報(bào)道。為此，抖音采取了專項(xiàng)核實(shí)措施，當(dāng)事件達(dá)到一定熱度或收到舉報(bào)時(shí)，平臺(tái)會(huì)聯(lián)系當(dāng)事人或邀請(qǐng)當(dāng)?shù)孛襟w進(jìn)行真實(shí)性核查，確保信息真實(shí)性后再進(jìn)行推薦。

在這場(chǎng)認(rèn)知戰(zhàn)爭(zhēng)中，用戶自身的信息辨別能力同樣至關(guān)重要。近期，網(wǎng)絡(luò)上流傳的關(guān)于“80后死亡率突破5.2%”的謠言就是一個(gè)典型例子。這些謠言往往借助AI對(duì)話技術(shù)生成，并通過(guò)非權(quán)威信源傳播，誤導(dǎo)了大量用戶。中國(guó)人民大學(xué)教授李婷指出，這類錯(cuò)誤信息的源頭很可能是AI對(duì)話系統(tǒng)。

AI雖然能夠生成對(duì)話內(nèi)容，但缺乏意識(shí)和判斷力。它往往根據(jù)提示詞和對(duì)話歷史進(jìn)行延伸搜索，并從數(shù)據(jù)庫(kù)中抓取內(nèi)容進(jìn)行回復(fù)。如果用戶的要求過(guò)于抽象或模糊，AI就可能因?yàn)闊o(wú)法錨定具體信息而產(chǎn)生“幻覺(jué)效應(yīng)”，開(kāi)始一本正經(jīng)地胡說(shuō)八道。惡意分子還可以利用AI截圖傳播謠言，通過(guò)角色扮演或復(fù)讀等方式混淆視聽(tīng)。

因此，在日益復(fù)雜的網(wǎng)絡(luò)生態(tài)中，每個(gè)人都應(yīng)該成為認(rèn)知戰(zhàn)爭(zhēng)的參與者。除了內(nèi)容平臺(tái)需要加強(qiáng)審核機(jī)制外，用戶自身也需要建立信息防火墻，學(xué)會(huì)在轉(zhuǎn)發(fā)信息之前進(jìn)行核實(shí)和判斷。只有這樣，我們才能在這場(chǎng)認(rèn)知戰(zhàn)爭(zhēng)中取得最終的勝利。