近年來，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)事件頻發(fā)，從惡搞企業(yè)家雷軍，到AI制作張文宏醫(yī)生的音視頻用于帶貨，甚至有不法分子利用此類技術(shù)實(shí)施詐騙，社會影響惡劣。

早前，有網(wǎng)友利用AI技術(shù)模仿劉德華的聲音，以此吸引流量，劉德華的電影公司迅速發(fā)布聲明，警告網(wǎng)民警惕偽造劉德華聲音的AI語音合成技術(shù)陷阱。近日，記者調(diào)查發(fā)現(xiàn)，AI深度合成音視頻的制作門檻并不高，在一些購物平臺上，這種技術(shù)已成為網(wǎng)店盈利的工具，僅需花費(fèi)少量金錢，就能定制名人的AI深度合成音視頻。

更令人擔(dān)憂的是，網(wǎng)絡(luò)上還存在大量教學(xué)直播，教授如何使用開源工具進(jìn)行AI深度合成。記者在手機(jī)應(yīng)用商店搜索“換臉換聲”，發(fā)現(xiàn)眾多相關(guān)工具，盡管部分工具的逼真度不高，但網(wǎng)店制作的AI深度合成音視頻卻相當(dāng)逼真。

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧介紹，目前網(wǎng)絡(luò)上存在眾多開源軟件和工具，能夠?qū)崿F(xiàn)換聲換臉的效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。盡管這些軟件有一定的技術(shù)門檻，但在短視頻平臺上，仍有大量主播教授如何使用。

針對這一現(xiàn)象，法律專家指出，未經(jīng)授權(quán)，利用AI深度合成技術(shù)制作發(fā)布他人信息屬于侵權(quán)行為。網(wǎng)店接單制作名人視頻，已經(jīng)觸犯法律，應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。實(shí)際上，國內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案，法院最終認(rèn)定被告方構(gòu)成侵權(quán)，并判決其書面賠禮道歉，賠償原告損失。

對于如何防范AI深度合成音視頻侵權(quán)問題，薛智慧表示，從技術(shù)角度來看，可以利用AI技術(shù)對抗和檢測AI。當(dāng)前已有一些AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測，判斷其是否經(jīng)過后期加工或合成。呂延輝則認(rèn)為，防范AI侵權(quán)需要法律、平臺和公眾等多方面的共同努力。法律層面應(yīng)完善相關(guān)立法，明確侵權(quán)行為的定義和責(zé)任，加強(qiáng)執(zhí)法力度；平臺層面應(yīng)強(qiáng)化政策法規(guī)的宣貫和執(zhí)行，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生，建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制。

法律專家提醒AI深度合成制作和信息發(fā)布者，切勿心存僥幸，法律沒有灰色地帶。北京航空航天大學(xué)法學(xué)院副教授趙精武強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識和提示的AI合成信息的發(fā)布和傳播。