近年來，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)問題日益凸顯，從模仿企業(yè)家雷軍到偽造張文宏醫(yī)生的音視頻用于帶貨，甚至有人利用此類技術(shù)實(shí)施詐騙，社會影響惡劣。

早前，網(wǎng)絡(luò)上就曾出現(xiàn)利用AI技術(shù)合成的劉德華聲音，企圖騙取流量。對此，劉德華的電影公司迅速發(fā)布聲明，警示公眾警惕這種利用AI語音合成技術(shù)的騙局。

記者近期調(diào)查發(fā)現(xiàn)，制作AI深度合成的音視頻門檻并不高。在一些網(wǎng)購平臺上，AI深度合成技術(shù)已成為不少網(wǎng)店盈利的手段，僅需幾十元，就能定制名人音視頻。

更令人驚訝的是，這類深度合成技術(shù)的學(xué)習(xí)門檻也不高。記者在手機(jī)應(yīng)用商店搜索“換臉換聲”，發(fā)現(xiàn)了大量相關(guān)工具。盡管部分工具的逼真度有限，但網(wǎng)店制作的音視頻卻高度逼真。這是如何做到的？

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧介紹，目前網(wǎng)絡(luò)上有許多開源軟件和工具可以實(shí)現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。

薛智慧指出，盡管這些軟件多達(dá)數(shù)十種，但由于調(diào)整參數(shù)和操作步驟較為復(fù)雜，屬于半專業(yè)軟件，因此不為大眾所熟知。然而，短視頻平臺上已有不少主播在教授如何使用這些軟件。

那么，網(wǎng)購平臺上利用AI深度合成技術(shù)制作并出售名人音視頻，是否違法呢？專家表示，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。這種行為已構(gòu)成侵權(quán)，并應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

中國計算機(jī)學(xué)會計算機(jī)安全專業(yè)委員會委員呂延輝提到，《中華人民共和國民法典》明確規(guī)定，自然人享有肖像、聲音等權(quán)益，任何組織或個人利用信息技術(shù)偽造都是侵權(quán)行為。國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確要求，不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。

關(guān)于網(wǎng)店使用AI深度合成技術(shù)制作名人視頻的法律責(zé)任，北京航空航天大學(xué)法學(xué)院副教授趙精武提到，國內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案。在此案中，配音演員的聲音未經(jīng)授權(quán)被AI生成并出售，法院最終認(rèn)定被告行為構(gòu)成侵權(quán)。

面對AI深度合成音視頻侵權(quán)的泛濫，普通人又該如何防范？薛智慧建議，從技術(shù)角度看，可以利用AI技術(shù)來檢測和對抗AI。當(dāng)前已有一些AI技術(shù)能夠檢測圖片或音視頻是否經(jīng)過后期加工和合成。

呂延輝則認(rèn)為，防范AI侵權(quán)問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面，應(yīng)完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，同時加強(qiáng)執(zhí)法力度。平臺層面，應(yīng)強(qiáng)化政策法規(guī)的宣貫和執(zhí)行，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生，并建立健全內(nèi)容審核和侵權(quán)舉報機(jī)制。

法律專家也提醒AI深度合成制作和信息發(fā)布者，切勿心存僥幸。法律沒有灰色地帶，任何違法行為都將受到嚴(yán)懲。

趙精武副教授強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止未經(jīng)顯著標(biāo)識和提示的AI合成信息的發(fā)布和傳播。