近年來，人工智能（AI）深度合成技術(shù)在音視頻領(lǐng)域的應(yīng)用引發(fā)了諸多爭議，從模仿企業(yè)家雷軍到偽造張文宏醫(yī)生的音視頻用于商品推廣，再到利用該技術(shù)實(shí)施詐騙，一系列事件不斷沖擊著公眾的神經(jīng)。

此前，有網(wǎng)友利用AI技術(shù)合成的劉德華聲音吸引流量，這一行為迫使劉德華的電影公司迅速發(fā)表聲明，警告網(wǎng)民不要上當(dāng)受騙。近日，記者深入調(diào)查發(fā)現(xiàn)，制作AI深度合成的音視頻門檻并不高，甚至在部分電商平臺上，這種技術(shù)已成為網(wǎng)店盈利的手段，僅需幾十元，就能定制名人的AI深度合成音視頻。

那么，這些高度逼真的AI換聲和換臉視頻究竟是如何制作的呢？記者發(fā)現(xiàn)，盡管在應(yīng)用商店中可以找到不少換臉換聲的工具，但這些工具往往預(yù)設(shè)了固定場景，且效果并不十分逼真。那么，網(wǎng)店是如何實(shí)現(xiàn)高逼真度的AI合成呢？

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，當(dāng)前網(wǎng)絡(luò)上有許多開源軟件和工具可以實(shí)現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在個人電腦上安裝使用。這些軟件雖然種類繁多，但操作相對復(fù)雜，需要調(diào)整多種參數(shù)，屬于半專業(yè)軟件，因此不為大眾所熟知。然而，記者注意到，在短視頻平臺上，已有不少主播在教授如何使用這些軟件。

針對電商平臺使用AI深度合成技術(shù)制作并出售名人音視頻的行為，法律專家指出，這已構(gòu)成侵權(quán)。相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作并發(fā)布他人信息。因此，這些網(wǎng)店不僅違法，還應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

北京航空航天大學(xué)法學(xué)院副教授趙精武進(jìn)一步解釋，國內(nèi)已經(jīng)審結(jié)了一起AI生成聲音人格權(quán)侵權(quán)案。在這起案件中，一名配音演員的聲音在未經(jīng)授權(quán)的情況下被AI生成并出售，法院最終認(rèn)定被告行為構(gòu)成侵權(quán)。這表明，自然人的聲音作為一種人格權(quán)益，具有人身專屬性，受法律保護(hù)。

面對AI深度合成音視頻侵權(quán)的日益嚴(yán)峻形勢，專家建議從多個層面采取措施進(jìn)行防范。從技術(shù)角度看，可以利用AI技術(shù)對抗和檢測AI。目前已有一些AI技術(shù)能夠檢測圖片或音視頻是否經(jīng)過后期加工合成。同時(shí)，法律層面也需要進(jìn)一步完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。

平臺方面，應(yīng)強(qiáng)化相關(guān)政策法規(guī)的宣貫和執(zhí)行，保護(hù)已有數(shù)據(jù)，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生。同時(shí)，建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和處理侵權(quán)問題。專家還提醒AI深度合成制作和信息發(fā)布者，不要心存僥幸，法律沒有灰色地帶。

趙精武副教授強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止未經(jīng)顯著標(biāo)識和提示就發(fā)布和傳播AI合成信息。這一觀點(diǎn)為AI技術(shù)的合法使用提供了明確的指導(dǎo)。