近年來，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)事件頻發(fā)，從戲謔企業(yè)家雷軍，到假冒張文宏醫(yī)生進行商品推廣，甚至利用該技術(shù)實施詐騙，這一系列事件讓公眾深感憂慮。

早先，有網(wǎng)友通過AI技術(shù)模仿劉德華的聲音，企圖借此吸引流量。對此，劉德華的電影公司迅速發(fā)布聲明，警告公眾警惕利用AI語音合成技術(shù)冒充劉德華的騙局。

記者近期調(diào)查發(fā)現(xiàn)，制作AI深度合成的音視頻并非難事。在一些網(wǎng)購平臺上，AI深度合成技術(shù)已成為網(wǎng)店盈利的手段，消費者只需花費少量金錢，便能定制名人音視頻。

更令人驚訝的是，一些網(wǎng)絡(luò)主播甚至通過直播教授如何使用這些技術(shù)。記者在手機應(yīng)用商店搜索“換臉換聲”，發(fā)現(xiàn)眾多相關(guān)應(yīng)用。盡管部分應(yīng)用的逼真度有限，但網(wǎng)店所制作的音視頻卻能達到高度逼真。

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，目前網(wǎng)絡(luò)上有許多開源軟件和工具可以實現(xiàn)換聲和換臉效果，網(wǎng)民可自由下載并在個人電腦上使用。

盡管這些軟件種類繁多，但由于需要調(diào)整參數(shù)和操作步驟較多，它們對普通用戶來說仍有一定技術(shù)門檻。然而，短視頻平臺上已有不少主播開始教授如何使用這些軟件。

針對網(wǎng)購平臺上利用AI深度合成技術(shù)制作并出售名人音視頻的行為，專家指出，這已明確違反相關(guān)法律法規(guī)。根據(jù)規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。此類行為已構(gòu)成侵權(quán)，并需承擔(dān)法律責(zé)任。

中國計算機學(xué)會計算機安全專業(yè)委員會委員呂延輝表示，《中華人民共和國民法典》明確規(guī)定，自然人享有肖像、聲音等權(quán)益，任何組織或個人未經(jīng)授權(quán)利用信息技術(shù)進行偽造均構(gòu)成侵權(quán)。

北京航空航天大學(xué)法學(xué)院副教授趙精武指出，國內(nèi)已審結(jié)首例AI生成聲音人格權(quán)侵權(quán)案。在該案中，配音演員的聲音被AI生成并對外出售，法院最終認定被告行為構(gòu)成侵權(quán)。

面對AI深度合成音視頻侵權(quán)的日益嚴重，專家建議公眾提高防范意識。薛智慧表示，從技術(shù)角度來看，可以利用AI技術(shù)對抗和檢測AI。目前已有一些典型的AI技術(shù)能夠檢測圖片或音視頻是否經(jīng)過后期加工合成。

呂延輝強調(diào)，防范AI侵權(quán)需要從法律、平臺和公眾等多個層面綜合施策。法律層面需完善相關(guān)立法，明確侵權(quán)行為的定義和責(zé)任，并加強執(zhí)法力度。平臺則需強化政策執(zhí)行，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)，并建立健全內(nèi)容審核和侵權(quán)舉報機制。

趙精武副教授提醒，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止未經(jīng)顯著標(biāo)識和提示的AI合成信息的發(fā)布和傳播。