近年來，AI深度合成技術在網(wǎng)絡上引發(fā)的侵權事件層出不窮，從惡搞企業(yè)家雷軍，到利用AI制作張文宏醫(yī)生的音視頻進行帶貨，再到不法分子借助該技術實施詐騙，這些現(xiàn)象日益猖獗，引起了廣泛關注。

早先，有網(wǎng)友通過AI技術模仿劉德華的聲音，以此吸引流量。對此，劉德華的電影公司迅速發(fā)表聲明，警告網(wǎng)民警惕偽造劉德華聲音的AI語音合成技術騙局。近期，記者調查發(fā)現(xiàn)，制作AI深度合成音視頻并非難事，甚至在部分購物平臺上，這項技術已成為網(wǎng)店牟利的工具，消費者僅需花費少量金錢，就能定制名人的AI深度合成音視頻。

那么，這些高度逼真的AI換聲和換臉視頻是如何制作的呢？記者發(fā)現(xiàn)，相關深度合成軟件在網(wǎng)絡上并不難獲取，甚至有些網(wǎng)絡主播通過直播教授網(wǎng)友如何使用這些軟件。盡管在應用商城中搜索到的換臉工具逼真度不高，且場景固定，但網(wǎng)店卻能制作出高度逼真的AI合成音視頻。

據(jù)中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧介紹，當前網(wǎng)絡上存在多種開源軟件和工具，能夠實現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在個人電腦上安裝使用。盡管這些軟件有一定的技術門檻，屬于半專業(yè)軟件，但在短視頻平臺上，已有眾多主播在教授網(wǎng)民如何使用。

針對網(wǎng)店使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這已觸犯相關法律。根據(jù)相關法律法規(guī)，未經(jīng)授權，不得深度合成制作發(fā)布他人信息。因此，網(wǎng)店接單制作名人視頻的行為屬于侵權，應承擔相應的法律責任。

北京航空航天大學法學院副教授趙精武提到，國內已審結首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經(jīng)授權被AI生成并出售，法院最終認定被告方構成侵權，并判決其書面賠禮道歉，賠償原告各項損失25萬元。這一案例為類似侵權行為提供了法律借鑒。

對于如何防范AI深度合成音視頻侵權問題，專家提出了多項建議。從技術角度來看，可以利用AI技術對抗和檢測AI。當前已有一些典型的AI技術能夠檢測圖片或音視頻是否經(jīng)過后期加工和合成。同時，專家還認為，防范AI侵權需要法律、平臺和公眾等多方面的共同努力。法律層面應完善相關立法，細化AI克隆技術的法律條款，并加強執(zhí)法力度。平臺層面則需強化政策法規(guī)的宣貫和執(zhí)行，應用技術手段規(guī)避AI克隆侵權問題的發(fā)生，并建立健全內容審核和侵權舉報機制。

法律專家提醒AI深度合成制作和信息發(fā)布者，切勿心存僥幸。法律沒有灰色地帶，任何違法行為都將受到嚴厲制裁。趙精武強調，法律并非禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發(fā)布和傳播。