近年來，AI深度合成技術(shù)在音視頻領(lǐng)域的應用引發(fā)了廣泛關(guān)注，同時也帶來了一系列侵權(quán)問題。從對企業(yè)家雷軍的惡搞，到假冒張文宏醫(yī)生音視頻進行帶貨，再到利用該技術(shù)實施詐騙，這類事件頻發(fā)，且愈演愈烈。

去年，劉德華的聲音被不法分子利用AI技術(shù)合成，并用于謀取流量。對此，劉德華的電影公司迅速發(fā)布聲明，提醒公眾警惕偽造聲音的AI語音合成技術(shù)。記者最近調(diào)查發(fā)現(xiàn)，AI深度合成音視頻的制作門檻并不高，甚至在一些購物平臺上，這種技術(shù)已成為網(wǎng)店盈利的工具。只需支付幾十元，顧客就可以定制名人的AI深度合成音視頻。

那么，這些高度逼真的AI合成聲音和換臉是如何制作出來的呢？調(diào)查發(fā)現(xiàn)，相關(guān)深度合成軟件在網(wǎng)絡上并不難找到，而且一些網(wǎng)絡主播還在直播中教授如何使用這些軟件。盡管手機應用商城里的一些換臉換聲工具逼真度不高，但網(wǎng)店提供的服務卻能達到很高的逼真度。

據(jù)中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，目前網(wǎng)絡上有很多開源軟件和工具可以實現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。雖然這類軟件多達數(shù)十種，但由于其技術(shù)門檻較高，需要調(diào)整不同的參數(shù)和步驟，因此并不為普通網(wǎng)民所熟知。然而，在短視頻平臺上，有不少主播在教授如何使用這些軟件。

關(guān)于網(wǎng)絡購物平臺上使用AI深度合成技術(shù)制作并出售名人音視頻是否違法的問題，專家指出，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。因此，網(wǎng)店接單制作名人視頻的行為已構(gòu)成侵權(quán)，并應承擔相應的法律責任。

北京航空航天大學法學院副教授趙精武表示，國內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案。在這起案件中，一位配音演員的聲音未經(jīng)授權(quán)被AI生成并出售，法院最終認定被告的行為構(gòu)成侵權(quán)。因為民法典已將自然人的聲音視為一種具有人身專屬性的人格權(quán)益。

對于如何防范AI深度合成音視頻侵權(quán)問題，專家建議從多個層面綜合施策。從技術(shù)角度來看，可以利用AI技術(shù)對抗和檢測AI。目前已有一些典型的AI技術(shù)能夠檢測圖片或音視頻是否經(jīng)過后期加工和合成。中國計算機學會計算機安全專業(yè)委員會委員呂延輝指出，法律層面需要完善相關(guān)立法，細化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責任，并加強執(zhí)法力度。平臺則需要強化政策法規(guī)的宣貫和執(zhí)行，做好數(shù)據(jù)保護，應用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生，并建立健全內(nèi)容審核和侵權(quán)舉報機制。

專家還提醒AI深度合成制作和信息發(fā)布者，不要心存僥幸。法律并沒有灰色地帶，任何不合法不合理的使用都可能面臨法律制裁。趙精武副教授強調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發(fā)布和傳播。

面對AI深度合成技術(shù)的廣泛應用，公眾也應提高防范意識。薛智慧專家表示，通過技術(shù)手段可以檢測和分析圖片或音視頻是否經(jīng)過后期加工和合成，從而降低被侵權(quán)的風險。