近年來，AI深度合成技術(shù)在網(wǎng)絡(luò)空間中引發(fā)了諸多爭議，從惡搞企業(yè)家雷軍到利用AI制作張文宏醫(yī)生的音視頻進行帶貨，甚至有不法分子借助這一技術(shù)實施詐騙，侵權(quán)現(xiàn)象層出不窮。

此前，有網(wǎng)友通過AI技術(shù)模仿劉德華的聲音，企圖吸引流量，這一行為迫使劉德華的電影公司緊急發(fā)布聲明，警告網(wǎng)民警惕利用AI語音合成技術(shù)偽造劉德華聲音的騙局。記者近期調(diào)查發(fā)現(xiàn)，AI深度合成音視頻的制作并不復雜，甚至在一些電商平臺，該技術(shù)已成為網(wǎng)店盈利的手段，僅需花費少量金錢，就能定制名人的AI深度合成音視頻。

更令人驚訝的是，網(wǎng)絡(luò)上不僅有大量可供下載的深度合成軟件，還有一些網(wǎng)絡(luò)主播通過直播教授如何使用這些軟件。記者在手機應用商店搜索“換臉換聲”，發(fā)現(xiàn)了眾多相關(guān)工具，但這些工具的逼真度普遍不高。那么，網(wǎng)店是如何制作出高度逼真的AI合成音視頻的呢？

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧介紹，當前有許多開源軟件和工具可以實現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。盡管這些軟件種類繁多，但由于操作復雜，需要調(diào)整不同場景下的參數(shù)，因此不為大眾所熟知。然而，記者發(fā)現(xiàn)，短視頻平臺上已有不少主播在教授如何使用這些軟件。

針對電商平臺使用AI深度合成技術(shù)制作并出售名人音視頻的行為，專家指出，這已觸犯相關(guān)法律。未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息，網(wǎng)店接單制作名人視頻屬于侵權(quán)行為，應承擔法律責任。北京航空航天大學法學院副教授趙精武提到，國內(nèi)已審結(jié)首例AI生成聲音人格權(quán)侵權(quán)案，法院認定被告方在未獲得授權(quán)的情況下使用原告聲音開發(fā)AI文本轉(zhuǎn)語音產(chǎn)品構(gòu)成侵權(quán)，并判決其書面賠禮道歉及賠償損失。

面對AI深度合成技術(shù)的普及，如何防范其帶來的侵權(quán)問題成為關(guān)鍵。薛智慧表示，從技術(shù)角度看，可以利用AI技術(shù)對抗和檢測AI。目前已有一些AI技術(shù)能夠檢測圖片或音視頻是否被后期加工合成。呂延輝則認為，防范AI侵權(quán)需要法律、平臺和公眾等多方面的共同努力。法律層面應完善相關(guān)立法，細化法律條款，明確侵權(quán)行為定義和責任，并加強執(zhí)法力度。平臺層面則需強化政策法規(guī)的執(zhí)行，保護已有數(shù)據(jù)，應用技術(shù)手段規(guī)避AI克隆侵權(quán)，同時建立健全內(nèi)容審核和侵權(quán)舉報機制。

法律專家提醒AI深度合成制作和信息發(fā)布者，切勿心存僥幸，法律不容許任何灰色地帶，以免因小失大。趙精武強調(diào)，法律并非禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止未經(jīng)顯著標識和提示就發(fā)布和傳播AI合成信息。