近年來，AI深度合成技術(shù)引發(fā)了諸多社會(huì)爭議，從模仿企業(yè)家雷軍的搞笑視頻，到假冒張文宏醫(yī)生進(jìn)行商品推銷，乃至利用該技術(shù)實(shí)施詐騙，此類侵權(quán)事件層出不窮。據(jù)調(diào)查，制作高度逼真的AI合成音視頻已不再是技術(shù)難題，甚至在電商平臺上，此類服務(wù)已成為部分網(wǎng)店盈利的手段，消費(fèi)者僅需支付小額費(fèi)用，便能定制名人的AI合成音視頻。

記者深入探究發(fā)現(xiàn)，網(wǎng)絡(luò)上存在大量開源軟件及工具，能夠輕松實(shí)現(xiàn)聲音替換與面部替換效果。這些軟件雖下載便捷，但操作相對復(fù)雜，需根據(jù)不同場景調(diào)整參數(shù)，具有一定的技術(shù)門檻。然而，在短視頻平臺上，不少網(wǎng)絡(luò)主播正通過直播教授如何使用這些軟件，使得技術(shù)門檻大大降低。

專家指出，盡管這些軟件種類繁多，但未經(jīng)授權(quán)便合成制作他人音視頻，已明確違反相關(guān)法律法規(guī)。中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)的專家薛智慧強(qiáng)調(diào)，網(wǎng)絡(luò)上眾多開源軟件均可實(shí)現(xiàn)聲音與面部替換，網(wǎng)民可自由下載并在個(gè)人電腦上使用。

對于電商平臺上利用AI深度合成技術(shù)制作并出售名人音視頻的行為，法律專家表示，這已構(gòu)成侵權(quán)。中國計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)委員呂延輝引用《中華人民共和國民法典》指出，自然人享有肖像、聲音等權(quán)益，任何組織或個(gè)人未經(jīng)授權(quán)利用信息技術(shù)進(jìn)行偽造均屬侵權(quán)行為。2023年國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確要求，不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律禁止的信息。

北京航空航天大學(xué)法學(xué)院副教授趙精武提到，國內(nèi)已審結(jié)首例AI生成聲音人格權(quán)侵權(quán)案，法院認(rèn)定被告行為構(gòu)成侵權(quán)，強(qiáng)調(diào)自然人的聲音具有人身專屬性。專家建議，從技術(shù)層面，可利用AI技術(shù)對抗并檢測AI，當(dāng)前已有技術(shù)能夠判斷音視頻是否經(jīng)過后期加工合成。

為防范AI深度合成音視頻侵權(quán)，專家建議從法律、平臺及公眾層面綜合施策。法律層面需完善立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)定義與責(zé)任，并加強(qiáng)執(zhí)法力度。平臺層面則需強(qiáng)化政策執(zhí)行，保護(hù)已有數(shù)據(jù)，應(yīng)用技術(shù)手段規(guī)避侵權(quán)問題，同時(shí)建立健全內(nèi)容審核與侵權(quán)舉報(bào)機(jī)制。公眾也應(yīng)提高防范意識，避免落入AI合成的陷阱。

趙精武副教授進(jìn)一步強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，特別是未經(jīng)顯著標(biāo)識和提示便發(fā)布和傳播AI合成信息。公眾與法律執(zhí)行者均需明確這一界限，共同維護(hù)網(wǎng)絡(luò)空間的合法權(quán)益。