近年來(lái)，AI深度合成技術(shù)在網(wǎng)絡(luò)空間引發(fā)了諸多爭(zhēng)議，從對(duì)企業(yè)家雷軍的惡搞，到利用AI制作張文宏醫(yī)生的音視頻進(jìn)行商品推廣，甚至有不法分子借此進(jìn)行詐騙活動(dòng)，這一技術(shù)的濫用現(xiàn)象愈發(fā)嚴(yán)重。

早前，網(wǎng)絡(luò)上就曾出現(xiàn)利用AI模仿劉德華聲音博取流量的案例，劉德華的電影公司迅速發(fā)表聲明，警告公眾不要受偽造聲音技術(shù)的欺騙。記者最近的調(diào)查發(fā)現(xiàn)，制作AI深度合成的音視頻并非難事，在某些購(gòu)物平臺(tái)上，這項(xiàng)技術(shù)已成為網(wǎng)店盈利的手段，消費(fèi)者只需支付少量費(fèi)用，就能定制名人的AI音視頻。

更令人驚訝的是，一些網(wǎng)絡(luò)主播甚至在直播中教授如何使用這些技術(shù)。記者在手機(jī)應(yīng)用商店搜索關(guān)鍵詞，發(fā)現(xiàn)眾多相關(guān)工具，盡管部分工具的逼真度不高，但網(wǎng)店制作的AI深度合成音視頻卻相當(dāng)逼真。

據(jù)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)的專家薛智慧介紹，目前網(wǎng)絡(luò)上有許多開(kāi)源軟件和工具可以實(shí)現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在個(gè)人電腦上使用。盡管這些軟件有一定的技術(shù)門(mén)檻，但在短視頻平臺(tái)上，不少主播正在教授如何使用這些工具。

針對(duì)這一現(xiàn)象，法律專家指出，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。網(wǎng)店利用AI深度合成技術(shù)制作并出售名人音視頻，已構(gòu)成侵權(quán)行為，應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)委員呂延輝引用《中華人民共和國(guó)民法典》指出，自然人享有肖像、聲音等權(quán)益，任何組織或個(gè)人未經(jīng)授權(quán)利用信息技術(shù)進(jìn)行偽造都是侵權(quán)行為。

北京航空航天大學(xué)法學(xué)院副教授趙精武補(bǔ)充道，司法實(shí)踐中已有首例AI生成聲音人格權(quán)侵權(quán)案，法院認(rèn)定未經(jīng)授權(quán)使用配音演員的聲音進(jìn)行AI生成并出售構(gòu)成侵權(quán)。這一案例明確了自然人聲音的人格權(quán)益屬性。

面對(duì)AI深度合成技術(shù)的普及，公眾應(yīng)如何提高防范意識(shí)？薛智慧專家建議，從技術(shù)角度看，可以利用AI技術(shù)來(lái)檢測(cè)和對(duì)抗AI。目前已有一些AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測(cè)，分析是否經(jīng)過(guò)后期加工或合成。

呂延輝委員強(qiáng)調(diào)，防范AI侵權(quán)問(wèn)題需要從法律、平臺(tái)和公眾等多個(gè)層面綜合施策。法律層面應(yīng)完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。平臺(tái)層面則需強(qiáng)化政策法規(guī)的執(zhí)行，保護(hù)已有數(shù)據(jù)，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)，同時(shí)建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制。

趙精武副教授提醒AI深度合成制作和信息發(fā)布者，法律并非禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是未經(jīng)顯著標(biāo)識(shí)和提示的傳播。他強(qiáng)調(diào)，法律沒(méi)有灰色地帶，切勿因小失大。