近年來(lái)，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)事件層出不窮，從對(duì)企業(yè)家雷軍的惡搞，到假冒張文宏醫(yī)生進(jìn)行帶貨直播，再到利用該技術(shù)實(shí)施詐騙，其濫用現(xiàn)象日益嚴(yán)重。

去年，有網(wǎng)友利用AI技術(shù)模仿劉德華的聲音，企圖吸引流量，這一行為迫使劉德華的電影公司發(fā)布緊急聲明，警告公眾防范AI語(yǔ)音合成技術(shù)的騙局。記者最近的調(diào)查顯示，制作AI深度合成的音視頻并非難事，甚至在部分電商平臺(tái)，這項(xiàng)技術(shù)已成為網(wǎng)店盈利的手段，消費(fèi)者只需支付數(shù)十元，即可定制名人的AI音視頻。

那么，這些高度逼真的AI換聲和換臉視頻是如何制作的呢？記者發(fā)現(xiàn)，盡管在應(yīng)用商店中可以找到一些換臉換聲的工具，但這些工具的效果往往不夠逼真，且場(chǎng)景固定。對(duì)于網(wǎng)店所制作的高質(zhì)量AI音視頻，其背后的制作技術(shù)顯然更為復(fù)雜。

據(jù)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)專家薛智慧介紹，目前網(wǎng)絡(luò)上存在多種開源軟件和工具，可以實(shí)現(xiàn)換聲和換臉效果，用戶可自由下載并在個(gè)人電腦上安裝使用。然而，這些軟件屬于半專業(yè)工具，需要調(diào)整多個(gè)參數(shù)，步驟繁瑣，因此不為普通網(wǎng)民所熟知。盡管如此，短視頻平臺(tái)上仍有不少主播教授如何使用這些軟件。

針對(duì)電商平臺(tái)使用AI深度合成技術(shù)制作并出售名人音視頻的行為，法律專家指出，這已明確觸犯相關(guān)法律。根據(jù)《中華人民共和國(guó)民法典》及相關(guān)規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。因此，網(wǎng)店接受訂單制作名人AI音視頻，已構(gòu)成侵權(quán)行為，需承擔(dān)法律責(zé)任。

北京航空航天大學(xué)法學(xué)院副教授趙精武提到，國(guó)內(nèi)已審結(jié)首例AI生成聲音人格權(quán)侵權(quán)案，法院認(rèn)定被告在未授權(quán)情況下使用原告配音演員的聲音進(jìn)行AI生成并出售的行為構(gòu)成侵權(quán)。這表明，我國(guó)法律對(duì)自然人聲音的保護(hù)已十分明確。

面對(duì)AI深度合成音視頻侵權(quán)的日益嚴(yán)重，專家建議公眾提高防范意識(shí)。薛智慧指出，技術(shù)上可以利用AI對(duì)抗和檢測(cè)AI，目前已有一些AI技術(shù)能夠檢測(cè)圖片或音視頻是否經(jīng)過(guò)后期加工和合成。

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)委員呂延輝強(qiáng)調(diào)，防范AI侵權(quán)需要從法律、平臺(tái)和公眾等多個(gè)層面綜合施策。法律層面應(yīng)完善立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。平臺(tái)則需強(qiáng)化政策法規(guī)的宣貫和執(zhí)行，利用技術(shù)手段規(guī)避AI克隆侵權(quán)，同時(shí)建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制。

趙精武副教授提醒，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止未進(jìn)行顯著標(biāo)識(shí)和提示的AI合成信息的發(fā)布和傳播。他呼吁AI深度合成制作和信息發(fā)布者不要心存僥幸，以免因小失大。