近年來(lái)，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)事件頻發(fā)，從惡搞企業(yè)家雷軍，到利用AI制作張文宏醫(yī)生的音視頻進(jìn)行帶貨，甚至有不法分子借此進(jìn)行詐騙活動(dòng)，這一系列事件引起了廣泛關(guān)注。

早先，有網(wǎng)友利用AI技術(shù)模仿劉德華的聲音，企圖借此獲取流量。對(duì)此，劉德華的電影公司迅速發(fā)表聲明，警告網(wǎng)民不要受騙于這種利用AI語(yǔ)音合成技術(shù)偽造的劉德華聲音。最近，媒體調(diào)查發(fā)現(xiàn)，制作AI深度合成的音視頻并不困難，甚至在某些購(gòu)物平臺(tái)上，這種技術(shù)已成為網(wǎng)店盈利的工具。消費(fèi)者只需花費(fèi)少量金額，就能定制名人AI深度合成的音視頻。

那么，這些高度逼真的AI換聲和換臉視頻是如何制作的呢？媒體深入調(diào)查發(fā)現(xiàn)，網(wǎng)絡(luò)上下載相關(guān)的深度合成軟件并不困難，而且還有網(wǎng)絡(luò)主播通過直播教授網(wǎng)友如何使用這些軟件。在手機(jī)應(yīng)用商店搜索“換臉換聲”，可以找到許多相關(guān)工具，但這些工具通常設(shè)置了固定場(chǎng)景，且效果逼真度有限。

據(jù)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)的專家薛智慧介紹，目前有許多開源軟件和工具可以實(shí)現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。盡管這類軟件多達(dá)數(shù)十種，但由于它們需要根據(jù)不同場(chǎng)景調(diào)整參數(shù)，步驟繁瑣，屬于半專業(yè)軟件，因此并不為大眾所熟知。然而，短視頻平臺(tái)上已有不少主播在教授如何使用這些軟件。

關(guān)于在購(gòu)物平臺(tái)上使用AI深度合成技術(shù)制作并出售名人音視頻是否違法的問題，專家指出，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作并發(fā)布他人信息。因此，網(wǎng)店接單制作名人AI深度合成視頻已構(gòu)成侵權(quán)，應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

北京航空航天大學(xué)法學(xué)院副教授趙精武提到，國(guó)內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案。在這起案件中，一名配音演員的聲音在未經(jīng)授權(quán)的情況下被AI生成并出售。法院認(rèn)為，我國(guó)民法典已將自然人的聲音視為一種人格權(quán)益，具有人身專屬性，因此判定被告行為構(gòu)成侵權(quán)。

專家強(qiáng)調(diào)，不僅是名人，普通人甚至動(dòng)畫形象，如果未經(jīng)本人或版權(quán)方同意，使用AI合成制作其音視頻，同樣構(gòu)成侵權(quán)行為，應(yīng)承擔(dān)法律責(zé)任。面對(duì)AI深度合成技術(shù)的普及，公眾應(yīng)如何提高防范意識(shí)呢？薛智慧專家表示，從技術(shù)角度來(lái)看，可以利用AI技術(shù)來(lái)對(duì)抗和檢測(cè)AI。目前已有一些AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測(cè)，判斷其是否經(jīng)過后期加工或合成。

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)委員呂延輝建議，防范AI侵權(quán)問題需要從法律、平臺(tái)和公眾等多個(gè)層面綜合施策。法律層面應(yīng)完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。平臺(tái)層面應(yīng)強(qiáng)化政策法規(guī)的宣貫和執(zhí)行，保護(hù)已有數(shù)據(jù)，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生，同時(shí)建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和處理侵權(quán)問題。

法律專家還提醒AI深度合成制作和信息發(fā)布者，不要抱有僥幸心理，法律沒有灰色地帶，切勿因小失大。趙精武副教授強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識(shí)和提示的AI合成信息的發(fā)布和傳播。