近年來，人工智能（AI）深度合成技術(shù)引發(fā)了廣泛的關(guān)注與爭議，從對企業(yè)家雷軍的惡搞，到利用AI制作張文宏醫(yī)生的音視頻進(jìn)行帶貨，甚至有不法分子借此進(jìn)行詐騙活動，AI深度合成音視頻的濫用現(xiàn)象愈發(fā)嚴(yán)重。

早前，有網(wǎng)友利用AI技術(shù)模仿劉德華的聲音，以此吸引流量。對此，劉德華的電影公司迅速發(fā)表聲明，警告公眾不要上當(dāng)受騙，強(qiáng)調(diào)這是利用AI語音合成技術(shù)的偽造聲音。最近，記者通過調(diào)查發(fā)現(xiàn)，制作AI深度合成音視頻并非難事，在一些購物平臺上，這種技術(shù)已成為網(wǎng)店盈利的手段，僅需幾十元，顧客便能定制名人的AI深度合成音視頻。

值得注意的是，網(wǎng)絡(luò)上出現(xiàn)了不少網(wǎng)絡(luò)主播通過直播教授如何使用這些AI深度合成技術(shù)。記者在應(yīng)用商城搜索“換臉換聲”，發(fā)現(xiàn)了大量相關(guān)工具，但這些工具的逼真度普遍不高，且場景固定。那么，網(wǎng)店是如何制作出高逼真度的AI深度合成音視頻的呢？

據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，目前網(wǎng)絡(luò)上有許多開源軟件和工具可以實現(xiàn)換聲和換臉效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。雖然這些軟件多達(dá)數(shù)十種，但由于操作復(fù)雜，需要調(diào)整多種參數(shù)，因此并不為大眾所熟知。

針對網(wǎng)絡(luò)購物平臺上利用AI深度合成技術(shù)制作并出售名人音視頻的行為，專家指出，這違反了相關(guān)法律法規(guī)。未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息，這種行為已構(gòu)成侵權(quán)，并應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。實際上，國內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案，法院最終認(rèn)定被告的行為構(gòu)成侵權(quán)。

面對AI深度合成音視頻侵權(quán)的泛濫，專家建議從多個層面進(jìn)行綜合施策。從技術(shù)角度來看，可以利用AI技術(shù)對抗和檢測AI。目前已有一些典型的AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測，判斷其是否經(jīng)過后期加工或合成。同時，法律層面也需要進(jìn)一步完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。

平臺方面，應(yīng)強(qiáng)化相關(guān)政策法規(guī)的宣貫和執(zhí)行，做好數(shù)據(jù)的保護(hù)工作，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生。還需要建立健全內(nèi)容審核和侵權(quán)舉報機(jī)制，及時發(fā)現(xiàn)和處理侵權(quán)問題。法律專家也提醒AI深度合成制作和信息發(fā)布者，不要心存僥幸，法律面前沒有灰色地帶。

北京航空航天大學(xué)法學(xué)院副教授趙精武強(qiáng)調(diào)，法律并不禁止使用AI合成技術(shù)，而是禁止不合法、不合理的使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識和提示的AI合成信息的發(fā)布和傳播。他呼吁相關(guān)從業(yè)者遵守法律法規(guī)，共同維護(hù)一個健康、安全的網(wǎng)絡(luò)環(huán)境。

專家還建議公眾提高防范意識，學(xué)會識別AI合成的音視頻，避免上當(dāng)受騙。隨著技術(shù)的不斷發(fā)展，公眾也應(yīng)不斷學(xué)習(xí)和適應(yīng)新的網(wǎng)絡(luò)環(huán)境，共同促進(jìn)網(wǎng)絡(luò)空間的健康發(fā)展。