近年來，AI深度合成技術(shù)引發(fā)的音視頻侵權(quán)事件頻發(fā)，從惡搞企業(yè)家雷軍，到利用AI制作張文宏醫(yī)生的音視頻進(jìn)行帶貨，甚至有不法分子借此技術(shù)進(jìn)行詐騙，這一系列事件引起了廣泛關(guān)注。

劉德華的聲音也曾被不法分子利用AI技術(shù)偽造，用于吸引流量。對(duì)此，劉德華的電影公司迅速發(fā)布聲明，提醒公眾警惕此類AI語音合成技術(shù)的騙局。記者調(diào)查發(fā)現(xiàn)，AI深度合成音視頻的制作門檻并不高，一些購(gòu)物平臺(tái)上的網(wǎng)店甚至以此為生，只需幾十元，就能定制名人的AI深度合成音視頻。

那么，這些高度逼真的AI換聲和換臉視頻是如何制作的呢？記者發(fā)現(xiàn)，雖然手機(jī)應(yīng)用商城中有不少換臉換聲工具，但它們的逼真度普遍不高。相比之下，網(wǎng)店制作的AI深度合成音視頻則顯得更為真實(shí)。專家指出，目前網(wǎng)絡(luò)上存在多種開源軟件和工具，可以實(shí)現(xiàn)換聲和換臉效果，這些軟件雖然有一定的技術(shù)門檻，但并非難以獲取。

據(jù)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)的專家薛智慧介紹，這些開源軟件可供網(wǎng)民自由下載，并在自己的電腦上進(jìn)行安裝和使用。雖然這些軟件屬于半專業(yè)軟件，步驟較多，但在短視頻平臺(tái)上，已有眾多主播開始教授如何使用這些軟件。

針對(duì)網(wǎng)絡(luò)購(gòu)物平臺(tái)上使用AI深度合成技術(shù)制作出售名人音視頻的行為，專家表示這已觸犯相關(guān)法律。根據(jù)相關(guān)法律法規(guī)，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。因此，網(wǎng)店接單制作名人AI深度合成視頻，已屬于侵權(quán)行為，并應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

北京航空航天大學(xué)法學(xué)院副教授趙精武指出，我國(guó)《民法典》已將自然人的聲音視為一種人格權(quán)益，具有人身專屬性。在司法實(shí)踐中，國(guó)內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案，法院最終認(rèn)定被告的行為構(gòu)成侵權(quán)。

面對(duì)AI深度合成音視頻侵權(quán)的問題，專家建議從多個(gè)層面進(jìn)行防范。從技術(shù)角度來看，可以利用AI技術(shù)來對(duì)抗和檢測(cè)AI。當(dāng)前已有一些典型的AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測(cè)，判斷其是否經(jīng)過后期加工和合成。同時(shí)，法律層面也需要進(jìn)一步完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。

平臺(tái)方面，應(yīng)強(qiáng)化相關(guān)政策法規(guī)的宣貫和執(zhí)行，做好已有數(shù)據(jù)的保護(hù)，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生。還應(yīng)建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和處理侵權(quán)問題。法律專家也提醒AI深度合成制作和信息發(fā)布者，不要心存僥幸，法律沒有灰色地帶。

趙精武副教授強(qiáng)調(diào)，法律并不是禁止使用AI合成技術(shù)，而是禁止不合法不合理的使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識(shí)和提示的AI合成信息的發(fā)布和傳播。公眾也應(yīng)提高防范意識(shí)，學(xué)會(huì)識(shí)別AI合成內(nèi)容，以免被誤導(dǎo)。