近年來，AI深度合成技術(shù)在網(wǎng)絡(luò)上引發(fā)了諸多爭議，從對企業(yè)家雷軍的惡搞，到利用AI制作張文宏醫(yī)生的音視頻進(jìn)行帶貨，甚至有不法分子借此進(jìn)行詐騙活動，這一技術(shù)的濫用現(xiàn)象愈發(fā)嚴(yán)重。
去年，就有網(wǎng)友利用AI技術(shù)模仿劉德華的聲音，以此吸引流量。劉德華的電影公司迅速發(fā)表聲明，提醒公眾警惕這種利用AI語音合成技術(shù)的騙局。最近，記者的調(diào)查顯示，制作AI深度合成的音視頻并非難事，甚至在一些購物平臺上，這種技術(shù)已成為網(wǎng)店盈利的工具。只需花費(fèi)少量金錢，就能定制名人的AI深度合成音視頻。
那么，這些高度逼真的AI合成聲音和換臉視頻是如何制作的呢？記者發(fā)現(xiàn)，相應(yīng)的深度合成軟件在網(wǎng)絡(luò)上并不難找到，甚至還有一些網(wǎng)絡(luò)主播開設(shè)直播，教授網(wǎng)友如何使用這些軟件。
在手機(jī)應(yīng)用商城搜索“換臉換聲”，會出現(xiàn)大量相關(guān)工具。然而，記者發(fā)現(xiàn)這些工具大多設(shè)定了固定的場景，且效果逼真度不高。那么，網(wǎng)店是如何制作出高逼真度的AI合成音視頻的呢？
據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，目前網(wǎng)絡(luò)上存在許多開源軟件和工具，可以實(shí)現(xiàn)換聲和換臉的效果，網(wǎng)民可以自由下載并在自己的電腦上安裝使用。
專家表示，盡管這類軟件在網(wǎng)絡(luò)上多達(dá)數(shù)十種，但由于不同的場景需要調(diào)整相應(yīng)的參數(shù)，步驟較多，屬于半專業(yè)軟件，具有一定的技術(shù)門檻，因此并不為普通網(wǎng)民所熟知。然而，記者發(fā)現(xiàn)，在短視頻平臺上，有許多主播正在教授網(wǎng)民如何使用這些軟件。
那么，在網(wǎng)絡(luò)購物平臺上使用AI深度合成技術(shù)制作并出售名人的音視頻，是否違反了相關(guān)法律呢？專家指出，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作并發(fā)布他人信息。網(wǎng)店接單制作名人AI視頻的行為，已經(jīng)構(gòu)成侵權(quán)，并應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。
北京航空航天大學(xué)法學(xué)院副教授趙精武指出，國內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案。在這起案件中，一名配音演員的聲音在未經(jīng)授權(quán)的情況下被AI生成并對外出售。法院認(rèn)為，我國民法典已將自然人的聲音視為一種人格權(quán)益，具有人身專屬性，因此認(rèn)定被告的行為構(gòu)成侵權(quán)。
不僅是名人，普通人甚至動畫形象，如果未經(jīng)本人或版權(quán)方同意，就被AI合成制作音視頻，同樣可以判定為侵權(quán)行為，并應(yīng)承擔(dān)法律責(zé)任。隨著相關(guān)技術(shù)的普及，我們該如何防范AI深度合成音視頻侵權(quán)問題呢？
薛智慧專家表示，從技術(shù)角度來看，可以利用AI技術(shù)來對抗和檢測AI。目前已有一些典型的AI技術(shù)能夠?qū)D片或音視頻進(jìn)行檢測，判斷或分析這些圖片是否經(jīng)過后期加工和合成。
中國計算機(jī)學(xué)會計算機(jī)安全專業(yè)委員會委員呂延輝指出，防范AI侵權(quán)問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面要完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，并加強(qiáng)執(zhí)法力度。平臺層面要強(qiáng)化政策法規(guī)的宣貫和執(zhí)行，做好數(shù)據(jù)保護(hù)，應(yīng)用技術(shù)手段規(guī)避AI克隆侵權(quán)問題的發(fā)生，同時建立健全內(nèi)容審核和侵權(quán)舉報機(jī)制。
法律專家也提醒AI深度合成制作和信息發(fā)布者，不要抱有僥幸心理。法律沒有灰色地帶，切勿因小失大。
趙精武副教授強(qiáng)調(diào)，法律并非禁止使用AI合成技術(shù)，而是禁止不合法、不合理地使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識和提示的AI合成信息的發(fā)布和傳播。
