近年來，人工智能（AI）深度合成技術引發(fā)的音視頻侵權事件頻發(fā)，從戲謔企業(yè)家雷軍到假冒張文宏醫(yī)生進行商品推廣，乃至詐騙行為，這一技術被不法分子濫用的情況愈發(fā)嚴重。

此前，網(wǎng)絡上曾出現(xiàn)利用AI模仿劉德華聲音騙取流量的案例，迫使劉德華的電影公司緊急發(fā)表聲明，警告公眾警惕此類AI語音合成技術的騙局。

記者近期的一項調查顯示，制作AI深度合成的音視頻并非難事，甚至在部分電商平臺，這一技術已成為網(wǎng)店盈利的手段。消費者只需支付數(shù)十元，即可定制名人的AI深度合成音視頻。

更令人擔憂的是，一些網(wǎng)絡主播在直播平臺上教授觀眾如何使用這些技術。通過簡單的搜索，記者在手機應用商店找到了多款換臉和變聲工具，盡管它們的效果有限且場景固定，但專業(yè)網(wǎng)店制作的AI深度合成音視頻卻能達到極高的逼真度。

據(jù)中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專業(yè)委員會的專家薛智慧介紹，目前網(wǎng)絡上存在許多開源軟件和工具，可以實現(xiàn)換聲和換臉效果，公眾可以自由下載并在個人電腦上使用。然而，這些軟件具有一定的技術門檻，因為需要根據(jù)不同場景調整參數(shù)，步驟繁瑣。

盡管這些軟件不為大眾所熟知，但短視頻平臺上已有不少主播在教授如何使用這些工具。專家強調，未經(jīng)授權，利用AI深度合成技術制作和發(fā)布他人的音視頻信息，已經(jīng)違反了相關法律法規(guī)。

中國計算機學會計算機安全專業(yè)委員會委員呂延輝指出，《中華人民共和國民法典》明確規(guī)定，自然人享有肖像、聲音等權益，任何組織或個人未經(jīng)授權利用信息技術進行偽造，均構成侵權行為。國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布的規(guī)定也要求，不得利用深度合成服務制作、復制、發(fā)布、傳播法律禁止的信息。

北京航空航天大學法學院副教授趙精武提到，國內已經(jīng)審結了一起AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音未經(jīng)授權被AI生成并出售，法院最終認定該行為構成侵權。這突顯了AI深度合成技術濫用帶來的法律后果。

面對AI深度合成音視頻侵權的嚴峻形勢，專家建議公眾提高防范意識。薛智慧表示，從技術角度來看，可以利用AI技術對抗和檢測AI。當前已有一些AI技術能夠檢測圖片或音視頻是否經(jīng)過后期加工和合成。

呂延輝建議，防范AI侵權需要從法律、平臺和公眾等多個層面綜合施策。法律層面需要完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，并加強執(zhí)法力度。平臺層面應強化政策法規(guī)的宣貫和執(zhí)行，應用技術手段規(guī)避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制。

趙精武強調，法律并不禁止AI合成技術的使用，而是禁止不合法、不合理的使用，尤其是未經(jīng)顯著標識和提示的AI合成信息的發(fā)布和傳播。他提醒AI深度合成制作和信息發(fā)布者，切勿心存僥幸，以免因小失大。