近期，網(wǎng)絡上出現(xiàn)了一系列引人注目的現(xiàn)象，涉及多位公眾人物的音視頻被AI技術深度合成并廣泛傳播。其中，小米公司CEO雷軍的聲音被用于一系列短視頻中，這些視頻針對堵車、假期安排、調(diào)休制度以及游戲等熱門話題發(fā)表了尖銳評論，甚至包含不文明語言，迅速在網(wǎng)絡上引起了軒然大波。

然而，經(jīng)核實，這些視頻中的聲音并非雷軍本人所出，而是由先進的AI技術生成的配音。這一發(fā)現(xiàn)讓不少網(wǎng)友大跌眼鏡，同時也引發(fā)了關于AI技術濫用和監(jiān)管的討論。

不僅如此，網(wǎng)絡上還出現(xiàn)了“張文宏醫(yī)生”推銷蛋白棒的音視頻，這些視頻的口型和聲音與張文宏本人高度相似，導致部分老年人誤信并下單購買。面對這一情況，張文宏醫(yī)生不得不向平臺方提出投訴，并表示自己曾考慮過報警，但由于對方頻繁更換賬號且全部使用虛擬信息，如同幽靈般難以追蹤，最終只能寄希望于相關部門加強監(jiān)管力度。

AI深度合成音視頻技術的濫用現(xiàn)象正在愈演愈烈。多位配音演員表示，他們的聲音被AI技術“盜用”，甚至有人利用這些聲音仿冒他人親屬進行詐騙活動。這一現(xiàn)象不僅損害了公眾人物的聲譽，也對普通人的隱私和安全構成了嚴重威脅。

央視新聞近日也報道了AI合成名人音視頻亂象。據(jù)報道，去年3月，劉德華的電影公司發(fā)布聲明，指出有網(wǎng)友利用AI技術合成的劉德華聲音進行虛假宣傳，散布關于演唱會的不實信息，并收取門票訂金等。這一行為不僅侵犯了劉德華的肖像權和名譽權，也給消費者帶來了經(jīng)濟損失。

調(diào)查發(fā)現(xiàn)，實現(xiàn)AI深度合成音視頻的技術門檻并不高。在一些購物平臺上，AI深度合成技術已成為眾多網(wǎng)店牟利的工具。只需花費少量金錢，就可以定制AI深度合成的名人音視頻。專家指出，目前有許多開源軟件和工具可以實現(xiàn)換聲換臉的效果，但這些軟件通常屬于半專業(yè)級別，需要調(diào)整參數(shù)和步驟較多，因此并不被普通網(wǎng)民所熟知。

然而，隨著算法的不斷迭代升級和高性能設備的支持，AI生成的音視頻已經(jīng)越來越難以分辨真?zhèn)?。不少網(wǎng)友因此上當受騙。值得注意的是，相關法律法規(guī)明確規(guī)定，未經(jīng)授權不得深度合成制作發(fā)布他人信息。網(wǎng)店接單進行AI深度合成制作名人視頻的行為已經(jīng)構成侵權，并應承擔相應的法律責任。

不僅是名人，普通人甚至動畫形象的音視頻，如果未經(jīng)本人或版權方同意就被AI合成制作并發(fā)布，同樣可以視為侵權行為，并應承擔法律責任。這一規(guī)定的出臺旨在保護公眾的隱私權和版權利益，防止AI技術的濫用給社會帶來負面影響。

目前，已有不少主播在短視頻平臺上教授網(wǎng)民如何使用相關軟件進行AI深度合成。雖然這些教程為網(wǎng)民提供了更多學習和探索的機會，但同時也加劇了AI技術濫用的風險。因此，相關部門應加強對AI技術的監(jiān)管力度，確保其在合法、合規(guī)的范圍內(nèi)使用。