近年來，AI技術(shù)在音視頻領(lǐng)域的深度合成應(yīng)用引發(fā)了廣泛關(guān)注，尤其是其被用于侵權(quán)行為的案例層出不窮。從對企業(yè)家雷軍的惡搞，到利用AI制作的張文宏醫(yī)生音視頻進(jìn)行個(gè)人帶貨，這些現(xiàn)象不僅侵犯了公眾人物的權(quán)益，也擾亂了市場秩序。

早前，網(wǎng)絡(luò)上曾出現(xiàn)利用AI技術(shù)合成的劉德華聲音，這一行為迅速吸引了大量流量。對此，劉德華的電影公司迅速發(fā)布聲明，警告網(wǎng)民不要上當(dāng)受騙，因?yàn)檫@是一種利用AI語音合成技術(shù)偽造的騙局。

央視新聞近期的一項(xiàng)調(diào)查顯示，制作AI深度合成的音視頻并不復(fù)雜，甚至在一些電商平臺(tái)上，這項(xiàng)技術(shù)已經(jīng)成了網(wǎng)店牟利的手段。消費(fèi)者只需支付幾十元，就可以定制到名人的AI深度合成音視頻。

記者親身體驗(yàn)了一款個(gè)性化定制的文生音模型服務(wù)，發(fā)現(xiàn)僅需198元就可以定制一個(gè)角色的聲音，而如果愿意支付更高的費(fèi)用，如超過千元，則可以定制多達(dá)六個(gè)角色的聲音。在該產(chǎn)品的頁面上，已經(jīng)展示了包括楊冪、劉亦菲、丁真、成龍等名人的聲音樣本，用戶只需簡單操作，就能將這些克隆聲音添加到自己的角色庫中。

面對這一亂象，相關(guān)法律法規(guī)已有明確規(guī)定，禁止未經(jīng)授權(quán)深度合成制作并發(fā)布他人信息。然而，一些網(wǎng)店仍然接單制作名人的AI深度合成視頻，這種行為已經(jīng)構(gòu)成了侵權(quán)，并應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

值得注意的是，這種侵權(quán)行為不僅損害了公眾人物的權(quán)益，也對社會(huì)風(fēng)氣產(chǎn)生了不良影響。一些不法分子利用AI技術(shù)偽造名人音視頻，進(jìn)行欺詐或誤導(dǎo)消費(fèi)者，嚴(yán)重破壞了市場的公平性和誠信度。

隨著AI技術(shù)的不斷發(fā)展，未來可能會(huì)有更多新的應(yīng)用場景和挑戰(zhàn)出現(xiàn)。因此，社會(huì)各界應(yīng)共同關(guān)注AI技術(shù)的倫理和法律問題，推動(dòng)其健康、有序地發(fā)展。