近日，直播帶貨公司“三只羊”因一段疑似其創(chuàng)始人盧文慶的醉酒音頻而陷入輿論漩渦。該音頻涉及敏感話(huà)題，引發(fā)廣泛關(guān)注。然而，經(jīng)警方調(diào)查，這段音頻竟為AI偽造之作。
據(jù)悉，偽造音頻使用的是名為“Reecho睿聲”的大模型技術(shù)，由深圳一家新興科技公司推出。該技術(shù)能夠通過(guò)短暫音頻樣本克隆聲音，生成高度逼真的AI語(yǔ)音。此事件不僅暴露了AI技術(shù)在聲音克隆領(lǐng)域的驚人進(jìn)展，也引發(fā)了公眾對(duì)AI內(nèi)容真實(shí)性和安全性的擔(dān)憂(yōu)。
AI聲音克隆技術(shù)的發(fā)展，如今已能讓普通人輕易“以假亂真”。市場(chǎng)上，類(lèi)似睿聲這樣的產(chǎn)品不在少數(shù)，它們大多宣稱(chēng)能夠快速定制個(gè)性化聲音，甚至模仿名人聲音。然而，這種技術(shù)的濫用也帶來(lái)了諸多法律風(fēng)險(xiǎn)，如聲音侵權(quán)、虛假信息傳播等。
業(yè)內(nèi)人士指出，盡管AI聲音克隆技術(shù)具有廣闊的市場(chǎng)前景，但其在應(yīng)用過(guò)程中的不可控性令人擔(dān)憂(yōu)。隨著技術(shù)的普及，如何確保AI生成內(nèi)容的真實(shí)性和合法性，已成為全球共同面臨的挑戰(zhàn)。
針對(duì)此次事件，相關(guān)法律專(zhuān)家表示，平臺(tái)在提供AI服務(wù)時(shí)，應(yīng)承擔(dān)起相應(yīng)的審核和安全評(píng)估責(zé)任。同時(shí)，用戶(hù)在使用這類(lèi)技術(shù)時(shí)，也應(yīng)遵守相關(guān)法律法規(guī)，避免侵犯他人權(quán)益。
目前，涉事公司已對(duì)事件作出回應(yīng)，表示將加強(qiáng)內(nèi)部審核機(jī)制，并提醒用戶(hù)遵守使用規(guī)則。然而，如何從根本上解決AI技術(shù)濫用問(wèn)題，仍需行業(yè)和社會(huì)共同探索。
