近日，深圳市睿域科技有限公司針對網(wǎng)絡(luò)上流傳的一段涉嫌偽造的音視頻資料發(fā)布聲明。據(jù)悉，該音視頻中的音頻部分，經(jīng)與合肥警方緊密配合調(diào)查，證實系由嫌疑人利用睿域科技自主研發(fā)的Reecho睿聲AI配音大模型平臺生成。
調(diào)查結(jié)果顯示，嫌疑人使用了盧某先前直播中的約30秒錄音作為克隆源，通過AI技術(shù)生成了偽造音頻。此事件引起了社會各界對AI技術(shù)應(yīng)用的合法性與安全性的廣泛關(guān)注。
睿域科技在聲明中表示，公司已經(jīng)迅速啟動內(nèi)部審核機(jī)制，并將進(jìn)一步加強用戶身份認(rèn)證及音頻生成的安全管控，以確保其技術(shù)能在合法合規(guī)的框架內(nèi)得到應(yīng)用。
合肥市公安局高新分局也于昨日發(fā)布了相關(guān)警情通報。通報指出，2024年9月20日，警方接到三只羊公司報警，稱網(wǎng)絡(luò)上傳播的涉及盧某某的音視頻內(nèi)容不實，嚴(yán)重侵犯了其合法權(quán)益。
經(jīng)過縝密偵查，警方于9月22日晚成功抓獲犯罪嫌疑人王某某，并在其電腦、手機(jī)及制作AI音頻的網(wǎng)站上找到了偽造音視頻的確鑿證據(jù)。經(jīng)專業(yè)機(jī)構(gòu)檢驗鑒定，確認(rèn)所涉網(wǎng)傳音視頻系王某某偽造。
調(diào)查顯示，王某某利用從互聯(lián)網(wǎng)上下載的音視頻資料，編造了盧某某酒后的言論腳本，隨后使用AI工具生成了假冒盧某某的音頻，并通過視頻軟件合成了偽造的音視頻。該偽造音視頻在網(wǎng)絡(luò)上迅速傳播，造成了惡劣的社會影響。目前，王某某已被警方依法采取刑事強制措施，案件正在進(jìn)一步偵辦當(dāng)中。
此案件不僅揭示了AI技術(shù)被濫用的風(fēng)險，也警示了社會各界需加強對AI技術(shù)的監(jiān)管和引導(dǎo)，確保其能夠在道德和法律的框架內(nèi)健康發(fā)展。
#AI技術(shù)濫用# #音視頻偽造# #合肥警方# #睿域科技# #安全管控#
