近期，人工智能（AI）技術(shù)的迅猛發(fā)展在極大程度上便捷了社會生活，但與此同時，一系列安全隱患也隨之浮現(xiàn)。其中，深度偽造技術(shù)的濫用尤為引人關(guān)注，它能夠創(chuàng)造出高度仿真的視頻與圖像，卻并非基于真實，已對社會秩序造成了不小的沖擊。
據(jù)相關(guān)報道，今年以來，利用AI深度偽造技術(shù)假冒名人的現(xiàn)象屢見不鮮。一個令人震驚的案例是，不法分子通過AI技術(shù)，偽造了知名醫(yī)生張文宏的面部形象與聲音，以此進行直播帶貨，竟然成功銷售了1200多件蛋白棒產(chǎn)品。這一事件不僅侵犯了張文宏醫(yī)生的肖像權(quán)和名譽權(quán)，也嚴重誤導(dǎo)了消費者。
不僅如此，劉德華和雷軍等知名人士也成為了AI偽造技術(shù)的受害者。劉德華的聲音被不法分子惡意用于短視頻制作，以吸引流量，其電影公司也不得不多次發(fā)布聲明，提醒公眾注意防范。這些事件無疑給公眾人物帶來了極大的困擾和損失。
專家指出，當前的AI技術(shù)已經(jīng)能夠通過深度學(xué)習(xí)輕松克隆他人的面部和聲音，甚至僅需一張照片和一段語音樣本即可完成。然而，這種技術(shù)并非完美無缺。偽造的視頻在實時直播方面存在困難，同時在臉部輪廓、背景融合度等細節(jié)上也會露出破綻。只要觀眾仔細觀察，便能在口型與語音匹配度等方面發(fā)現(xiàn)異常。
對于這類侵權(quán)行為，法律已經(jīng)有了明確的規(guī)定。根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》，未經(jīng)授權(quán)使用他人形象或聲音進行商業(yè)活動，發(fā)布者將可能面臨損害賠償和刑事責(zé)任的雙重處罰。同時，如果消費者因AI假冒名人帶貨而上當受騙，也可以依據(jù)消費者權(quán)益保護法要求“退一賠三”，維護自己的合法權(quán)益。
專家還呼吁短視頻平臺承擔起主體責(zé)任，加強對內(nèi)容的審核與管理，及時下架違規(guī)內(nèi)容，并對發(fā)布者采取信用管理和處罰措施。只有各方共同努力，才能有效遏制AI深度偽造技術(shù)的濫用，維護社會的正常秩序和公眾的合法權(quán)益。
