隨著人工智能技術(shù)的迅猛發(fā)展，一些原本僅存在于科幻場(chǎng)景中的現(xiàn)象正逐步走進(jìn)現(xiàn)實(shí)生活。近日，一起利用AI技術(shù)仿冒知名人士進(jìn)行虛假宣傳的事件引發(fā)了廣泛關(guān)注，微信平臺(tái)迅速響應(yīng)，采取了相應(yīng)的處理措施。
微信官方公眾號(hào)“微信珊瑚安全”于昨日發(fā)布了《嚴(yán)厲打擊利用AI仿冒名人營(yíng)銷(xiāo)宣傳的公告》。公告指出，近期微信平臺(tái)發(fā)現(xiàn)部分不法分子通過(guò)先進(jìn)的AI技術(shù)，如合成視頻和模擬聲音等，冒充知名人士進(jìn)行商品推廣、散布謠言等非法營(yíng)銷(xiāo)活動(dòng)，以此騙取流量和利益。對(duì)此，微信已迅速且嚴(yán)厲地打擊了一批違規(guī)行為，共處理了532條相關(guān)內(nèi)容，并關(guān)閉了209個(gè)違規(guī)賬號(hào)。
據(jù)公告內(nèi)容，仿冒名人進(jìn)行營(yíng)銷(xiāo)宣傳已成為一種常見(jiàn)的欺詐手段。不法分子利用AI技術(shù)合成知名人士的音視頻內(nèi)容，以此進(jìn)行虛假宣傳，誘使消費(fèi)者購(gòu)買(mǎi)相關(guān)產(chǎn)品或服務(wù)。例如，近期知名醫(yī)生張文宏的面部形象被不法分子盜用，通過(guò)換臉技術(shù)植入帶貨視頻中，推銷(xiāo)某蛋白類(lèi)產(chǎn)品，從中牟利。張文宏本人也多次向平臺(tái)投訴，表示這類(lèi)賬號(hào)頻繁更換，難以根除。
AI技術(shù)還被用于生成知名人士的語(yǔ)音或視頻內(nèi)容，用于搞笑或帶貨。例如，雷軍的聲音就被AI合成并在短視頻平臺(tái)上廣泛傳播，許多中老年用戶(hù)不明真相，誤以為真。最終，雷軍本人親自發(fā)聲，表達(dá)了對(duì)這種現(xiàn)象的困擾，并呼吁大家停止使用“雷軍語(yǔ)音包”。
當(dāng)前的AI技術(shù)無(wú)疑具有兩面性。一方面，它豐富了人們的娛樂(lè)生活，提高了工作效率；另一方面，也被不法分子用于欺詐和侵犯他人權(quán)益。要確保AI技術(shù)的合理利用，需要平臺(tái)方和個(gè)人用戶(hù)的共同努力。平臺(tái)應(yīng)利用人工智能和大數(shù)據(jù)統(tǒng)計(jì)等技術(shù)手段，加強(qiáng)對(duì)平臺(tái)內(nèi)容的監(jiān)測(cè)和識(shí)別，合理控制AI內(nèi)容的生成數(shù)量和趨勢(shì)，并對(duì)AI內(nèi)容進(jìn)行明確提醒。目前，已有多個(gè)平臺(tái)為AI內(nèi)容添加了明顯的“AI生成”標(biāo)簽。對(duì)于違規(guī)的AI內(nèi)容，平臺(tái)應(yīng)及時(shí)下架并處罰發(fā)布賬號(hào)。
同時(shí)，個(gè)人用戶(hù)也應(yīng)遵守相關(guān)法律法規(guī)和道德規(guī)范，避免利用AI技術(shù)生成違規(guī)或不當(dāng)內(nèi)容。了解相關(guān)AI案例，提高警惕，可以有效防止被誤導(dǎo)和詐騙。微信平臺(tái)對(duì)AI仿冒名人營(yíng)銷(xiāo)行為的嚴(yán)厲打擊，不僅是對(duì)違規(guī)行為的懲罰，更是對(duì)技術(shù)濫用行為的警示。在享受AI技術(shù)帶來(lái)的便利時(shí)，我們也應(yīng)保持警惕，防止AI技術(shù)的濫用。
