【ITBEAR】9月7日消息，近日，一項由中國科學院女性算法工程師張欣怡發(fā)布的九宮格測試在微博上引起了廣泛關注。該測試旨在揭示Deepfake技術的“高模擬性”，讓公眾認識到這種技術所帶來的潛在威脅。測試中，真人與AI生成的人像混雜在一起，令人難以分辨。
據(jù)ITBEAR了解，張欣怡所發(fā)布的這項測試并非簡單的惡搞，而是基于其團隊多年研發(fā)的AI大模型成果。這款大模型在近日的外灘大會AI攻防挑戰(zhàn)賽中榮獲季軍，展現(xiàn)了強大的圖像和視頻分析能力。它能夠精準識別出由Deepfake技術偽造的內容，為打擊網(wǎng)絡虛假信息提供了新的武器。
Deepfake技術的濫用已經(jīng)成為全球性的問題。最近，韓國多名女性通過社交平臺發(fā)帖求助，揭露了Deepfake技術在韓國被用于制作惡意換臉視頻的情況。這些視頻不僅侵犯了受害者的隱私和名譽，更給她們帶來了巨大的心理壓力。同時，此類犯罪還呈現(xiàn)出低齡化的趨勢，對青少年教育和社會未來造成了不良影響。
在國內，Deepfake技術也同樣被不法分子利用。例如，“平安包頭”曾公布的一起案例中，騙子利用AI換臉技術冒充受害人的朋友進行詐騙。這種新型的詐騙手段讓缺乏辨別能力的老年人和青少年更容易上當受騙。
面對Deepfake技術的威脅，全球科研工作者正在積極應對。張欣怡團隊的開源行為無疑是吹響了反Deepfake的集結號。此外，韓國媒體監(jiān)管機構已經(jīng)要求Telegram等平臺刪除惡意內容，并設立了專門熱線以加強合作。麻省理工的研究者們也開發(fā)出了可以簡易識別AI生成視頻的工具。
在這場世界級的“攻防戰(zhàn)”中，我們看到了科技的力量和人類的智慧。張欣怡在微博中的話語也給了我們信心和希望：“這個世界有黑暗，也有照亮黑暗的光。如果一個人的火把太小，我們就把火把傳給世界的每一個人?！弊屛覀償y手共進，用科技之光照亮黑暗，守護真實與美好。
#Deepfake# #AI大模型# #網(wǎng)絡虛假信息# #科技防范# #全球合作#
