【ITBEAR科技資訊】11月30日消息，谷歌DeepMind團(tuán)隊(duì)今日推出了一款名為SynthID的工具，以應(yīng)對(duì)日益增長(zhǎng)的AI生成圖像問題。該工具可以在AI生成的圖像中嵌入人眼不可見的水印，以便于區(qū)分真實(shí)和虛假的內(nèi)容。據(jù)ITBEAR科技資訊了解，SynthID已經(jīng)開放給谷歌云平臺(tái)上的部分客戶使用。
據(jù)悉，SynthID通過在圖像的像素中嵌入水印來實(shí)現(xiàn)，而且不會(huì)對(duì)圖像本身的質(zhì)量和體驗(yàn)造成影響。這種水印能夠抵抗常見的圖片編輯操作，如裁剪、縮放等，只有專門的AI檢測(cè)工具才能檢測(cè)出來。谷歌 DeepMind的CEO Demis Hassabis表示，隨著AI模型的改進(jìn)，這種水印將變得更加隱蔽和強(qiáng)大。
SynthID的工具還可以告訴用戶圖像是由人工智能生成的可能性有多大。Hassabis表示，SynthID是為了解決深度偽造等潛在危險(xiǎn)問題而開發(fā)的，他認(rèn)為，在2024年美國(guó)和英國(guó)即將舉行大選的背景下，建立AI圖像識(shí)別系統(tǒng)非常重要。此外，他還表示，SynthID的基本思想也可以應(yīng)用于視頻和文本等其他媒體。
目前，SynthID只能在谷歌云平臺(tái)上使用，主要面向使用Vertex AI平臺(tái)和Imagen圖像生成器的客戶。Hassabis希望通過在真實(shí)場(chǎng)景中進(jìn)行測(cè)試，進(jìn)一步改進(jìn)SynthID。隨后，谷歌將在更多領(lǐng)域應(yīng)用該工具，并與更多合作伙伴分享，提高公眾的意識(shí)和教育。
需要注意的是，除了谷歌之外，還有許多其他公司也在致力于建立AI保護(hù)和安全系統(tǒng)。例如，meta、******等公司正在采用一種名為C2PA的協(xié)議，利用加密元數(shù)據(jù)來標(biāo)記AI生成的內(nèi)容。Hassabis表示，SynthID有可能成為互聯(lián)網(wǎng)范圍內(nèi)的標(biāo)準(zhǔn)之一，但他同時(shí)強(qiáng)調(diào)，這只是一個(gè)初步嘗試，并不能解決深度偽造問題的所有困難。他稱：“在我們證明了技術(shù)基礎(chǔ)部分有效之前，考慮擴(kuò)展和社會(huì)討論還為時(shí)過早?！?/p>
