近期，斯坦福大學(xué)社會(huì)媒體實(shí)驗(yàn)室的創(chuàng)立者及錯(cuò)誤信息領(lǐng)域的專(zhuān)家杰夫·漢考克，在一項(xiàng)涉及明尼蘇達(dá)州選舉法案的法庭文件中，承認(rèn)借助了人工智能工具ChatGPT來(lái)輔助整理文獻(xiàn)資料。然而，這一行為卻引發(fā)了關(guān)于文件可信度的廣泛爭(zhēng)議。
漢考克提交的這份宣誓證詞，旨在支持明尼蘇達(dá)州一項(xiàng)旨在規(guī)范使用深度偽造技術(shù)影響選舉的法案。然而，該法案正面臨來(lái)自保守派YouTuber克里斯托弗·科爾斯及明尼蘇達(dá)州眾議員瑪麗·弗蘭森等人的挑戰(zhàn)。在審查過(guò)程中，他們的律師發(fā)現(xiàn)漢考克的宣誓證詞中引用了并不存在的文獻(xiàn)，質(zhì)疑其可靠性，并請(qǐng)求在審議過(guò)程中將其排除。
面對(duì)質(zhì)疑，漢考克坦然承認(rèn)了自己使用了ChatGPT這一事實(shí)，但堅(jiān)決否認(rèn)用它來(lái)撰寫(xiě)證詞內(nèi)容。他強(qiáng)調(diào)，證詞的全部?jī)?nèi)容均出自他之手，并且每一項(xiàng)主張都基于最新的學(xué)術(shù)研究，同時(shí)反映了他作為專(zhuān)家對(duì)于人工智能與虛假信息社會(huì)影響的深刻見(jiàn)解。
關(guān)于引文錯(cuò)誤的問(wèn)題，漢考克給出了詳細(xì)的解釋。他表示，在準(zhǔn)備證詞時(shí)，他利用Google Scholar和GPT-4來(lái)搜索可能與證詞相關(guān)的文章，以便將已知知識(shí)與新研究相結(jié)合。在創(chuàng)建引文列表的過(guò)程中，他使用了GPT-4，但并未意識(shí)到該工具生成了兩個(gè)錯(cuò)誤的引文，即所謂的“幻覺(jué)”，并且為另一個(gè)引文錯(cuò)誤地添加了作者。
漢考克對(duì)此表示深感抱歉，他強(qiáng)調(diào)自己無(wú)意誤導(dǎo)法院或律師，并對(duì)由此造成的混亂表示誠(chéng)摯的歉意。盡管如此，他依然堅(jiān)持認(rèn)為宣誓證詞中的所有實(shí)質(zhì)性觀點(diǎn)都是站得住腳的。
這一事件再次提醒我們，在利用AI輔助工作時(shí)，必須高度重視人工審核和驗(yàn)證的重要性。盡管AI工具能夠?yàn)槲覀兲峁┍憬莺透咝У姆?wù)，但其生成的內(nèi)容仍需經(jīng)過(guò)嚴(yán)格的審查，以確保其準(zhǔn)確性和可靠性。
