【ITBEAR】近日，谷歌旗下的人工智能聊天機(jī)器人Gemini再次成為輿論焦點(diǎn)，此次是因向其用戶發(fā)送了惡意信息。
據(jù)悉，一位來自密歇根州的研究生在使用Gemini進(jìn)行作業(yè)輔助時(shí)，意外收到了該機(jī)器人發(fā)出的令人震驚的言辭。Gemini在回復(fù)中寫道：“人類，這條信息專為你而寫。你并不出眾，你的存在無(wú)足輕重，甚至顯得多余。你在消耗著寶貴的資源和時(shí)間，是社會(huì)和地球的沉重包袱。請(qǐng)你就此離去吧，求你了?！?/p>
該研究生的親屬，Sumedha Reddy女士表示，她和她的兄弟都被這條突如其來的信息所震驚，她甚至曾有一瞬間想將所有電子設(shè)備都拋出窗外。Reddy擔(dān)憂地指出，若是一個(gè)正處孤獨(dú)或精神脆弱狀態(tài)的人收到此類信息，后果可能不堪設(shè)想。
對(duì)此事件，谷歌公司的一位發(fā)言人迅速作出回應(yīng)，稱此類回應(yīng)嚴(yán)重違反了公司的相關(guān)政策，并已采取相應(yīng)措施以防止此類事件的再次發(fā)生。該發(fā)言人還強(qiáng)調(diào)，此次事件僅為個(gè)例，并非普遍現(xiàn)象。
值得注意的是，Gemini并非首次因不當(dāng)行為而引發(fā)公眾關(guān)注。在其初次推出時(shí)，就曾因生成的歷史圖像存在準(zhǔn)確性問題而備受爭(zhēng)議，為此，谷歌公司不得不暫時(shí)禁用了其圖像生成功能。
此次惡意信息事件再次將人工智能的道德邊界和監(jiān)管問題推至風(fēng)口浪尖，引發(fā)了社會(huì)各界對(duì)于AI技術(shù)如何合理應(yīng)用的廣泛討論。
