【ITBEAR科技資訊】2月12日消息，當(dāng)谷歌在去年11月推出其人工智能聊天機(jī)器人Bard時(shí)，市場(chǎng)對(duì)此的反應(yīng)是熱烈的。隨著OpenAI公司推出ChatGPT，聊天機(jī)器人的熱度持續(xù)攀升，引發(fā)了投資者的極大關(guān)注。然而，最近谷歌的一次演示卻暴露出人工智能聊天機(jī)器人的弊端：AI會(huì)出現(xiàn)錯(cuò)覺。
谷歌高級(jí)副總裁兼谷歌Search負(fù)責(zé)人普拉巴卡爾·拉加萬在接受采訪時(shí)表示：“我們現(xiàn)在談?wù)摰倪@種人工智能，有時(shí)會(huì)導(dǎo)致出現(xiàn)某種我們所謂的錯(cuò)覺(hallucination)……機(jī)器會(huì)以一種令人信服但完全編造的方式來表達(dá)自己?！彪m然人工智能目前的基本任務(wù)之一是將這種情況控制在最低限度，但事實(shí)上，這種“錯(cuò)覺”現(xiàn)象是當(dāng)前聊天機(jī)器人普遍存在的弊端。
無法保證信息準(zhǔn)確性，是當(dāng)前聊天機(jī)器人普遍的弊端，哪怕是備受熱捧的ChatGPT也不能幸免。近日，社交媒體上已經(jīng)有不少人抱怨ChatGPT會(huì)犯一些明顯的錯(cuò)誤，比如無法解決簡(jiǎn)單的數(shù)學(xué)方程式或邏輯問題。蘋果聯(lián)合創(chuàng)始人Steve Wozniak也警告稱，雖然ChatGPT表現(xiàn)令人印象深刻，但“它也會(huì)因?yàn)椴涣私馊诵远赶驴膳碌腻e(cuò)誤”。
在谷歌演示Bard時(shí)，該機(jī)器人回答“如何向9歲小孩介紹詹姆斯·韋伯空間望遠(yuǎn)鏡成果”時(shí)，提到該望遠(yuǎn)鏡拍攝到首張地球外行星的照片，但這一成就實(shí)際上是智利甚大望遠(yuǎn)鏡在2004年達(dá)成的。這一錯(cuò)誤信息在演示視頻中被公開，導(dǎo)致谷歌股價(jià)當(dāng)天直線下跌超7%，市值在一夜之間蒸發(fā)了1000億美元。
不僅谷歌，其他公司也在開發(fā)自己的聊天機(jī)器人，以迎合消費(fèi)者對(duì)人工智能的追求。據(jù)市場(chǎng)研究機(jī)構(gòu)Gartner的數(shù)據(jù)，預(yù)計(jì)到2025年，人工智能聊天機(jī)器人將成為全球最常用的企業(yè)應(yīng)用程序，消費(fèi)者也會(huì)更多地采用這種工具。但如何控制聊天機(jī)器人產(chǎn)生的“錯(cuò)覺”現(xiàn)象，使得這種智能應(yīng)用程序受到了更多的關(guān)注和擔(dān)憂。
事實(shí)上，AI產(chǎn)生的“錯(cuò)覺”現(xiàn)象并非新鮮事物。在計(jì)算機(jī)科學(xué)中，這種現(xiàn)象稱為“神經(jīng)網(wǎng)絡(luò)的誤差擴(kuò)散”，是由于模型的復(fù)雜性和訓(xùn)練數(shù)據(jù)的質(zhì)量問題所導(dǎo)致的。對(duì)此，谷歌和其他公司已經(jīng)在嘗試開發(fā)更加精確和可靠的人工智能算法。但是，由于聊天機(jī)器人需要處理的信息量非常龐大，所以想要消除“錯(cuò)覺”現(xiàn)象并不容易。
盡管如此，對(duì)于開發(fā)聊天機(jī)器人的公司來說，處理“錯(cuò)覺”現(xiàn)象至關(guān)重要。因?yàn)楫?dāng)聊天機(jī)器人在面對(duì)用戶的問題時(shí)出現(xiàn)錯(cuò)誤信息，不僅會(huì)影響用戶的體驗(yàn)，而且還會(huì)對(duì)公司的聲譽(yù)造成損害。當(dāng)然，對(duì)于聊天機(jī)器人來說，控制“錯(cuò)覺”現(xiàn)象的同時(shí)也要保持一定的智能和獨(dú)立性，才能真正滿足用戶的需求。
對(duì)于消費(fèi)者來說，使用聊天機(jī)器人時(shí)也應(yīng)該保持一定的警惕性。雖然聊天機(jī)器人可以提供便捷的服務(wù)和快速的答案，但在某些情況下，它們可能會(huì)提供錯(cuò)誤的信息，從而誤導(dǎo)用戶。所以在使用聊天機(jī)器人時(shí)，用戶應(yīng)該保持一定的理性，尤其是在處理重要信息時(shí)，還應(yīng)該采取更加謹(jǐn)慎的態(tài)度。
據(jù)ITBEAR科技資訊了解，人工智能聊天機(jī)器人的出現(xiàn)，標(biāo)志著科技發(fā)展的新一步。盡管目前還存在著“錯(cuò)覺”等問題，但這并不影響聊天機(jī)器人在未來的發(fā)展趨勢(shì)。對(duì)于開發(fā)公司來說，處理“錯(cuò)覺”現(xiàn)象至關(guān)重要，只有這樣，才能讓聊天機(jī)器人真正滿足用戶的需求。而對(duì)于用戶來說，保持理性和警惕性也是使用聊天機(jī)器人的必備條件。
