ITBear旗下自媒體矩陣:

前谷歌CEO施密特:AI自我改進時,人類或需暫停其發(fā)展?

   時間:2024-12-23 19:17:48 來源:ITBEAR編輯:快訊團隊 發(fā)表評論無障礙通道

近期,通用人工智能(AGI)領域持續(xù)升溫,引發(fā)了科技界和公眾的廣泛關注。OpenAI的首席執(zhí)行官阿爾特曼認為,AGI的實現(xiàn)可能比預期更早,并且在現(xiàn)有硬件條件下就能達成。然而,前谷歌CEO埃里克·施密特對此持謹慎態(tài)度,他在本月17日接受ABC新聞采訪時提出了一個令人深思的觀點。

施密特擔憂地表示,當AI系統(tǒng)具備自我改進的能力時,人類將面臨一個艱難的選擇:是否應該暫停其進一步發(fā)展。他提出,如果向AI系統(tǒng)發(fā)出“學會一切,做到一切”的指令,那么我們必須慎重考慮是否要切斷其電源,以維持人類與AI之間的平衡。這不僅僅是一個技術問題,更是一個涉及倫理和安全的深刻挑戰(zhàn)。

施密特進一步預測,AI將從目前的特定任務助手,逐步進化為能夠自主決策、處理復雜問題的智能系統(tǒng)。在這個關鍵時刻,人類必須介入并考慮關閉AI系統(tǒng),以防止其可能帶來的不可預測后果。同時,他還強調,人類需要確保AI無法反制關閉系統(tǒng)的努力,以保持對AI的絕對控制。

值得注意的是,施密特并非完全否定AI的積極作用。事實上,他對AI的潛力持樂觀態(tài)度。他認為,AI的發(fā)展將意味著每個人都將擁有一個博學多才的助手,這個助手可以隨時隨地為我們提供幫助。除了作為筆記和寫作助手外,AI還將像愛因斯坦和達芬奇這樣的智慧人物一樣,為我們提供寶貴的建議和指導。這將是一個惠及全球每一個人的美好愿景。

然而,與施密特同樣關注AI發(fā)展的還有特斯拉CEO馬斯克。他在今年10月曾表示,AI“最有可能是偉大的”,但同時也存在10%到20%的可能性走向壞的一面。馬斯克強調,我們不能忽視AI“變壞”的可能性,必須時刻保持警惕。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內容
網站首頁  |  關于我們  |  聯(lián)系方式  |  版權聲明  |  RSS訂閱  |  開放轉載  |  滾動資訊  |  爭議稿件處理  |  English Version