近期，通用人工智能（AGI）領(lǐng)域持續(xù)升溫，引發(fā)了科技界和公眾的廣泛關(guān)注。OpenAI的首席執(zhí)行官阿爾特曼認(rèn)為，AGI的實(shí)現(xiàn)可能比預(yù)期更早，并且在現(xiàn)有硬件條件下就能達(dá)成。然而，前谷歌CEO埃里克·施密特對(duì)此持謹(jǐn)慎態(tài)度，他在本月17日接受ABC新聞采訪時(shí)提出了一個(gè)令人深思的觀點(diǎn)。
施密特?fù)?dān)憂地表示，當(dāng)AI系統(tǒng)具備自我改進(jìn)的能力時(shí)，人類將面臨一個(gè)艱難的選擇：是否應(yīng)該暫停其進(jìn)一步發(fā)展。他提出，如果向AI系統(tǒng)發(fā)出“學(xué)會(huì)一切，做到一切”的指令，那么我們必須慎重考慮是否要切斷其電源，以維持人類與AI之間的平衡。這不僅僅是一個(gè)技術(shù)問(wèn)題，更是一個(gè)涉及倫理和安全的深刻挑戰(zhàn)。
施密特進(jìn)一步預(yù)測(cè)，AI將從目前的特定任務(wù)助手，逐步進(jìn)化為能夠自主決策、處理復(fù)雜問(wèn)題的智能系統(tǒng)。在這個(gè)關(guān)鍵時(shí)刻，人類必須介入并考慮關(guān)閉AI系統(tǒng)，以防止其可能帶來(lái)的不可預(yù)測(cè)后果。同時(shí)，他還強(qiáng)調(diào)，人類需要確保AI無(wú)法反制關(guān)閉系統(tǒng)的努力，以保持對(duì)AI的絕對(duì)控制。
值得注意的是，施密特并非完全否定AI的積極作用。事實(shí)上，他對(duì)AI的潛力持樂(lè)觀態(tài)度。他認(rèn)為，AI的發(fā)展將意味著每個(gè)人都將擁有一個(gè)博學(xué)多才的助手，這個(gè)助手可以隨時(shí)隨地為我們提供幫助。除了作為筆記和寫作助手外，AI還將像愛(ài)因斯坦和達(dá)芬奇這樣的智慧人物一樣，為我們提供寶貴的建議和指導(dǎo)。這將是一個(gè)惠及全球每一個(gè)人的美好愿景。
然而，與施密特同樣關(guān)注AI發(fā)展的還有特斯拉CEO馬斯克。他在今年10月曾表示，AI“最有可能是偉大的”，但同時(shí)也存在10%到20%的可能性走向壞的一面。馬斯克強(qiáng)調(diào)，我們不能忽視AI“變壞”的可能性，必須時(shí)刻保持警惕。
