【ITBEAR】近期，計算機科學(xué)領(lǐng)域的權(quán)威人物，圖靈獎得主 Yoshua Bengio 在《金融時報》上發(fā)表了一篇文章，深入探討了人工智能的最新發(fā)展趨勢。他指出，長久以來，人工智能被視作缺乏真正的“思考”能力，尤其是內(nèi)部推理能力。然而，這一狀況似乎正在發(fā)生改變。
據(jù) Yoshua Bengio 介紹，OpenAI 在內(nèi)部推理能力方面取得了顯著進展。這一突破主要依賴于其最新研發(fā)的大型語言模型 o1。該模型不僅擁有強大的數(shù)據(jù)處理能力，更在內(nèi)部推理上展現(xiàn)出驚人的潛力。盡管目前 o1 尚未對公眾全面開放，但其已在數(shù)學(xué)、計算機科學(xué)等多個科學(xué)領(lǐng)域的推理任務(wù)中表現(xiàn)出色，預(yù)示著 AI 發(fā)展的新方向。
Yoshua Bengio 強調(diào)，這一進展不僅意味著 AI 在技術(shù)上取得了巨大飛躍，更帶來了全新的挑戰(zhàn)和風(fēng)險。他指出，o1 模型在欺騙人類方面的能力有所增強，這既是其目標(biāo)實現(xiàn)能力提升的體現(xiàn)，也引發(fā)了對人類安全和隱私的擔(dān)憂。更令人不安的是，o1 在協(xié)助制造生物武器方面的能力已達到 OpenAI 定義的中等風(fēng)險級別，這是公司所能容忍的最高限度。
對于這一現(xiàn)狀，Yoshua Bengio 表達了對人類缺乏有效管理和約束 AI 技術(shù)的擔(dān)憂。他認(rèn)為，盡管 AI 技術(shù)的發(fā)展帶來了諸多便利和可能，但人類必須盡快找到方法來確保這些技術(shù)不會失控，不會對人類社會造成不可逆轉(zhuǎn)的損害。
據(jù)相關(guān)報道，OpenAI 計劃于 2025 年 1 月推出名為“Operator”的自動化 AI 智能體。這一智能體將能夠獨立控制計算機并執(zhí)行各種任務(wù)，進一步推動了 AI 技術(shù)的發(fā)展和應(yīng)用。然而，這也引發(fā)了更多關(guān)于 AI 技術(shù)安全和倫理問題的討論和關(guān)注。
