ITBear旗下自媒體矩陣:

OpenAI引領(lǐng)探索:如何打破AI大型語(yǔ)言模型的局限?

   時(shí)間:2024-11-11 22:16:52 來(lái)源:ITBEAR作者:馮璃月編輯:瑞雪 發(fā)表評(píng)論無(wú)障礙通道

【ITBEAR】據(jù)路透社近期報(bào)道,人工智能領(lǐng)域正迎來(lái)一場(chǎng)新的技術(shù)革命。OpenAI等頂尖公司正努力克服在開(kāi)發(fā)大型語(yǔ)言模型過(guò)程中的挑戰(zhàn),尋求通過(guò)更類(lèi)人的訓(xùn)練技術(shù)來(lái)優(yōu)化算法思考方式。

多位人工智能領(lǐng)域的科學(xué)家、研究人員及投資者向路透社透露,這些新技術(shù),如OpenAI近期發(fā)布的o1模型所采用的技術(shù),可能會(huì)對(duì)人工智能行業(yè)的競(jìng)爭(zhēng)格局產(chǎn)生深遠(yuǎn)影響,同時(shí)改變對(duì)資源的需求,從能源到芯片類(lèi)型都將受到影響。

盡管過(guò)去兩年中,像ChatGPT這樣的病毒式聊天機(jī)器人的發(fā)布推動(dòng)了人工智能熱潮,許多科技公司宣稱(chēng)通過(guò)增加數(shù)據(jù)和計(jì)算能力就能不斷改進(jìn)模型,但現(xiàn)在一些行業(yè)領(lǐng)軍人物開(kāi)始對(duì)這種“越大越好”的理念提出質(zhì)疑。

OpenAI的聯(lián)合創(chuàng)始人之一Ilya Sutskever,現(xiàn)在也是Safe Superintelligence (SSI)的聯(lián)合創(chuàng)始人,告訴路透社,預(yù)訓(xùn)練階段的擴(kuò)大已經(jīng)達(dá)到了某種穩(wěn)定狀態(tài)。他被認(rèn)為是推動(dòng)通過(guò)更多數(shù)據(jù)和計(jì)算能力實(shí)現(xiàn)生成式人工智能飛躍的關(guān)鍵人物。

Sutskever表示:“我們現(xiàn)在進(jìn)入了一個(gè)好奇和發(fā)現(xiàn)的新時(shí)代。每個(gè)人都在探尋下一個(gè)突破點(diǎn)。”他拒絕透露SSI正在研究的具體技術(shù)細(xì)節(jié),但提到正在探索擴(kuò)大預(yù)訓(xùn)練的替代方法。

在幕后,各大人工智能實(shí)驗(yàn)室在競(jìng)相發(fā)布性能超越GPT-4的大型語(yǔ)言模型時(shí),遭遇了延遲和令人失望的結(jié)果。這些大型模型的訓(xùn)練運(yùn)行成本高昂,且由于系統(tǒng)的復(fù)雜性,更容易出現(xiàn)硬件故障。同時(shí),數(shù)據(jù)資源的枯竭和電力短缺也成為訓(xùn)練的阻礙。

為了應(yīng)對(duì)這些挑戰(zhàn),研究人員正在探索測(cè)試時(shí)計(jì)算技術(shù),這種技術(shù)能在模型使用時(shí)增強(qiáng)其性能。例如,模型可以實(shí)時(shí)評(píng)估和選擇最佳路徑,而不是立即給出答案。OpenAI的o1模型就采用了這種技術(shù),能夠以更類(lèi)人的方式多步驟思考問(wèn)題。

這一技術(shù)變革可能會(huì)對(duì)人工智能硬件市場(chǎng)產(chǎn)生重大影響,目前該市場(chǎng)主要由對(duì)Nvidia AI芯片的需求主導(dǎo)。風(fēng)險(xiǎn)投資公司也在密切關(guān)注這一轉(zhuǎn)變,并評(píng)估其對(duì)其投資的人工智能實(shí)驗(yàn)室的影響。

紅杉資本的合伙人Sonya Huang表示,這種轉(zhuǎn)變將推動(dòng)我們從大規(guī)模預(yù)訓(xùn)練集群轉(zhuǎn)向用于推理的分布式云服務(wù)器,即所謂的“推理云”。

與此同時(shí),Nvidia指出其最近在演講中強(qiáng)調(diào)了o1模型背后技術(shù)的重要性,并談到了對(duì)其芯片進(jìn)行推理的需求不斷增加。然而,與在訓(xùn)練芯片市場(chǎng)的主導(dǎo)地位不同,Nvidia在推理市場(chǎng)可能會(huì)面臨更多競(jìng)爭(zhēng)。

這場(chǎng)由OpenAI等公司引領(lǐng)的技術(shù)革命,正在重塑人工智能行業(yè)的未來(lái),從訓(xùn)練技術(shù)到硬件需求,都將迎來(lái)翻天覆地的變化。

舉報(bào) 0 收藏 0 打賞 0評(píng)論 0
 
 
更多>同類(lèi)資訊
全站最新
熱門(mén)內(nèi)容
網(wǎng)站首頁(yè)  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  RSS訂閱  |  開(kāi)放轉(zhuǎn)載  |  滾動(dòng)資訊  |  爭(zhēng)議稿件處理  |  English Version