據(jù)悉,Trainium2芯片在去年底的AWS 2023 re:Invent大會上首次亮相。與第一代產(chǎn)品相比,新款芯片在訓(xùn)練速度上有了顯著提升,最高可達(dá)到原先的4倍。同時,其在能效方面也表現(xiàn)出色,提升了多達(dá)2倍。Trainium2的內(nèi)存容量也增至前代的3倍,并能夠在EC2 UltraClusters中擴(kuò)展至多達(dá)10萬個芯片。這一強(qiáng)大的擴(kuò)展能力使得Trainium2能夠在極短的時間內(nèi)完成基礎(chǔ)模型和大語言模型的訓(xùn)練任務(wù)。
Trainium2芯片的開發(fā)工作由亞馬遜旗下芯片設(shè)計部門Annapurna Labs主導(dǎo)。該部門是亞馬遜在2015年以3500萬美元收購的,如今已成長為亞馬遜在AI芯片領(lǐng)域的重要力量。目前,Trainium2芯片正在接受多家AI創(chuàng)新企業(yè)及全球知名公司的測試,包括Anthropic、Databricks、Stockmark等AI創(chuàng)企,以及德國電信和日本理光等行業(yè)巨頭。
亞馬遜并非唯一一家致力于自研AI芯片的大型科技企業(yè)。微軟、谷歌和meta等公司也在積極投入資源,開發(fā)各類用于AI推理或訓(xùn)練的芯片。這些企業(yè)的共同目標(biāo)在于減少對英偉達(dá)等硬件供應(yīng)商的依賴,從而掌握更多在AI領(lǐng)域的技術(shù)主動權(quán)。