據(jù)悉，Trainium2芯片在去年底的AWS 2023 re:Invent大會(huì)上首次亮相。與第一代產(chǎn)品相比，新款芯片在訓(xùn)練速度上有了顯著提升，最高可達(dá)到原先的4倍。同時(shí)，其在能效方面也表現(xiàn)出色，提升了多達(dá)2倍。Trainium2的內(nèi)存容量也增至前代的3倍，并能夠在EC2 UltraClusters中擴(kuò)展至多達(dá)10萬個(gè)芯片。這一強(qiáng)大的擴(kuò)展能力使得Trainium2能夠在極短的時(shí)間內(nèi)完成基礎(chǔ)模型和大語言模型的訓(xùn)練任務(wù)。
Trainium2芯片的開發(fā)工作由亞馬遜旗下芯片設(shè)計(jì)部門Annapurna Labs主導(dǎo)。該部門是亞馬遜在2015年以3500萬美元收購的，如今已成長(zhǎng)為亞馬遜在AI芯片領(lǐng)域的重要力量。目前，Trainium2芯片正在接受多家AI創(chuàng)新企業(yè)及全球知名公司的測(cè)試，包括Anthropic、Databricks、Stockmark等AI創(chuàng)企，以及德國(guó)電信和日本理光等行業(yè)巨頭。
亞馬遜并非唯一一家致力于自研AI芯片的大型科技企業(yè)。微軟、谷歌和meta等公司也在積極投入資源，開發(fā)各類用于AI推理或訓(xùn)練的芯片。這些企業(yè)的共同目標(biāo)在于減少對(duì)英偉達(dá)等硬件供應(yīng)商的依賴，從而掌握更多在AI領(lǐng)域的技術(shù)主動(dòng)權(quán)。
