【ITBEAR科技資訊】1月3日消息，近日，創(chuàng)鑫智慧(Neuchips)發(fā)布了一份新聞稿，正式宣布將參與2024年CES大展，并計(jì)劃推出全新的Raptor Gen AI加速卡和Evo PCIe加速卡 LLM產(chǎn)品。
Neuchips首席執(zhí)行官Ken Lau在新聞稿中表示，他們對(duì)能夠在2024年消費(fèi)電子展上展示Raptor芯片和Evo卡感到非常高興。這兩款產(chǎn)品代表了自然語言處理從價(jià)格到性能的一次巨大飛躍，為企業(yè)在現(xiàn)有解決方案的基礎(chǔ)上以更小的成本部署大型語言模型(LLM)提供了可能性。
據(jù)ITBEAR科技資訊了解，Raptor Gen AI加速卡的每秒算力達(dá)到了200 TOPS，在諸如矩陣乘法、矢量和嵌入表查找等人工智能推斷運(yùn)算方面表現(xiàn)出色，特別適用于生成式AI等多場(chǎng)景應(yīng)用。
Evo加速卡采用8通道PCIe Gen5和32GB LPDDR5內(nèi)存，主機(jī)I/O帶寬高達(dá)64GB/s，內(nèi)存帶寬達(dá)到1.6Tbps，而且單卡功耗僅為55W。此外，Evo還具備100%的可擴(kuò)展性，用戶可以通過輕松添加更多芯片來線性提高性能。Neuchips強(qiáng)調(diào)，這種模塊化設(shè)計(jì)將有助于確?？蛻魧?duì)未來人工智能工作負(fù)載的投資保值。
Neuchips預(yù)告即將推出的半高半長(zhǎng)(HHHL)外形產(chǎn)品Viper，計(jì)劃于2024年下半年正式亮相。該公司表示，Viper將以其更大的部署靈活性為特點(diǎn)，通過緊湊而小巧的設(shè)計(jì)，為數(shù)據(jù)中心級(jí)人工智能加速提供全新的選擇。
