【ITBEAR科技資訊】6月7日消息，在2024年臺北國際電腦展上，邊緣運算人工智能領域的佼佼者耐能(Kneron)帶來了令人矚目的新產品。耐能，這家由CEO劉峻誠和張懋中于2015年共同創(chuàng)立的公司，專注于為行業(yè)提供前沿的邊緣AI技術。此次展會，耐能隆重推出了其下一代AI產品——KNEO 330服務器，以及裝載了第三代NPU芯片KL830的PC設備。
據(jù)悉，耐能自創(chuàng)立以來就備受行業(yè)關注，其背后的投資者陣容亦十分強大，包括李嘉誠旗下的維港投資、高通、鴻海集團、阿里巴巴創(chuàng)業(yè)者基金、中華開發(fā)資本等。這些知名集團的支持無疑為耐能的發(fā)展注入了強大的動力。
據(jù)ITBEAR科技資訊了解，耐能CEO劉峻誠在發(fā)布會上強調，目前眾多使用生成式AI的公司高度依賴微軟、亞馬遜等云服務巨頭，并從英偉達或AMD等公司大量采購芯片。然而，出于對數(shù)據(jù)隱私和安全的擔憂，許多企業(yè)可能不愿將核心數(shù)據(jù)交給外部公司處理。為此，耐能提供了一種替代方案，即利用其技術建設企業(yè)內部服務器，以構建專屬的AI應用程序。
發(fā)布會上，耐能展示了兩款新品。其中，KNEO 330服務器以其48TOPS的強大AI計算能力脫穎而出，最多可支持8個并發(fā)連接，同時支持LLM和Stable Diffusion技術。該服務器在低硬件條件下實現(xiàn)了與云端解決方案相當?shù)腞AG精度，為小型企業(yè)降低了30%~40%的整體AI成本。
另一款新品是搭載第三代NPU芯片KL830的PC設備。雖然具體細節(jié)尚未透露，但發(fā)布會上已使用惠普設備進行了實地演示。耐能表示，他們正與幾家領先的PC OEM廠商緊密合作，這些廠商將成為其最新芯片的首批客戶。
KL830芯片，作為一種神經(jīng)處理單元(NPU)，與CPU和GPU協(xié)同工作，以執(zhí)行AI任務。它提供了高達10eTOPS@8bit的綜合計算能力，而峰值功耗僅為2W，這使得它能夠支持眾多參數(shù)較低的大型語言模型。耐能還指出，KL830可通過USB AI加速棒使用，從而將各種設備，無論是寬帶路由器、物聯(lián)網(wǎng)攝像頭還是傳統(tǒng)電腦，轉變?yōu)檫吘堿I設備。
