【ITBEAR】在今日的“2024科大訊飛全球1024開發(fā)者節(jié)”上，科大訊飛揭曉了其最新的技術(shù)成果——汽車端側(cè)星火大模型。這一創(chuàng)新旨在解決用戶在無網(wǎng)絡(luò)環(huán)境或隱私保護需求下的使用難題。
科大訊飛指出，新發(fā)布的汽車端側(cè)星火大模型無需依賴云端網(wǎng)絡(luò)，即可在本地運行，且效果與云端大模型相當(dāng)。該技術(shù)通過減少參數(shù)規(guī)模至1.3B，雖較通用模型大幅降低，但在汽車應(yīng)用場景中效果僅微降1%。
該模型的端側(cè)首響應(yīng)時間縮短至40毫秒，復(fù)雜場景下端云融合響應(yīng)時間也僅為1.3秒，技術(shù)領(lǐng)先行業(yè)。
據(jù)悉，汽車端側(cè)星火大模型已開始集成至奇瑞、廣汽、長城等多款車型，并預(yù)計于今年第四季度陸續(xù)上市，供消費者體驗。
