賽輪思（Cerence）與英偉達(dá)宣布深化合作，共同推動(dòng)其CaLLM系列語言模型的功能升級(jí)。此次合作不僅涉及基于云的賽輪思汽車大語言模型（CaLLM），還包括CaLLM Edge嵌入式小語言模型。
在這一合作框架下，CaLLM將借助NVIDIA AI Enterprise這一端到端云原生軟件平臺(tái)的力量，而CaLLM Edge的某些功能則將得到NVIDIA DRIVE AGX Orin的支持。這一強(qiáng)強(qiáng)聯(lián)合，無疑將為汽車行業(yè)帶來更為先進(jìn)、高效的語言模型解決方案。
具體而言，賽輪思AI通過整合NVIDIA AI Enterprise軟件平臺(tái)中的NVIDIA TensorRT-LLM和NVIDIA NeMo，顯著加速了CaLLM的開發(fā)與部署進(jìn)程。NVIDIA NeMo作為一個(gè)全面的框架，為生成式AI應(yīng)用的構(gòu)建、定制及部署提供了極大的便利。
得益于此次合作，賽輪思AI對(duì)其CaLLM系列模型進(jìn)行了深度優(yōu)化與定制，旨在：
在NVIDIA加速計(jì)算和SoC技術(shù)的加持下，為車載助手提供更為迅捷的性能表現(xiàn)。
開發(fā)了針對(duì)汽車環(huán)境優(yōu)化的NVIDIA NeMo Guardrails實(shí)現(xiàn)，這一創(chuàng)新技術(shù)確保了Cerence驅(qū)動(dòng)的系統(tǒng)能夠精準(zhǔn)捕捉并處理車載交互中的每一個(gè)細(xì)節(jié)。
通過NVIDIA DRIVE AGX Orin在CaLLM Edge上實(shí)施并優(yōu)化了代理架構(gòu)，這一舉措為下一代車載用戶體驗(yàn)的革新奠定了堅(jiān)實(shí)基礎(chǔ)。
