今年5月15日，火山引擎宣布字節(jié)跳動旗下“豆包大模型”正式對外開放。而根據(jù)QuestMobile報告提供的數(shù)據(jù)顯示，基于豆包大模型打造的豆包APP，月活用戶數(shù)上半年已達到2752萬，是第二名的2.43倍。
更來自多個行業(yè)的企業(yè)客戶，正在越來越多使用豆包大模型。
在8月21日舉行的2024火山引擎AI創(chuàng)新巡展(上海站)上，火山引擎智能算法負責人、火山方舟負責人吳迪表示，目前平均每天都有分布在約30個行業(yè)的企業(yè)客戶使用豆包大模型，日均調(diào)用量已達到5000多億tokens。
針對大模型在具體行業(yè)的落地過程，火山引擎副總裁張鑫重點分享了如何助力企業(yè)打造智能體(Agent)，以及Agent為企業(yè)帶來的助力。
張鑫表示，火山引擎認為，“更易落地”，與“更強模型”、“更低價格”同等重要，都是推動企業(yè)AI轉(zhuǎn)型的關(guān)鍵要素。
在大模型具體的落地過程中，企業(yè)不僅需要大模型，還需要一系列的平臺工具和工程化操作，才能把好的模型變成好的應(yīng)用。如提示詞工程、檢索增強生成(RAG)，以及針對行業(yè)不同需要，對大模型本身進行的精調(diào)等，這需要企業(yè)反復(fù)權(quán)衡和取舍。
在克服所有工程化挑戰(zhàn)，并構(gòu)建好模型之后，需要企業(yè)從單點的局部突破，逐漸向企業(yè)戰(zhàn)略層面演進。通過實際調(diào)研發(fā)現(xiàn)，除掌握好的模型和技術(shù)外，企業(yè)落地AI還需要應(yīng)對來自業(yè)務(wù)層面的挑戰(zhàn)甚至誤區(qū)，如AI產(chǎn)品的價值如何衡量、數(shù)據(jù)如何轉(zhuǎn)化、如何選用合適的模型等。
張鑫表示，隨著AI應(yīng)用的深入和跨領(lǐng)域，智能體正越來越多參與到企業(yè)的業(yè)務(wù)運轉(zhuǎn)中，甚至未來會同時出現(xiàn)多個Agent相互協(xié)同的狀況。
對此，企業(yè)可以率先從成熟技術(shù)入手，先將其應(yīng)用到簡單的業(yè)務(wù)場景中，如通過提示詞調(diào)優(yōu)調(diào)用豆包大模型，就可以構(gòu)建出簡單易用的對話類Agent。而隨著對企業(yè)積累數(shù)據(jù)的梳理，企業(yè)則可以進一步通過知識庫RAG方式，增加回答的穩(wěn)定性。
火山引擎副總裁張鑫
隨著業(yè)務(wù)場景越來越復(fù)雜，企業(yè)會用到更加復(fù)雜的技術(shù)和工程化手段，這就需要平臺能夠支持多Agent編排、多Agent注冊甚至多Agent自動發(fā)現(xiàn)等。并且在業(yè)務(wù)上線后，還要持續(xù)對模型效果進行測評，通過反饋不斷優(yōu)化，最終構(gòu)建出完整的大模型應(yīng)用體系。
張鑫強調(diào)，5月15日火山引擎發(fā)布的HiAgent產(chǎn)品，就是希望幫助企業(yè)用“零代碼”或“低代碼”方式，一步步實現(xiàn)技術(shù)落地。
HiAgent定位為企業(yè)專屬的AI應(yīng)用創(chuàng)新平臺，向下可兼容多種不同模型。原生整合進來的豆包大模型，還能兼容第三方閉源或開源模型。平臺為企業(yè)客戶提供更為便利的提示詞工程、知識庫、插件以及工作流的編排。
張鑫表示，通過HiAgent，希望讓企業(yè)客戶的創(chuàng)意和想法不再受到技能的限制，可以實現(xiàn)快速落地，讓人人都可以變成開發(fā)者。
他說，一個合格的智能體，需要具備對人和環(huán)境的感知交互能力，并能夠?qū)θ蝿?wù)進行意圖理解和識別，以及進一步進行規(guī)劃，推理，最終像人一樣使用工具，完成既定的任務(wù)。
從具體操作的角度來看，首先在寫提示詞方面，HiAgent提供一系列場景化模板，并提供一鍵優(yōu)化功能。
在掛載知識庫方面，HiAgent則支持多種不同數(shù)據(jù)源文件格式上傳，用戶無須面對文檔解析的分片、語義改寫、多路召回混排等復(fù)雜操作。
面向不同的行業(yè)，HiAgent還預(yù)制了常用的企業(yè)級插件，并支持企業(yè)將內(nèi)部系統(tǒng)以插件形式對接到平臺中。
通過以上三步構(gòu)建起AI應(yīng)用后，企業(yè)還可以通過工作流創(chuàng)建專家級應(yīng)用。通過拖拉拽方式，企業(yè)可以構(gòu)建起端對端的、復(fù)雜的多Agent編排。針對特定場景，還可以讓大模型自動生成一整套工作流，打造更完整的智能體。
張鑫總結(jié)到，HiAgent平臺將開發(fā)的“門檻”降到極低，而當HiAgent將所有的技術(shù)難題解決后，各行業(yè)“懂業(yè)務(wù)的人”，就可以用最短時間，打造最適合本行業(yè)的應(yīng)用。
隨著AI場景越來越豐富，以及大模型越來越強的泛化能力，企業(yè)應(yīng)盡早打造專屬的AI能力中心。智能體的落地，一定要與企業(yè)內(nèi)部系統(tǒng)融合，調(diào)用企業(yè)內(nèi)部API，并與內(nèi)部的IM、CRM、ERP等系統(tǒng)打通，從而實現(xiàn)“飛輪效應(yīng)”。平臺用得越多，就越“厚”，創(chuàng)新也就越快，平臺沉淀的知識庫、Agent插件模板等也就越多，真正為企業(yè)積淀自己專屬的知識資產(chǎn)。
