近日，由阿里云與端木軟件聯(lián)合主辦、僑夢苑協(xié)辦的AI智領者研討會在寧波圓滿舉行。端木軟件高級解決方案架構師、阿里云MVP繆政輝在會上進行了《基于阿里百煉及內部知識庫構建企業(yè)專屬問答機器人》的主題分享。
2023年10月，阿里云發(fā)布百煉大模型平臺后，這一集成了國內外主流優(yōu)質大模型，提供模型選型、微調訓練、安全套件、模型部署等服務和全鏈路應用開發(fā)工具的強大平臺，能夠有效簡化企業(yè)智能化升級路徑，提供一站式、全托管的大模型定制與應用服務。
基于這一強大平臺，企業(yè)在AI智能化的路上有了許多優(yōu)秀大模型的選擇?？娬x在會上深度剖析了中小企業(yè)在部署大型語言模型應用中面臨的挑戰(zhàn)，并重點分享了多款基于阿里百煉平臺的大模型工具。
MaxKB——構建企業(yè)自有大模型問答服務
繆政輝指出，如何低成本、高效率地實施大模型落地，一直是企業(yè)智能化發(fā)展的一大難題。高昂的GPU運行成本、知識資產難以落地以及缺乏代碼能力是中小企業(yè)應用大模型的主要障礙。
為解決這些痛點，繆政輝介紹了MaxKB這款基于LLM大語言模型的開源知識庫問答系統(tǒng)，它支持開箱即用、多源知識庫接入、無縫嵌入以及多模型與多用戶管理，極大降低了部署門檻。
通過演示MaxKB的部署過程，繆政輝展示了如何快速搭建問答機器人，僅需基本的硬件配置(2+vCPU, 4GB+RAM, 100GB+Disk)即可運行。他還詳述了如何在MaxKB上添加模型、配置知識庫分段并關聯(lián)問題，最終創(chuàng)建應用，使得企業(yè)能夠通過微信、釘釘?shù)惹朗褂没蚯度胱约旱膯柎饳C器人。
繆政輝會上還展示了2024年中國“大模型+知識管理”的一系列最佳實踐案例，如博世華域的質量知識管理體系、唱吧的智能客服升級、國家電網的電力設備運檢助手等，案例覆蓋制造、IT、互聯(lián)網、能源等多個領域，充分展現(xiàn)了大模型在企業(yè)知識管理中的廣泛應用能力。
Dify——構建企業(yè)AI Agent，實現(xiàn) AI 業(yè)務自動化
除了基礎對話式的生成模式，隨著人們對AI技術的認知逐漸深化，相應的對其更加深入的應用也有了更高期待。能否構建AI智能體實現(xiàn)AI業(yè)務自動化，全面賦能企業(yè)的工作流、業(yè)務流呢?
繆政輝現(xiàn)場介紹了Dify這一大模型工具。這一開放靈活的生成式AI應用開發(fā)框架，涵蓋了構建生成式 AI原生應用所需的核心技術棧，開發(fā)者可以聚焦于創(chuàng)造應用的核心價值，便捷部署，快速發(fā)布應用，有效加速企業(yè)AI應用的開發(fā)周期，并通過阿里云百煉平臺進一步優(yōu)化流程管理，深化AI智能體的應用，為用戶提供更全面的解決方案。
除了這兩款重點大模型工具，繆政輝還現(xiàn)場推薦了如Jina Reader API、AiPPT、VitePress等增強問答知識庫和AI Agent的工具，充分滿足企業(yè)個性化和多樣化需求。
繆政輝向與會者介紹了端木軟件。作為阿里云旗艦級合作伙伴，端木軟件全國部署6大靈活開發(fā)團隊池、9大云計算支持中心，以其在云業(yè)務、應用現(xiàn)代化服務、軟件服務外協(xié)等方面的專業(yè)服務能力，為電力、政府、運營商、制造等多個行業(yè)客戶提供一站式IT服務。
此次研討會不僅為企業(yè)提供了0代碼構建AI機器人的具體操作指南，更為行業(yè)內外展示了AI技術如何在不同領域落地，促進業(yè)務創(chuàng)新與效率提升。AI和大模型技術日漸成熟的發(fā)展，為企業(yè)全場景工作流、業(yè)務流注入了智能基因，讓企業(yè)寶貴的知識資產得以高效反哺業(yè)務發(fā)展，是企業(yè)降低人力成本、顯著提高業(yè)務流轉效率的強大動能。
