IBM近期在其企業(yè)級(jí)AI開發(fā)平臺(tái)watsonx.ai上推出了DeepSeek-R1蒸餾版的Llama 3.1 8B和Llama 3.3 70B模型，這一消息引起了業(yè)界的廣泛關(guān)注。
DeepSeek技術(shù)結(jié)合了知識(shí)蒸餾的精髓，通過(guò)R1模型生成的數(shù)據(jù)，優(yōu)化了多個(gè)Llama和Qwen的變體，從而提升了模型的性能和效率。這一創(chuàng)新使得用戶在watsonx.ai平臺(tái)上能夠享受到更加高效和智能的AI服務(wù)。
用戶現(xiàn)在可以通過(guò)多種方式在watsonx.ai上使用DeepSeek蒸餾模型。在平臺(tái)的“按需部署”目錄中，IBM提供了Llama蒸餾版的專用實(shí)例，用戶只需簡(jiǎn)單部署即可進(jìn)行安全推理。用戶還可以通過(guò)“自定義基礎(chǔ)模型”導(dǎo)入功能，上傳DeepSeek-R1的其他變體，如Qwen蒸餾模型，以滿足其特定的應(yīng)用需求。
DeepSeek-R1模型以其強(qiáng)大的推理能力在眾多領(lǐng)域展現(xiàn)出了廣泛的應(yīng)用潛力。在規(guī)劃領(lǐng)域，其獨(dú)特的“鏈?zhǔn)剿季S”邏輯使得處理需要逐步推理的任務(wù)變得輕而易舉，特別適合智能體應(yīng)用。在編程領(lǐng)域，DeepSeek-R1可用于代碼生成、調(diào)試和優(yōu)化，顯著提升開發(fā)效率。同時(shí)，該模型還具備處理復(fù)雜數(shù)學(xué)問(wèn)題的能力，在科研、工程和科學(xué)計(jì)算等領(lǐng)域同樣表現(xiàn)出色。
開發(fā)者在watsonx.ai平臺(tái)上利用DeepSeek-R1進(jìn)行AI解決方案開發(fā)時(shí)，還可以享受到一系列解決方案能力。例如，他們可以直觀地測(cè)試和評(píng)估模型輸出，通過(guò)連接向量數(shù)據(jù)庫(kù)和嵌入模型構(gòu)建RAG（檢索增強(qiáng)生成）管道，以及支持LangChain、CrewAI等主流AI框架。這些功能使得開發(fā)者能夠更加便捷地構(gòu)建和優(yōu)化AI應(yīng)用。
IBM watsonx.ai平臺(tái)提供了靈活的開源模型定制選項(xiàng)，支持DeepSeek-R1在不同環(huán)境下的部署。這一特性簡(jiǎn)化了智能體開發(fā)、微調(diào)、RAG、提示工程等工作流，使得開發(fā)者能夠更加高效地完成任務(wù)。watsonx.ai平臺(tái)還內(nèi)置了安全機(jī)制，保障用戶應(yīng)用的安全性，讓用戶在使用過(guò)程中更加放心。
IBM首席執(zhí)行官此前曾透露，他們僅用約2000枚英偉達(dá)芯片，以大約600萬(wàn)美元的成本就訓(xùn)練出了最新的DeepSeek模型。這一成本遠(yuǎn)低于行業(yè)預(yù)期，再次證明了小型、高效的模型同樣能夠帶來(lái)實(shí)際成果，無(wú)需依賴龐大而昂貴的專有系統(tǒng)。這一成就不僅彰顯了IBM在AI領(lǐng)域的創(chuàng)新能力，也為整個(gè)行業(yè)的發(fā)展提供了新的思路和啟示。
