近日，人工智能領域迎來了一項引人注目的新突破。一項由斯坦福大學與華盛頓大學聯(lián)手完成的研究顯示，科學家們僅花費不到50美元（當前匯率約364元人民幣）的云計算成本，便成功打造出一個具備卓越“推理”能力的人工智能模型，命名為s1。
s1模型在數(shù)學邏輯與編程能力測試中，展現(xiàn)出了與業(yè)界頂尖推理模型，如OpenAI的o1和DeepSeek的r1不相上下的表現(xiàn)。更令人矚目的是，s1模型及其訓練數(shù)據(jù)和代碼已在GitHub平臺全面開源，供全球開發(fā)者學習與研究。
s1團隊透露，該模型的誕生得益于“蒸餾”技術，這是一種通過訓練模型來模仿另一模型的答案，從而提煉出“推理”能力的創(chuàng)新方法。s1正是從谷歌的Gemini 2.0 Flash Thinking Experimental模型中蒸餾而來。值得注意的是，加州大學伯克利分校的研究團隊也采用了同樣的蒸餾方法，以約450美元的成本開發(fā)出了一款人工智能推理模型。
s1模型的橫空出世，引發(fā)了業(yè)界對于人工智能模型商品化的深刻反思。若能以極低的成本復制出價值數(shù)百萬美元的模型，大型科技公司的競爭優(yōu)勢何在？這一話題引發(fā)了廣泛討論。不出所料，OpenAI等人工智能巨頭對此表示擔憂，此前就曾指責DeepSeek不當獲取其API數(shù)據(jù)用于模型蒸餾。
s1團隊則致力于探索實現(xiàn)高效推理性能和“測試時擴展”的最簡化路徑，這些正是OpenAI的o1模型所展現(xiàn)出的突破性進展。s1的論文指出，通過監(jiān)督微調(diào)（SFT）方法，即便使用較小的數(shù)據(jù)集也能成功蒸餾出推理模型。在SFT過程中，模型被明確指示模仿特定行為，相較于DeepSeek用于訓練R1模型的大規(guī)模強化學習方法，SFT更具成本效益。
谷歌通過其Google AI Studio平臺免費提供Gemini 2.0 Flash Thinking Experimental模型的訪問權限，但每日使用有限制，并明確禁止逆向工程以開發(fā)競爭服務。然而，s1團隊巧妙地利用了這一資源。他們基于阿里巴巴旗下中國人工智能實驗室Qwen提供的一款小型免費模型，創(chuàng)建了僅包含1000個精心挑選的問題及其答案的數(shù)據(jù)集，并引入了谷歌Gemini 2.0 Flash Thinking Experimental為每個答案提供的“思考”過程。
在訓練過程中，s1團隊使用了16個Nvidia H100 GPU，耗時不到30分鐘便完成了訓練，成本僅為約20美元。訓練后的s1在某些人工智能基準測試中取得了優(yōu)異成績。斯坦福大學參與該項目的研究員Niklas Muennighoff向TechCrunch透露了這一信息。
s1團隊還采用了一個獨特的技巧來提升模型的準確性：讓s1在推理過程中“等待”。論文顯示，在推理步驟中加入“等待”一詞，有助于模型獲得更精確的答案。這一創(chuàng)新方法無疑為人工智能領域帶來了新的啟示。
