網(wǎng)易有道近期在人工智能領(lǐng)域邁出了重要一步，宣布成功研發(fā)并開源了名為“子曰-o1”的推理模型。這款模型以其獨(dú)特的分步式講解功能，在國(guó)內(nèi)尚屬首次。
“子曰-o1”被定義為一款輕量級(jí)的14B參數(shù)單模型，其設(shè)計(jì)初衷是為了能在普通消費(fèi)級(jí)顯卡上順利運(yùn)行。通過采用先進(jìn)的思維鏈技術(shù)，該模型能夠詳細(xì)展示解題步驟，憑借其強(qiáng)大的邏輯和推理能力，確保了更高的解題準(zhǔn)確性，并且專門優(yōu)化了中文邏輯推理功能。
網(wǎng)易有道指出，當(dāng)前市場(chǎng)上可供開源的模型數(shù)量有限，且這些模型通常參數(shù)規(guī)模龐大，無法在顯存較低的消費(fèi)級(jí)顯卡上運(yùn)行。盡管有些模型通過低比特量化技術(shù)實(shí)現(xiàn)了單卡部署，但這往往會(huì)導(dǎo)致在長(zhǎng)思維鏈運(yùn)行時(shí)出現(xiàn)不穩(wěn)定的情況。
為了解決這些問題，“子曰-o1”在開源時(shí)選擇了參數(shù)規(guī)模較小的基礎(chǔ)模型，確保能夠輕松進(jìn)行單卡部署，并展現(xiàn)出強(qiáng)大的數(shù)學(xué)處理能力。通過進(jìn)一步的輕量化處理，該模型能夠在消費(fèi)級(jí)顯卡上流暢運(yùn)行，其性能與云端部署的模型不相上下。
網(wǎng)易有道還強(qiáng)調(diào)，在壓縮模型規(guī)模的同時(shí)，“子曰-o1”利用思維鏈技術(shù)，成功打造出了國(guó)內(nèi)首個(gè)能夠輸出分步式講解的思維鏈模型。這款僅14B參數(shù)的小規(guī)模模型，卻能夠復(fù)現(xiàn)OpenAI o1的單模型推理能力。為了直觀展示這一功能，網(wǎng)易有道還提供了相應(yīng)的演示圖：
