ITBear旗下自媒體矩陣:

微軟推出38億參數(shù)phi-3-mini模型:每秒可生成12個tokens

   時間:2024-04-23 15:19:06 來源:ITBEAR編輯:茹茹 發(fā)表評論無障礙通道

【ITBEAR科技資訊】4月23日消息,微軟研究院近日公布了一項令人矚目的技術成果——Phi-3系列AI模型。這一系列模型包含三個版本:mini(38億參數(shù))、small(70億參數(shù))以及medium(140億參數(shù)),分別滿足不同場景和需求的應用。

據(jù)微軟技術報告顯示,擁有38億參數(shù)的phi-3-mini模型在經(jīng)過高達3.3萬億個tokens的訓練后,其在基準測試中的跑分性能已經(jīng)成功超越了Mixtral 8x7B和GPT-3.5等業(yè)界知名模型。這一成就彰顯了微軟在人工智能領域的深厚實力和創(chuàng)新能力。

phi-3-mini模型不僅可以部署在高性能計算機上,還可以輕松應用于手機等便攜設備。該模型在27億參數(shù)的Phi-2模型基礎上進行了進一步優(yōu)化,通過整合嚴格過濾的網(wǎng)絡數(shù)據(jù)和合成數(shù)據(jù),提升了模型的通用性和準確性。

盡管phi-3-mini模型在語言理解和推理能力方面表現(xiàn)出色,甚至可以媲美更大參數(shù)的AI模型,但微軟也坦誠地指出,在某些特定任務,如TriviaQA等,其性能仍然受到模型規(guī)模的限制。然而,這并不影響phi-3-mini模型在眾多領域中的廣泛應用前景。

此外,微軟還公布了phi-3-small和phi-3-medium兩個模型在MMLU測試中的得分,分別為75.3和78.2,顯示出這兩個模型在處理復雜任務時也具備了相當高的性能。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關于我們  |  聯(lián)系方式  |  版權聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報  |  開放轉(zhuǎn)載  |  滾動資訊  |  English Version