近期,據(jù)科技媒體晚點LatePost透露,字節(jié)跳動在1月下旬悄然啟動了一個代號為“Seed Edge”的前沿研究項目。該項目旨在探索比當前預訓練技術(shù)和大模型迭代更為長遠和基礎(chǔ)的人工智能通用智能(AGI)領(lǐng)域。Seed Edge項目已經(jīng)規(guī)劃了五個核心研究方向,預示著字節(jié)跳動在AI研究上的深度布局。
其中,“下一代推理”方向致力于研究如何提升模型的推理效率與通用性,尋找更高效的方法來處理復雜問題?!跋乱淮兄眲t聚焦于構(gòu)建統(tǒng)一的生成與理解表示體系,以更精準地表示和壓縮真實世界信息,進而構(gòu)建出“世界模型”。
在“軟硬一體的模型設(shè)計”方向上,Seed Edge項目計劃結(jié)合硬件發(fā)展,探索超越Transformer+GPU架構(gòu)的模型設(shè)計,充分發(fā)揮下一代硬件的潛力。而“下一代范式”研究則意在突破現(xiàn)有的反向傳播、Transformer架構(gòu)及預訓練+對齊模式,探索更高效的模型結(jié)構(gòu)和學習方法。
“下一代Scaling方向”則專注于在預訓練和推理階段的擴展法則之外,探索Multi-Agent(多智能體)系統(tǒng)和Test-Time Training(測試時間訓練)等新興方向,以期在模型性能和適應性上取得突破。
據(jù)透露,Seed Edge項目初期將以虛擬項目組的形式運作,針對這些充滿不確定性的研究方向進行深入探索。這一舉措顯示出字節(jié)跳動在AI前沿領(lǐng)域的積極探索精神。
在過去一年中,字節(jié)跳動密集發(fā)布了多款AI大模型產(chǎn)品,展現(xiàn)了其在AI技術(shù)上的強勁實力。就在近日,字節(jié)跳動還推出了豆包大模型1.5 Pro,據(jù)稱在知識、代碼、推理、中文等多個測評基準上表現(xiàn)優(yōu)異,綜合得分甚至超越了GPT-4o、Claude 3.5 Sonnet等模型。
字節(jié)跳動官方表示,豆包大模型1.5 Pro在訓練過程中未使用任何其他模型生成的數(shù)據(jù),確保了模型的獨立性和原創(chuàng)性。同時,豆包大模型1.5系列產(chǎn)品,包括Doubao-1.5-pro、Doubao-1.5-lite、Doubao-1.5-vision-pro等,將繼續(xù)保持原價不變,為用戶提供更多價值。
隨著Seed Edge項目的啟動和豆包大模型1.5 Pro的發(fā)布,字節(jié)跳動在AI領(lǐng)域的布局日益清晰。從基礎(chǔ)研究到應用產(chǎn)品,字節(jié)跳動正逐步構(gòu)建起完整的AI生態(tài)體系。
未來,隨著技術(shù)的不斷進步和應用場景的不斷拓展,字節(jié)跳動有望在AI領(lǐng)域取得更多突破和創(chuàng)新。
對于用戶而言,這也意味著將能夠享受到更加智能、便捷、高效的服務和體驗。