階躍星辰公司近期在AI領域邁出了重要一步,推出了Step-2系列語言模型的兩款全新產(chǎn)品。這兩款新品分別是Step-2 mini和Step文學大師版,它們各自擁有獨特的定位和優(yōu)勢。
Step-2 mini作為一款輕量級語言模型,以極小的參數(shù)量實現(xiàn)了高效能。與階躍星辰的萬億參數(shù)大模型Step-2相比,Step-2 mini僅以約3%的參數(shù)量,就保留了其80%以上的卓越性能。這一突破性的設計使得Step-2 mini在保持高性能的同時,擁有了更快的生成速度和極高的性價比。據(jù)悉,在輸入4000個token的情況下,Step-2 mini的平均首字時延僅為0.17秒,這一速度令人矚目。目前,用戶已經(jīng)可以在階躍星辰開放平臺上輕松調(diào)用Step-2 mini的API接口,享受其帶來的便捷與高效。價格方面,Step-2 mini的輸入費用為每百萬token 1元,輸出費用為每百萬token 2元,這一價格策略無疑將吸引大量用戶。
Step-2 mini之所以能夠?qū)崿F(xiàn)如此高效的性能,得益于階躍星辰自主研發(fā)的新型注意力機制架構——MFA(Multi-matrix Factorization Attention,多矩陣分解注意力)及其變體MFA-Key-Reuse。這一創(chuàng)新架構相較于傳統(tǒng)的MHA(Multi-Head Attention,多頭注意力)架構,大幅節(jié)省了近94%的KV緩存開銷,從而實現(xiàn)了更快的推理速度和更低的推理成本。
除了Step-2 mini之外,階躍星辰還推出了專為文字內(nèi)容創(chuàng)作研發(fā)的Step-2文學大師版。這款模型沿襲了Step-2的知識儲備和對文字細節(jié)的精準把控能力,但更側(cè)重于強大的內(nèi)容創(chuàng)作能力。據(jù)官方介紹,Step-2文學大師版旨在解決當前市面上語言模型普遍存在的“假大空”問題,即內(nèi)容過度對齊、缺乏新意和真情實感。通過Step-2文學大師版,用戶可以期待獲得更加生動、真實且具有創(chuàng)意的文字內(nèi)容。
階躍星辰此次推出的兩款新品,不僅展示了其在AI語言模型領域的深厚實力,也為廣大用戶提供了更加多樣化、高效化的選擇。未來,隨著AI技術的不斷發(fā)展,階躍星辰有望繼續(xù)在AI領域引領創(chuàng)新潮流,為用戶帶來更多驚喜。