8月21日，火山引擎總裁譚待在2024火山引擎AI創(chuàng)新巡展(上海站)演講時表示，有創(chuàng)業(yè)公司在兩個月內(nèi)，日均調(diào)用豆包大模型的tokens數(shù)量增長了357倍，為其業(yè)務(wù)帶來了快速增長。
在今年5月15日舉辦的火山引擎原動力大會上，字節(jié)跳動正式發(fā)布“豆包大模型”，同時還宣布其在企業(yè)市場的定價只有0.0008元/千Tokens，0.8厘即可處理1500多個漢字，比行業(yè)便宜99.3%。會后，多家大模型廠商紛紛跟進宣布降價，部分廠商甚至對外免費開放一些輕量級模型。
本次巡展接受媒體采訪時，譚待也再次提到降價問題。他表示，一些友商提出的免費模式僅適用于C端，會通過廣告模式回收成本。但在B端，真正好用的大模型不可能免費。
大模型降價，降低了企業(yè)的試錯和創(chuàng)新成本，也讓更多企業(yè)真正開始使用大模型。數(shù)據(jù)顯示，截至7月，豆包大模型日均tokens調(diào)用量已超過5000億，兩個月里增長了3倍多。
而不斷增加的調(diào)用量，也反過來促進了模型能力提升，讓豆包大模型的表現(xiàn)越來越全面。過去兩個月里，豆包pro、豆包lite都已完成多項重要升級。
測試數(shù)據(jù)表明，豆包pro的最新版本，相比于5月份發(fā)布的第一個版本，整體綜合能力提升了20.3%。其中，角色扮演能力提升38.3%，語言理解提升33.3%。同時，豆包pro和lite在常用任務(wù)，以及數(shù)學、專業(yè)知識、代碼能力等多方面，都得到了全面提升。
目前豆包大模型在性能方面，已能支持最高標準初始800K的TPM，相較行業(yè)平均水平高出4—5倍，可讓企業(yè)在高負載、高并發(fā)的情況下，放心、穩(wěn)定使用大模型。并且在具體實踐中，已經(jīng)幫助客戶成功應(yīng)對了最高并發(fā)挑戰(zhàn)。
在現(xiàn)場，譚待特別展示了某創(chuàng)業(yè)公司日均tokens用量的變化。該公司于5月份開始接觸豆包大模型，降價后，隨著成本壓力的解除，該公司的日均tokens用量不斷增長，至6月份，ROI變正且留存量提升，讓其在市場推廣上更加放開，整體業(yè)務(wù)發(fā)生快速增長。迄今為止，日均tokens在兩個月內(nèi)已經(jīng)增長了357倍。
譚待表示，正是這樣的案例越來越多，在生產(chǎn)力端和C端，各種AI應(yīng)用才真正開始繁榮起來。
在此次火山引擎AI創(chuàng)新巡展上，火山引擎除發(fā)布豆包大模型一系列產(chǎn)品升級外，還攜手多點 DMALL等零售行業(yè)巨頭，共同成立零售大模型生態(tài)聯(lián)盟，基于豆包大模型，打造零售AI解決方案，提升消費者購物體驗。聯(lián)盟首批成員包括物美集團、抖音電商、抖音生活服務(wù)、百勝、麥當勞、中國飛鶴、海底撈、居然之家、南7-11、重慶百貨、百果園、波司登、天虹、三得利、絕味、名創(chuàng)優(yōu)品、NielsenIQ、電通等。
而這已非火山引擎首次與具體行業(yè)客戶成立類似聯(lián)盟。如此前，火山引擎就已分別與智能終端和汽車行業(yè)的眾多客戶合作發(fā)起大模型聯(lián)盟。
對此火山引擎總裁譚待表示，大模型在各行業(yè)的落地仍將以應(yīng)用方式為主，但不是僅依靠大模型API就可以，而是需要完整的解決方案。
其中，找到PMF(Product Market Fit，產(chǎn)品市場匹配度)最為重要，這需要廠商對技術(shù)與業(yè)務(wù)有所了解，才能真正做到技術(shù)落地。因此，火山引擎希望與更多其他行業(yè)know-how合作伙伴一起服務(wù)企業(yè)，共創(chuàng)服務(wù)方案。
