ITBear旗下自媒體矩陣:

分布式算力革命來襲,或?qū)⒁I(lǐng)科技新紀(jì)元?

   時(shí)間:2024-09-08 16:35:30 來源:ITBEAR作者:沈如風(fēng)編輯:瑞雪 發(fā)表評(píng)論無(wú)障礙通道

PPIO分布式云計(jì)算論壇現(xiàn)場(chǎng)

PPIO派歐云近日在上海盛大舉辦了“Power to Pioneers·2024分布式云計(jì)算論壇暨PPIO AI產(chǎn)品發(fā)布會(huì)”。該活動(dòng)聚焦探討了分布式云計(jì)算在技術(shù)創(chuàng)新、產(chǎn)業(yè)應(yīng)用及市場(chǎng)趨勢(shì)等多個(gè)層面,如何有效推動(dòng)AIGC規(guī)?;瘧?yīng)用的發(fā)展。在論壇的高潮環(huán)節(jié),PPIO隆重推出了其全新的Serverless服務(wù)及模型API產(chǎn)品,這標(biāo)志著派歐云在分布式云服務(wù)領(lǐng)域的布局從邊緣計(jì)算擴(kuò)展至了AI基礎(chǔ)架構(gòu)。

PPIO派歐云的聯(lián)合創(chuàng)始人、董事長(zhǎng)兼CEO姚欣在演講中強(qiáng)調(diào),根據(jù)尺度定律,計(jì)算能力已成為決定大模型創(chuàng)新和應(yīng)用潛力的關(guān)鍵因素。面對(duì)計(jì)算資源成本不斷攀升而需求持續(xù)增長(zhǎng)的市場(chǎng)現(xiàn)狀,分布式算力正崛起為引領(lǐng)新一輪科技變革的重要力量,它正在逐步重塑全球計(jì)算資源的分配和利用模式。姚欣表示,PPIO的愿景是通過利用分布式云的優(yōu)勢(shì),在三年內(nèi)實(shí)現(xiàn)計(jì)算成本的千倍降低,以算力的普及促進(jìn)AI技術(shù)的普及,從而為新時(shí)代的創(chuàng)新者們開辟全新的發(fā)展機(jī)會(huì)。

據(jù)ITBEAR了解,相較于模型訓(xùn)練,AI推理與實(shí)際產(chǎn)業(yè)應(yīng)用的結(jié)合更為緊密。大模型在完成訓(xùn)練后,需通過推理過程才能在實(shí)際場(chǎng)景中發(fā)揮作用,這直接關(guān)系到其應(yīng)用的可行性和實(shí)用性。然而,目前AI推理所面臨的高成本問題尤為突出,特別是隨著模型規(guī)模的擴(kuò)大,計(jì)算需求和成本也水漲船高。此外,推理效率低下以及復(fù)雜的業(yè)務(wù)場(chǎng)景和應(yīng)用鏈路,都進(jìn)一步增加了推理的成本負(fù)擔(dān)。

為了有效應(yīng)對(duì)AI推理的成本挑戰(zhàn),并推動(dòng)大模型應(yīng)用的算力普及,PPIO派歐云通過算法、系統(tǒng)和硬件的協(xié)同創(chuàng)新,專門針對(duì)AI推理場(chǎng)景推出了Serverless產(chǎn)品。這款產(chǎn)品提供了包括模型部署、運(yùn)行優(yōu)化、彈性擴(kuò)展及API服務(wù)在內(nèi)的全方位功能,使開發(fā)者能夠擺脫算力服務(wù)器的管理和運(yùn)維工作,專注于核心業(yè)務(wù)的邏輯開發(fā)與創(chuàng)新,從而為企業(yè)實(shí)現(xiàn)成本節(jié)約和效率提升。

PPIO推出的Model API服務(wù)產(chǎn)品示意圖

同時(shí),PPIO還推出了全新的Model API服務(wù)產(chǎn)品,該產(chǎn)品支持AIGC應(yīng)用開發(fā)所需的全模態(tài)API,使得開發(fā)者無(wú)需深厚的機(jī)器學(xué)習(xí)背景也能快速部署和調(diào)用大模型功能。結(jié)合PPIO強(qiáng)大的分布式計(jì)算能力和Serverless產(chǎn)品的彈性支持,Model API服務(wù)不僅大幅度提升了AI應(yīng)用的開發(fā)效率,還通過靈活的按需付費(fèi)模式,顯著降低了企業(yè)的開發(fā)和運(yùn)營(yíng)成本。

為了進(jìn)一步推動(dòng)AI應(yīng)用的創(chuàng)新生態(tài),PPIO派歐云還聯(lián)手PingCap、Zilliz、AscentStream及CSDN,共同啟動(dòng)了“Pioneers AI初創(chuàng)加速計(jì)劃”。該計(jì)劃旨在為AI初創(chuàng)企業(yè)和開發(fā)者提供包括分布式算力、數(shù)據(jù)庫(kù)、消息隊(duì)列等在內(nèi)的全方位資源和技術(shù)支持,以助力這些創(chuàng)新團(tuán)隊(duì)在分布式云平臺(tái)上快速成長(zhǎng),并加速其創(chuàng)新成果的商業(yè)化落地。

在論壇的最后,PPIO派歐云還宣布了聘請(qǐng)中國(guó)分布式計(jì)算領(lǐng)域的權(quán)威學(xué)者金海教授擔(dān)任公司技術(shù)委員會(huì)主席的重要決定。金海教授將以其在分布式技術(shù)領(lǐng)域的深厚造詣,為PPIO的技術(shù)發(fā)展戰(zhàn)略和算力網(wǎng)絡(luò)規(guī)劃提供寶貴的指導(dǎo)和建議。

#PPIO派歐云# #分布式云計(jì)算# #AI推理# #Serverless# #Model API服務(wù)#

舉報(bào) 0 收藏 0 打賞 0評(píng)論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁(yè)  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報(bào)  |  開放轉(zhuǎn)載  |  滾動(dòng)資訊  |  English Version