今年的OPPO 2022未來科技大會(huì)(OPPO INNO DAY 2022)上,OPPO正式發(fā)布了讓終端更智能的“安第斯智能云”,并分享了其在端云數(shù)據(jù)存儲(chǔ)、端云機(jī)器學(xué)習(xí)、端云實(shí)時(shí)渲染等領(lǐng)域的關(guān)鍵能力,為用戶帶來重構(gòu)端云存儲(chǔ)、增強(qiáng)智能服務(wù)、探索虛實(shí)融合的三大體驗(yàn)革新。
在增強(qiáng)智能服務(wù)方面,OPPO 端云機(jī)器學(xué)習(xí)平臺(tái)StarFire采用端云協(xié)同機(jī)器學(xué)習(xí)新范式,融合云側(cè)大規(guī)模模型實(shí)時(shí)訓(xùn)練和端側(cè)動(dòng)態(tài)感知用戶的雙重優(yōu)勢,促進(jìn)AI能力進(jìn)一步向自適應(yīng)AI、生成式AI演進(jìn)。
近日,StarFire完成了全新升級(jí),通過落地支持多種異構(gòu)芯片的訓(xùn)推一體平臺(tái),打通了芯云一體的AI訓(xùn)練、優(yōu)化、推理全流程,在全面提升算力與性能的同時(shí)降低成本和功耗,為OPPO用戶提供性能強(qiáng)大的全場景服務(wù)體驗(yàn)。
【突破行業(yè)瓶頸,端云機(jī)器學(xué)習(xí)能力升級(jí)】
在以數(shù)據(jù)為中心的今天,傳統(tǒng)的單一計(jì)算架構(gòu)已無法滿足當(dāng)下日益高漲的算力需求。特別是在人工智能領(lǐng)域, AI意味著對算力的超高要求,異構(gòu)計(jì)算大有可為,現(xiàn)已成為加速AI創(chuàng)新的新一代計(jì)算架構(gòu)。
為突破行業(yè)當(dāng)前云上機(jī)器學(xué)習(xí)平臺(tái)的“三高(延時(shí)高、成本高、隱私安全風(fēng)險(xiǎn)高)”瓶頸,OPPO異構(gòu)計(jì)算全新升級(jí)。經(jīng)過一年多的努力,StarFire完成了支持多種異構(gòu)芯片的訓(xùn)推一體平臺(tái)的落地,打通了芯云一體的AI訓(xùn)練、優(yōu)化、推理全流程,在充分發(fā)揮算力與性能的同時(shí),有效降低功耗與成本。
借助StarFire的端云鏈路,任意一臺(tái)終端都可以隨時(shí)加入訓(xùn)練過程,StarFire能夠感知終端設(shè)備的芯片特性,并面向目標(biāo)業(yè)務(wù)場景優(yōu)化模型,釋放OPPO強(qiáng)大的云端算力,極大補(bǔ)齊終端設(shè)備資源和算力資源的短板,并快速適配高通、MTK和OPPO自研的馬里亞納等異構(gòu)芯片的推理需求。
【兼容異構(gòu)芯片,多場景推薦服務(wù)升級(jí)】
為了進(jìn)一步打造更為自主可控的異構(gòu)計(jì)算平臺(tái),StarFire對AI芯片的應(yīng)用進(jìn)行了探索,當(dāng)前StarFire推理平臺(tái)已同時(shí)支持CPU、GPU和國產(chǎn)芯片進(jìn)行推理,并率先在信息流主視頻場景全量上線,取得極好的效果。具體地說,StarFire最大吞吐量提升了101%,中負(fù)載下耗時(shí)下降50%;另一方面,推理的綜合成本也下降50%,并在穩(wěn)定運(yùn)行的幾個(gè)月中實(shí)現(xiàn)了0故障。
此次在信息流主視頻場景全量上線的成果,充分驗(yàn)證了StarFire在支持多種異構(gòu)芯片的可能性,為后續(xù)引入更多的AI芯片打下了夯實(shí)的基礎(chǔ)。值得一提的是,在異構(gòu)計(jì)算平臺(tái)的構(gòu)建過程中,StarFire針對面向推薦場景的算子進(jìn)行了相關(guān)的優(yōu)化,除卻當(dāng)前信息流內(nèi)容主視頻場景的應(yīng)用,后續(xù)還將復(fù)用到其他的推薦場景,進(jìn)一步提升異構(gòu)計(jì)算的通用性和性能效果。
【加速業(yè)務(wù)應(yīng)用創(chuàng)新,提升智能服務(wù)體驗(yàn)】
一直以來,OPPO均致力于為用戶提供便捷高效的智能服務(wù)體驗(yàn)。StarFire為用戶帶來了更低延時(shí)的實(shí)時(shí)交互、支持千億級(jí)參數(shù)的AI模型以及更安全的用戶隱私保護(hù),通過充分調(diào)動(dòng)云側(cè)計(jì)算與端側(cè)感知,創(chuàng)造更強(qiáng)大的智能服務(wù)體驗(yàn),全力推動(dòng)OPPO業(yè)務(wù)應(yīng)用創(chuàng)新與用戶體驗(yàn)提升。
以小布助手主動(dòng)建議為例,StarFire可以基于用戶個(gè)性化的行為、GPS、通信等數(shù)據(jù)進(jìn)行隱私計(jì)算,通過場景服務(wù)聚合卡片,為用戶提供一站式、輕松便捷的聚合服務(wù)體驗(yàn)。StarFire作為OPPO增強(qiáng)智能服務(wù)的技術(shù)底座,推動(dòng)小布助手從最初的語音助手發(fā)展為跨終端、多模態(tài)的智能助手,從被動(dòng)的服務(wù)向主動(dòng)建議、輔助決策進(jìn)化。
StarFire的能力還不止于此。通過端側(cè)實(shí)時(shí)感知的數(shù)據(jù),云端不斷反復(fù)進(jìn)行模型訓(xùn)練,可以讓AI快速學(xué)習(xí)、主動(dòng)進(jìn)化。根據(jù)Gartner公布的技術(shù)趨勢預(yù)測,自適應(yīng)AI、生成式AI等擁有主動(dòng)學(xué)習(xí)、自進(jìn)化能力的人工智能將為我們帶來意外之喜。
在OPPO 2022未來科技大會(huì)上,OPPO全新推出了小布作畫與小布家庭機(jī)器人。作為AIGC中的首發(fā)能力,小布作畫一方面可以讓用戶通過文字描述、上傳圖片等形式生成想要的作品,另一方面小布也作為一個(gè)創(chuàng)作者,將繪畫作品賦能到更多的業(yè)務(wù)場景中。小布家庭機(jī)器人則是小布技術(shù)進(jìn)化的集大成者,同時(shí)也是StarFire在AI計(jì)算能力的集中展示和未來的關(guān)鍵技術(shù)突圍點(diǎn)。
隨著用戶需求和業(yè)務(wù)場景的持續(xù)發(fā)展,OPPO將著力推動(dòng)StarFire在異構(gòu)計(jì)算平臺(tái)的不斷創(chuàng)新,引入更多更先進(jìn)的AI芯片和技術(shù),在以“ALL FOR ONE,以用戶為中心”的戰(zhàn)略目標(biāo)指引下前行,帶來全新智能服務(wù)體驗(yàn)。
