ITBear旗下自媒體矩陣:

對國產(chǎn)硬件支持業(yè)界第一!百度飛槳軟硬融合新升級助推AI應(yīng)用落地

   時(shí)間:2020-09-15 16:43:22 來源:互聯(lián)網(wǎng)編輯:星輝 發(fā)表評論無障礙通道

9月15日,以“萬物智能”為主題的百度世界2020大會于線上召開,作為人工智能領(lǐng)域的年度盛會,大會吸引了眾多行業(yè)專家、技術(shù)大咖、開發(fā)者及科技愛好者的關(guān)注?,F(xiàn)場,百度CTO王海峰宣布百度自研的飛槳深度學(xué)習(xí)平臺迎來全新升級,向觀眾揭示了核心技術(shù)自主可控、開源開放的重要價(jià)值。

在當(dāng)天下午的百度大腦分論壇,百度深度學(xué)習(xí)技術(shù)平臺部高級總監(jiān)馬艷軍從技術(shù)層面出發(fā),用“動靜統(tǒng)一、軟硬融合”形容飛槳的此次更新:硬件上,飛槳目前已適配22種芯片型號,覆蓋15家硬件廠商,對國產(chǎn)硬件的支持超過TensorFlow和PyTorch;軟件上,動態(tài)圖功能升級實(shí)現(xiàn)了動靜態(tài)的結(jié)合,讓用戶更容易開發(fā)模型;全面升級的API體系,則對于開發(fā)者更加友好。目前,飛槳可以與華為等硬件進(jìn)行深度配合,讓AI應(yīng)用收獲更強(qiáng)勁的效果,加速人工智能技術(shù)的進(jìn)一步普及。

(百度深度學(xué)習(xí)技術(shù)平臺部高級總監(jiān)馬艷軍)

深度學(xué)習(xí)框架與芯片硬件綁定 助推AI應(yīng)用體驗(yàn)“坐火箭”

深度學(xué)習(xí)框架需要和芯片做深度對接適配才能實(shí)現(xiàn)高性能,并優(yōu)化AI應(yīng)用的體驗(yàn),這點(diǎn)已經(jīng)成為業(yè)界的常識。因此,深度學(xué)習(xí)框架對硬件廠商的適配程度,決定了它的性能與實(shí)用程度。

而飛槳在這一點(diǎn)上已走在行業(yè)前列。據(jù)馬艷軍介紹,飛槳目前已可適配22種芯片型號,覆蓋Intel、英偉達(dá)、華為、聯(lián)發(fā)科、瑞芯微、寒武紀(jì)等15家硬件廠商,且對國產(chǎn)硬件的支持已經(jīng)超過TensorFlow和PyTorch等國際主流框架。飛槳形成的繁榮硬件生態(tài)既在百度內(nèi)部為智慧交通、基礎(chǔ)架構(gòu)提供了更高性價(jià)比的硬件選擇,對外也助力海淀城市大腦、長城服務(wù)器等多個(gè)項(xiàng)目落地。

與華為的合作正是其中的一個(gè)典型。在去年七月的百度AI開發(fā)者大會上,百度飛槳與華為達(dá)成合作,雙方在硬件底層打通,可以為端側(cè)AI提供強(qiáng)勁算力,這一點(diǎn)在輸入法應(yīng)用上體現(xiàn)得特別明顯:性能提升25%,內(nèi)存節(jié)省22%,功耗降低50%,而且表現(xiàn)更加穩(wěn)定,不會受到CPU的負(fù)載影響。

此外,在百度飛槳與華為的合作中,飛槳框架與華為HiAI能力開放平臺全面對接,無縫整合HiAI Foundation的預(yù)測能力,飛槳開發(fā)者可以自動獲得深度學(xué)習(xí)模型的硬件加速。同時(shí)得益于飛槳與達(dá)芬奇NPU的深度整合,可以讓更多深度學(xué)習(xí)模型突破資源限制,帶來更優(yōu)秀的應(yīng)用體驗(yàn),并反過來驅(qū)動芯片平臺性能提升與功能演進(jìn),達(dá)到雙贏的局面。此外,英特爾高級工程師Andres Rodrigus也在演講中提到,英特爾至強(qiáng)處理器針對飛槳等深度學(xué)習(xí)框架做出優(yōu)化后,在INT8與Bfloat16等AI任務(wù)上可以帶來更高的計(jì)算性能與精度。

應(yīng)用層再迎全面升級 動靜統(tǒng)一與API體系讓深度學(xué)習(xí)更易用

在現(xiàn)場,馬艷軍還帶來飛槳開源框架的兩大升級。首先是提供了更加完備和性能更優(yōu)的動態(tài)圖功能,以及更全面的動態(tài)圖轉(zhuǎn)靜態(tài)圖運(yùn)行功能,在開發(fā)上實(shí)現(xiàn)“動靜統(tǒng)一”。

據(jù)介紹,“動靜統(tǒng)一”的優(yōu)勢是開發(fā)者可以兼顧效率與靈活。在動轉(zhuǎn)靜方面,飛槳現(xiàn)在已經(jīng)支持完備的語法覆蓋和帶控制流的任務(wù),且僅需一個(gè)裝飾器就可以觸發(fā)操作,統(tǒng)一的接口可以讓模型保存加載實(shí)現(xiàn)自動適配。在動態(tài)圖方面,飛槳提供了比靜態(tài)圖更簡潔靈活的混合精度訓(xùn)練接口,并且實(shí)現(xiàn)媲美靜態(tài)圖的混合精度與量化訓(xùn)練效果。

以常見的ResNet訓(xùn)練為例,F(xiàn)P使用混合精度訓(xùn)練,比FP32方式速度提升了2.7倍。動態(tài)圖還支持量化,在mobilenet,resnet等動態(tài)圖模型的任務(wù)中,在保持精度不變的情況下,僅占FP32體積的1/4。開發(fā)者部署模型將會更加高效。

為了讓深度學(xué)習(xí)應(yīng)用落地更加簡易,飛槳的API體系也全面升級。據(jù)介紹,飛槳形成了貼合用戶使用習(xí)慣的全新API體系,包括包結(jié)構(gòu)、API規(guī)范、共性問題優(yōu)化等,面對用戶更加友好;為了減少開發(fā)者的工作量,飛槳可以提供包含視覺、NLP等領(lǐng)域的模型和工具封裝的高層API,以及最經(jīng)典的模型結(jié)構(gòu);在兼容性上,飛槳可兼容1.X版本的API,并完善教程來引導(dǎo)用戶操作。

馬艷軍還介紹,飛槳正在形成繁榮的開發(fā)者社區(qū),第三方貢獻(xiàn)增長了1080%。此外,飛槳還舉辦了大量的線上活動與實(shí)操課程,去年11月,百度飛槳團(tuán)隊(duì)推出了官方入門課程,以及相配套的教材書籍。今年,又推出了《飛槳PaddlePaddle深度學(xué)習(xí)實(shí)戰(zhàn)》。這些課程與教材吸引了廣大有志于人工智能領(lǐng)域的新同學(xué),也一定程度上緩解了中國AI人才匱乏的困境。

在百度世界2020大會上,觀眾也注意到了人工智能時(shí)代AI操作系統(tǒng)、AI芯片等核心科技自主可控的重要性。而飛槳正是百度自主研發(fā),目前國內(nèi)唯一開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級深度學(xué)習(xí)平臺,也是中國人工智能健康發(fā)展的重要保障。

作為百度人工智能技術(shù)的集大成,升級到6.0的百度大腦正在承擔(dān)著AI新型基礎(chǔ)設(shè)施的角色,加速產(chǎn)業(yè)智能化升級。飛槳除了支撐百度內(nèi)部業(yè)務(wù),也在持續(xù)向產(chǎn)業(yè)輸出深度學(xué)習(xí)技術(shù),為中國提供自主可控、技術(shù)領(lǐng)先、便捷易用的人工智能時(shí)代系統(tǒng)底座。

舉報(bào) 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報(bào)  |  開放轉(zhuǎn)載  |  滾動資訊  |  English Version