語言是人類進(jìn)行溝通交流的表達(dá)方式，其儲(chǔ)存著豐富的文化信息，傳承著民族血脈，也支撐著文明的發(fā)展與演進(jìn)。然而，一些少數(shù)民族語言、方言卻正在無聲無息地消失，與之密切相連的地域文化、歷史文化也正面臨瀕危風(fēng)險(xiǎn)。
“大約平均兩周就會(huì)有一種語言消亡“，聯(lián)合國(guó)教科文組織的這一調(diào)查數(shù)據(jù)讓人觸目驚心，且世界上正在使用的約6,000種語言，至少有43%面臨瀕危。而在中國(guó)，也有25種語言使用人口已不足千人。
搶救瀕危少數(shù)民族語言對(duì)保持漢語的豐富性、多元性，保護(hù)文化記憶、文化基因意義重大。因此，中國(guó)早在2015年就啟動(dòng)了語言資源保護(hù)工程，借助田野調(diào)查，建立起龐大的口語語料庫，保存了原始聲音文件和國(guó)際音標(biāo)標(biāo)注等豐富素材。
然而，僅僅依靠這些單語數(shù)據(jù)，研究者難以獲知其背后所傳達(dá)的語義，無法有效開展相關(guān)學(xué)習(xí)與研究，更罔論留存這些少數(shù)民族瀕危語言與背后地方文化的生命力。
人工智能技術(shù)為復(fù)活這些語言，挖掘多元文化價(jià)值，傳承璀璨的歷史文化，提供了新思路和新手段。2022年國(guó)際母語日也將“利用技術(shù)促進(jìn)多語言學(xué)習(xí)：挑戰(zhàn)與機(jī)遇”作為主題，指出了技術(shù)對(duì)推進(jìn)多語言教育以及文化傳承與保護(hù)的作用。
百度飛槳深度學(xué)習(xí)平臺(tái)攜手英特爾，基于第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器進(jìn)行深度優(yōu)化，通過完善的模型壓縮方法和量化加速技術(shù)，支持全自動(dòng)生成大規(guī)?！皾h語-少數(shù)民族語言”雙向詞典，對(duì)用技術(shù)幫助保護(hù)瀕危少數(shù)民族語言，推動(dòng)民族互通互融，做出了積極探索，展現(xiàn)了“科技向善”的現(xiàn)實(shí)意義和歷史價(jià)值。
采用百度飛槳深度學(xué)習(xí)平臺(tái)，全自動(dòng)構(gòu)建大規(guī)模雙向詞典
構(gòu)建雙向詞典項(xiàng)目，采用了規(guī)模大、范圍廣、語種多、內(nèi)容豐富的瀕危語言博物館館藏源語料庫，語料全部來自于田野調(diào)查與實(shí)地采集。
通過分析，項(xiàng)目研發(fā)人員選取了中國(guó)少數(shù)民族語言中的獨(dú)龍、爾蘇、嘉絨、撒拉這四種數(shù)據(jù)較為豐富的語言作為實(shí)驗(yàn)對(duì)象。
為基于百度飛槳實(shí)現(xiàn)對(duì)齊算法，項(xiàng)目團(tuán)隊(duì)首先開發(fā)了民間故事漢語數(shù)據(jù)集。開發(fā)過程中，充分利用飛槳PaddleOCR開發(fā)套件識(shí)別精度高、推理速度快等特性，對(duì)跨度8年的《故事會(huì)》雜志掃描樣本進(jìn)行數(shù)據(jù)化處理，構(gòu)建出規(guī)模達(dá)950萬字的文本數(shù)據(jù)集，也是全球首個(gè)民間故事漢語數(shù)據(jù)庫，且具有很強(qiáng)的口語化風(fēng)格，適合與少數(shù)民族語言語料進(jìn)行對(duì)齊。
然后，實(shí)施低資源詞向量訓(xùn)練，應(yīng)對(duì)四個(gè)少數(shù)民族語料句子數(shù)量普遍不足五千條的挑戰(zhàn)，以及《故事會(huì)》語料小于二十萬條句子的問題，為下游的雙語對(duì)齊提供了強(qiáng)有力的支持。
繼之，依據(jù)拓?fù)涮卣鳎瑢?duì)兩種語言的詞向量進(jìn)行旋轉(zhuǎn)和對(duì)齊，實(shí)施雙語詞典自動(dòng)化抽取，最終導(dǎo)出了獨(dú)龍、爾蘇、嘉絨、撒拉這四種語言和漢語的雙向詞典。
目前，這四部雙向詞典已在中國(guó)社科院民族學(xué)和人類學(xué)研究所志愿者的協(xié)助下，進(jìn)行了內(nèi)部評(píng)測(cè)，僅發(fā)現(xiàn)含有少量誤差。這一可喜成果，驗(yàn)證了基于百度飛槳深度學(xué)習(xí)平臺(tái)，智能生成大規(guī)模漢語-少數(shù)民族語言詞典的可行性和便捷性，展現(xiàn)了人工智能對(duì)于應(yīng)對(duì)語言瀕危日益嚴(yán)峻挑戰(zhàn)的高效性和高價(jià)值。
英特爾與百度飛槳軟硬協(xié)同優(yōu)化，用智能探索文化保護(hù)新路
雙向詞典項(xiàng)目依托飛槳深度學(xué)習(xí)技術(shù)，高效實(shí)現(xiàn)了瀕危語言詞典的自動(dòng)化生成，極大減輕了語保工作者的負(fù)擔(dān)。而其背后是英特爾所提供的英特爾? 至強(qiáng)? 可擴(kuò)展平臺(tái)具備的強(qiáng)勁算力和多種優(yōu)化措施，為飛槳平臺(tái)高效支撐項(xiàng)目運(yùn)作提供了基礎(chǔ)能力和量化加速。
業(yè)界盡知，人工智能應(yīng)用不僅需要高算力作為支撐，而且源于大多數(shù)深度學(xué)習(xí)模型使用32位浮點(diǎn)精度(FP32)構(gòu)建，復(fù)雜度高，模型參數(shù)量大，限制了其在一些場(chǎng)景和設(shè)備進(jìn)行部署，需要實(shí)施軟硬結(jié)合優(yōu)化，才能突破性能瓶頸，高效承載諸如上文雙向詞典生成等多類應(yīng)用。
針對(duì)上述問題，英特爾攜手百度飛槳，基于第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器、英特爾? oneAPI工具套件等軟硬件組合，在為飛槳平臺(tái)提供充裕算力的同時(shí)，也對(duì)整個(gè)深度學(xué)習(xí)流程實(shí)施全方位優(yōu)化，幫助加速各類應(yīng)用開發(fā)和量化部署。
第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器依托出色的微架構(gòu)，發(fā)揮多核心、多線程和大容量高速緩存等特性，很好地滿足了飛槳平臺(tái)對(duì)通用算力的苛刻需求，同時(shí)加持以其內(nèi)置的英特爾? AVX-512提供的增強(qiáng)矢量處理能力，提升AI 推理和訓(xùn)練效率，為圖像分類、自然語言處理、語音識(shí)別、語音翻譯等廣泛的應(yīng)用開發(fā)和部署提供穩(wěn)健基石。而最新一代的第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器更內(nèi)置一系列加速器，包括全新的AI加速器——英特爾?高級(jí)矩陣擴(kuò)展(英特爾?AMX)，覆蓋包括訓(xùn)練和微調(diào)在內(nèi)的更多深度學(xué)習(xí)使用場(chǎng)景，可以為不斷變化且要求日益增高的應(yīng)用提供更為可觀的計(jì)算性能。
為滿足模型快速“瘦身”之需，百度飛槳打造了PaddleSlim深度學(xué)習(xí)模型壓縮工具庫，以及為用戶提供靈活的壓縮策略，而英特爾? 至強(qiáng)? 可擴(kuò)展處理器內(nèi)置的AI加速技術(shù)--英特爾? 深度學(xué)習(xí)加速(英特爾? DL Boost)，可通過矢量神經(jīng)網(wǎng)絡(luò)指令(VNNI)充分提高計(jì)算資源和緩存的利用率，減少潛在的帶寬瓶頸，為INT8等低精度計(jì)算提供優(yōu)化支持，顯著加速AI 推理。由此，幫助飛槳PaddleSlim所支持的量化訓(xùn)練和靜態(tài)離線量化方法，更好地適用于計(jì)算機(jī)視覺(CV)和自然語言處理 (NLP)等模型優(yōu)化過程，這無疑也為雙向詞典AI方案的開發(fā)提供了便利，同時(shí)提高了項(xiàng)目運(yùn)作效率。
同時(shí)為激活 VNNI 加速功能，百度飛槳深度學(xué)習(xí)平臺(tái)在量化方案實(shí)施中還廣泛使用英特爾? oneAPI 工具套件，如英特爾? oneAPI 深度神經(jīng)網(wǎng)絡(luò)庫 (Intel? oneAPI Deep Neural Network Library，英特爾? oneDNN)。借助其統(tǒng)一、簡(jiǎn)化的編程模型，飛槳用戶得以在CPU、GPU和FPGA等不同的架構(gòu)上方便地調(diào)用通用接口來使用平臺(tái)內(nèi)置的AI加速技術(shù)，而無需擔(dān)心平臺(tái)兼容問題。
得益于英特爾? 至強(qiáng)? 可擴(kuò)展平臺(tái)與多項(xiàng)優(yōu)化工具的支持，百度飛槳深度學(xué)習(xí)平臺(tái)實(shí)現(xiàn)了深度優(yōu)化，并不斷豐富模型資源及應(yīng)用開發(fā)套件，為用戶提供了優(yōu)異的模型及硬件加速體驗(yàn)。而雙向詞典項(xiàng)目在推動(dòng)少數(shù)民族語言保護(hù)領(lǐng)域展現(xiàn)的神奇魔力，就是其典型案例。
“十四五”規(guī)劃把“強(qiáng)化重要文化和自然遺產(chǎn)、非物質(zhì)文化遺產(chǎn)系統(tǒng)性保護(hù)、推動(dòng)中華優(yōu)秀傳統(tǒng)文化創(chuàng)造性轉(zhuǎn)化、創(chuàng)新性發(fā)展”，作為提高社會(huì)文明程度的重要舉措;今年的工作報(bào)告也強(qiáng)調(diào)了“傳承中華優(yōu)秀傳統(tǒng)文化，滿足人民日益增長(zhǎng)的精神文化需求”，對(duì)鑄就文化新輝煌的重要作用。
英特爾攜手百度飛槳踐行“科技向善”，優(yōu)化開源平臺(tái)，促進(jìn)瀕危語言保護(hù)，不僅延續(xù)和發(fā)揚(yáng)了語言背后蘊(yùn)含的文化、知識(shí)遺產(chǎn)及其價(jià)值，更探索出智能技術(shù)賦能的新路;也是英特爾繼用人工智能助力長(zhǎng)城修繕，通過計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)全棧優(yōu)化解決方案幫助云岡石窟文物保護(hù)等，持續(xù)展現(xiàn)創(chuàng)新技術(shù)對(duì)挖掘與傳承璀璨歷史文化、實(shí)現(xiàn)創(chuàng)新創(chuàng)造的新動(dòng)能的又一成功實(shí)踐，有助于在讓歷史智慧照進(jìn)未來，讓寶貴文化遺產(chǎn)豐富人們精神世界的同時(shí)，進(jìn)一步加速人工智能的拓展應(yīng)用，助力擁抱數(shù)字化浪潮，創(chuàng)造更美好的生活。
更多內(nèi)容，歡迎注冊(cè)觀看：https://s2.uao.so/434f30bb
*圖片由云圖視覺提供授權(quán)
