以“萬物智能”為主題，一年一度的百度世界2020大會于9月15日正式揭幕。在百度大腦分論壇上，百度副總裁馬杰發(fā)表了題為“智能為腦，安全為本”的主題演講，系統(tǒng)闡述了百度大腦在AI安全領域一系列能力布局和最新進展。
眾所周知，隨著萬物互聯(lián)和大規(guī)模智能協(xié)作的逐漸深入，人類正在進入一個經(jīng)濟深度智能化的發(fā)展階段。作為其中的核心議題，AI在安全方面的諸多挑戰(zhàn)不僅關(guān)系到整個AI體系的穩(wěn)定可靠，直接影響到AI算力、算法和數(shù)據(jù)的落地應用，也為相應的安全能力建設提出了新的要求與新的思維方式。
(百度副總裁馬杰)
面對一系列全新的安全挑戰(zhàn)，馬杰在演講中將AI安全問題劃分為Security、Safety和Privacy三個維度進行考量，并由此探尋更具針對性的解決方案。
在Security，即在強對抗環(huán)境下的安全威脅層面，來自物理世界和數(shù)字世界的攻擊可能導致探測裝置和深度學習模型做出誤判，造成AI系統(tǒng)在工作過程中的“指鹿為馬”、“無中生有”和“有中生無”。
而來自非對抗條件下自然環(huán)境所產(chǎn)生的真實威脅、即Safety層面真實世界中環(huán)境因素對輸入數(shù)據(jù)的正常擾動，也有可能對深度學習模型的分類和預測造成影響。
為此，百度推出了模型魯棒性體系化評估框架。從光照、空間變換、模糊、噪聲和天氣變化等多項安全屬性著手，根據(jù)不同模型任務場景制定評估標準，幫助行業(yè)更好地量化評估潛在的安全威脅與模型魯棒性。同時，百度還首創(chuàng)了AdvBox對抗樣本工具箱。從安全驗證、模型加固、對抗樣本檢測、模型魯棒性形式化驗證等多個方面，助力飛槳、TensorFlow等主流機器學習平臺快速提升模型的健壯性。
而在Privacy、即數(shù)據(jù)安全與隱私保護層面，貫穿于采集、處理、流通、計算整個數(shù)據(jù)生命周期，隱私合規(guī)檢測、差分隱私、AI自動脫敏、聯(lián)邦計算、可信計算等安全技術(shù)的應用將為百億級大規(guī)模數(shù)據(jù)的安全聯(lián)合計算創(chuàng)造可能，也將為金融、醫(yī)療、政務等領域的聯(lián)合分析、聯(lián)合風控、聯(lián)合營銷提供數(shù)據(jù)安全保障，進一步釋放數(shù)據(jù)價值，擴大AI時代大規(guī)模數(shù)據(jù)協(xié)作的信任邊界。
目前，依托PaddleFL聯(lián)邦學習開源框架，百度領先的聯(lián)邦學習和有隱私保護的機器學習能力已與百度大腦深度融合，為飛槳在產(chǎn)業(yè)應用中的跨組織數(shù)據(jù)合作提供重要的輔助工具支撐。
“我們希望通過長期的研究與實踐，能夠跑到這些威脅造成重大危害之前。”對于百度在AI安全領域的持續(xù)發(fā)力，馬杰重申了加大這一投入的必要性。事實上，其已不止關(guān)乎于AI時代眾多安全攸關(guān)的關(guān)鍵場景，也已成為當前世界亟需應對的現(xiàn)時挑戰(zhàn)——例如，在備受爭議的AI換臉問題上，百度研發(fā)并開源的業(yè)內(nèi)首款AI換臉檢測工具，便可實現(xiàn)對深度偽造、合成技術(shù)的高效“打假”，為監(jiān)管部門阻斷電信網(wǎng)絡詐騙等違法行為提供助力。
當然，圍繞算力、算法、數(shù)據(jù)的安全研究與解決方案，只是在百度大腦AI安全體系框架下的其中一環(huán)。面向更為廣泛的AI安全生態(tài)挑戰(zhàn)，基于全面開源的“七種武器”BASS下一代人工智能安全技術(shù)棧等AI安全核心技術(shù)，百度正為解決AI生態(tài)中云、管、端及大數(shù)據(jù)和算法層面的一系列安全風險問題提供支持。
正如本次百度世界大會“萬物智能”的主題，作為百度大腦核心架構(gòu)之一，百度的AI安全能力將持續(xù)致力于為AI大生產(chǎn)平臺的升級和產(chǎn)業(yè)智能化變革保駕護航。并從Security、Safety及Privacy多個維度，打造更安全的AI，打造更安全的AI時代。
