7月30日，2022北京網(wǎng)絡(luò)安全大會AI安全論壇在京舉行。論壇由奇安信集團(tuán)、百度安全聯(lián)合主辦，以“智能改變生活，安全構(gòu)筑基石”為主題，邀請來自復(fù)旦大學(xué)、浙江大學(xué)和清華大學(xué)的資深教授，圍繞人工智能的安全和隱私保護(hù)進(jìn)行深入探討。
百度副總裁馬杰指出，人工智能安全不僅成為業(yè)內(nèi)高度關(guān)注的議題，也是我國網(wǎng)絡(luò)安全能力體系建設(shè)過程中不可或缺的關(guān)鍵一環(huán)。2020年百度率先提出了Security、Safety、Privacy——AI安全研究三大維度。自動駕駛安全研究項目“鐵馬冰河”打造了一個聚焦于沉浸式高擬真場景、富含AI對抗的安全測試平臺，在評測中結(jié)合元宇宙，創(chuàng)造更接近于真實路測效果的隨機(jī)狀況，降低測試的綜合成本。百度安全也將在未來與產(chǎn)學(xué)研各界合作伙伴開放合作，共筑AI安全新防線，探索AI未來的新可能。
復(fù)旦大學(xué)計算機(jī)科學(xué)技術(shù)學(xué)院副院長楊珉圍繞聯(lián)邦學(xué)習(xí)安全、自動駕駛安全和機(jī)器學(xué)習(xí)及服務(wù)安全三個主要應(yīng)用場景，分享了團(tuán)隊的最新研究發(fā)現(xiàn)。他表示，AI模式在開放網(wǎng)絡(luò)環(huán)境應(yīng)用中存在著新興風(fēng)險，亟待提高重視。而在安全攻防視角下AI系統(tǒng)的安全研究，需要把兩大領(lǐng)域的技術(shù)能力進(jìn)行融合，也對相關(guān)人才提出了更高的要求，希望相關(guān)單位聯(lián)合推進(jìn)人才培養(yǎng)。
針對保護(hù)用戶隱私和數(shù)據(jù)資產(chǎn)的問題，百度安全部數(shù)據(jù)安全業(yè)務(wù)副總經(jīng)理韓祖利分享了“隱私計算構(gòu)筑數(shù)據(jù)要素市場安全體系”。他介紹，基于聯(lián)邦學(xué)習(xí)、安全多方計算、機(jī)密計算、安全數(shù)字沙箱等一系列隱私計算技術(shù)的百度點石目前已擁有政務(wù)數(shù)據(jù)、增強(qiáng)營銷、金融服務(wù)等多領(lǐng)域解決方案，具備全生命周期、一體化平臺、靈活可嵌入的特點。并且，希望未來通過參與標(biāo)準(zhǔn)制定、開源代碼等方式，能與更多企業(yè)和研究機(jī)構(gòu)一起，把更安全的數(shù)據(jù)方式推廣到各行各業(yè)，將隱私計算落地到更多行業(yè)之中。
圍繞物聯(lián)網(wǎng)安全，浙江大學(xué)教授徐文淵給設(shè)備安全和信息安全比喻為“軀體”和“靈魂”。她表示，物聯(lián)網(wǎng)已經(jīng)發(fā)展到“有感有控”的階段，作為信號和信息之間理想映射和實際映射不一致而引發(fā)的缺陷，帶外脆弱性可以通過檢測及時發(fā)現(xiàn)。徐教授呼吁，希望更多同學(xué)、同行在保護(hù)網(wǎng)絡(luò)安全的同時，也考慮綜合譜信號安全風(fēng)險。如何系統(tǒng)性挖掘帶外脆弱性，也將是未來的發(fā)展方向。
圍繞AI賦能安全主題，清華大學(xué)副教授張超分享了“二進(jìn)制代碼相似性智能檢測”的報告。他指出，近年來的探索表明，基于AI的二進(jìn)制代碼相似性檢測方案比傳統(tǒng)方案更有效，而智能化的方案也經(jīng)歷了基于CNN直接提取代碼特征、基于GNN提取特征、基于NLP模型提取特征的三個階段，最新的jTrans方案基于NLP模型融合代碼知識取得了更好的效果。有了AI的加持，軟件供應(yīng)鏈安全分析、知識產(chǎn)權(quán)保護(hù)、漏洞搜索等多領(lǐng)域應(yīng)用將會迎來更大發(fā)展。
百度安全部主任架構(gòu)師包沉浮分享了“人臉實名認(rèn)證的安全風(fēng)險及應(yīng)對”。他表示，人臉認(rèn)證作為AI技術(shù)的重要產(chǎn)業(yè)應(yīng)用，是從終端數(shù)據(jù)采集、數(shù)據(jù)傳輸?shù)椒?wù)端認(rèn)證邏輯的一整套流程，因此不可避免的存在各種安全挑戰(zhàn)，而防御角度不只是針對AI本身模型或AI算法模型，而是一整套防御系統(tǒng)，實現(xiàn)端到端的全鏈路防護(hù)。提高人臉認(rèn)證安全性，也需要新的、系統(tǒng)性的AI安全技術(shù)手段作為支撐。
圍繞人臉識別，奇安信人工智能研究院高級算法工程師劉昱均以“洛基平臺”為例，分享了人工智能安全檢測算法研究與實踐。她介紹，洛基平臺針對目前人工智能領(lǐng)域中的安全問題，從數(shù)據(jù)可信和模型安全兩個角度，全面建設(shè)AI安全能力。目前平臺部署了對抗攻擊與防御、深度偽造與鑒別、隱寫信息加解密三大模塊。
