洞察智能化趨勢(shì)，筑牢金融安全基石：BCS第五屆金融業(yè)網(wǎng)絡(luò)安全論壇成功舉辦

6月5日，2024年北京網(wǎng)絡(luò)安全大會(huì)第五屆金融業(yè)網(wǎng)絡(luò)安全論壇在京成功舉辦。本屆論壇以“洞察智能化趨勢(shì)，筑牢金融安全基石”為主題，針對(duì)金融行業(yè)數(shù)字化轉(zhuǎn)型面臨的安全挑戰(zhàn)，尤其是大模型為代表的新型人工智能技術(shù)對(duì)金融業(yè)務(wù)帶來(lái)的機(jī)遇、風(fēng)險(xiǎn)以及應(yīng)對(duì)進(jìn)行了深入探討。

與會(huì)專家表示，金融行業(yè)正面臨數(shù)字化轉(zhuǎn)型的關(guān)鍵時(shí)期，這一過程不僅使得網(wǎng)絡(luò)安全風(fēng)險(xiǎn)變得更加復(fù)雜和多變，同時(shí)也伴隨著法律法規(guī)和監(jiān)管要求的日趨嚴(yán)格。在人工智能技術(shù)帶來(lái)的新機(jī)遇和挑戰(zhàn)面前，金融行業(yè)需要采取雙管齊下的策略：一方面，要積極接納和利用創(chuàng)新技術(shù)，充分發(fā)揮AI的潛能;另一方面，也要對(duì)大模型發(fā)展可能引發(fā)的無(wú)邊界和穿透式風(fēng)險(xiǎn)保持警覺，平衡發(fā)展與安全。

在致辭環(huán)節(jié)，奇安信集團(tuán)董事長(zhǎng)齊向東表示，金融行業(yè)最近幾年面臨重大的網(wǎng)絡(luò)安全挑戰(zhàn)，黑客組織為獲取經(jīng)濟(jì)利益和用戶隱私把金融行業(yè)作為攻擊的重點(diǎn)。從2023年開始，全球很多大型金融機(jī)構(gòu)遭遇勒索攻擊，造成巨大損失。因?yàn)榻鹑谛袠I(yè)不僅掌握重要數(shù)據(jù)，其業(yè)務(wù)連續(xù)性也非常重要，丟失數(shù)據(jù)和停止運(yùn)行對(duì)于金融行業(yè)都是災(zāi)難性的。

信創(chuàng)海河實(shí)驗(yàn)室主任、中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克在致辭時(shí)表示，推動(dòng)AI和網(wǎng)絡(luò)安全與金融結(jié)合，一定要深度理解AI的優(yōu)勢(shì)和可能帶來(lái)的風(fēng)險(xiǎn)。在優(yōu)勢(shì)方面，人工智能憑借其強(qiáng)大的數(shù)據(jù)處理能力，能夠迅速且主動(dòng)地利用歷史數(shù)據(jù)進(jìn)行風(fēng)險(xiǎn)預(yù)判、行為分析，并做出及時(shí)響應(yīng)。這種能力在金融領(lǐng)域尤其寶貴，能夠極大提升風(fēng)險(xiǎn)管理的效率和準(zhǔn)確性。但AI目前存在著可靠性不足、技術(shù)成熟度有待提高，以及可能引發(fā)安全隱患和隱私泄露的問題。特別是在金融行業(yè)，人工智能帶來(lái)的隱私問題可能更為嚴(yán)峻，需要我們給予足夠的重視并審慎的應(yīng)對(duì)。

中國(guó)科學(xué)院院士管曉宏在主題演講《網(wǎng)絡(luò)空間安全挑戰(zhàn)與應(yīng)對(duì)》中表示，網(wǎng)絡(luò)空間安全包括網(wǎng)絡(luò)安全、信息安全、內(nèi)容安全、系統(tǒng)安全、CPS綜合安全和數(shù)據(jù)安全六個(gè)方面。保證網(wǎng)絡(luò)空間安全應(yīng)該采取技術(shù)與管理相結(jié)合的策略。從管理角度，要建立法律法規(guī)和國(guó)家政策作為安全治理體系的重要一環(huán)，強(qiáng)化數(shù)據(jù)安全監(jiān)管，構(gòu)成數(shù)據(jù)安全的標(biāo)準(zhǔn)體系。從技術(shù)角度，數(shù)據(jù)的全生命周期安全，也就是數(shù)據(jù)生產(chǎn)、存儲(chǔ)、傳輸、訪問、使用、銷毀，都應(yīng)有相應(yīng)技術(shù)手段提供安全保證。

中國(guó)工商銀行數(shù)據(jù)中心金融科技專家顧駿在《金融行業(yè)數(shù)字化轉(zhuǎn)型背景下的網(wǎng)絡(luò)安全建設(shè)實(shí)踐》主題演講中，分享了工商銀行應(yīng)對(duì)安全挑戰(zhàn)的實(shí)踐。為應(yīng)對(duì)數(shù)字化轉(zhuǎn)型過程中的安全挑戰(zhàn)，工商銀行對(duì)標(biāo)業(yè)界信息安全體系化管理的最佳實(shí)踐，從管理、運(yùn)營(yíng)、技術(shù)三個(gè)層面建設(shè)網(wǎng)絡(luò)安全的管理框架，并持續(xù)優(yōu)化，為全行高質(zhì)量發(fā)展提供有力的支撐。

在大模型技術(shù)研究中，工商銀行深入分析應(yīng)用層、模型層、框架層，識(shí)別出15類安全風(fēng)險(xiǎn)。顧駿指出，大模型雖基于AI技術(shù)，卻同樣面臨模型竊取、數(shù)據(jù)投毒等傳統(tǒng)風(fēng)險(xiǎn)，同時(shí)其特有的應(yīng)用模式如提示詞等，也帶來(lái)了新的安全挑戰(zhàn)。

清華大學(xué)五道口金融學(xué)院金融安全研究中心主任、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)金融消費(fèi)權(quán)益保護(hù)與教育培訓(xùn)專業(yè)委員會(huì)主任委員周道許，精準(zhǔn)勾勒了金融智能化的五大發(fā)展趨勢(shì)：質(zhì)效提升、基礎(chǔ)設(shè)施完善、人機(jī)交互革新、監(jiān)管科技深化、風(fēng)險(xiǎn)管理能力增強(qiáng)。面對(duì)AI技術(shù)的快速迭代，他指出金融智能化發(fā)展中伴隨的新問題和風(fēng)險(xiǎn)，并提出了針對(duì)性的發(fā)展建議：利用科技賦能監(jiān)管，強(qiáng)化消費(fèi)者權(quán)益保護(hù)，推動(dòng)金融機(jī)構(gòu)以客戶為中心，提升服務(wù)競(jìng)爭(zhēng)力，并完善立法監(jiān)督，確保金融智能化的健康發(fā)展。

中國(guó)郵政儲(chǔ)蓄銀行數(shù)據(jù)管理部副總經(jīng)理張放在演講時(shí)表示，隨著數(shù)字經(jīng)濟(jì)的快速迭代和發(fā)展，安全問題已經(jīng)不僅僅是底線和紅線問題，而成為了制約科技能力和業(yè)務(wù)發(fā)展的關(guān)鍵因素。如果安全能力無(wú)法突破其"天花板"，那么科技能力和業(yè)務(wù)發(fā)展都難以跑出加速度。郵儲(chǔ)銀行近年來(lái)非常重視數(shù)據(jù)安全工作，搭建了較為完善的數(shù)據(jù)安全體系，并有條不紊地開展了一系列數(shù)據(jù)安全工作，如數(shù)據(jù)分類分級(jí)、研發(fā)安全工具鏈建設(shè)、數(shù)據(jù)安全評(píng)估等。在未來(lái)，郵儲(chǔ)銀行將落實(shí)“做好金融五篇大文章”的號(hào)召，借力大模型等新技術(shù)，積極面對(duì)金融數(shù)字化帶來(lái)的安全挑戰(zhàn)，與業(yè)內(nèi)共同鑄就數(shù)據(jù)安全生態(tài)。

中央財(cái)經(jīng)大學(xué)金融學(xué)院院長(zhǎng)張學(xué)勇在主題演講時(shí)表示，金融業(yè)正經(jīng)歷全面的數(shù)字化轉(zhuǎn)型，數(shù)據(jù)成為核心資產(chǎn)，風(fēng)險(xiǎn)管理與決策更加科學(xué)化和智能化。然而，數(shù)據(jù)安全成為金融發(fā)展的關(guān)鍵，需在確保安全的同時(shí)，有效利用數(shù)據(jù)資產(chǎn)以提高收益。張?jiān)洪L(zhǎng)指出，源于對(duì)金融機(jī)構(gòu)業(yè)務(wù)發(fā)展中安全重要性的深刻認(rèn)知，中央財(cái)經(jīng)大學(xué)金融學(xué)院在學(xué)科建設(shè)中融入了金融安全工程。學(xué)院致力于培養(yǎng)掌握金融安全關(guān)鍵知識(shí)和技能的人才，以滿足金融機(jī)構(gòu)和社會(huì)發(fā)展的需求。此外，中央財(cái)經(jīng)大學(xué)金融學(xué)院與奇安信集團(tuán)緊密合作，建立金融數(shù)據(jù)安全聯(lián)合實(shí)驗(yàn)室，整合優(yōu)質(zhì)資源，期待在未來(lái)能成為中國(guó)培養(yǎng)金融數(shù)據(jù)安全人才的陣地，并計(jì)劃定期發(fā)布金融數(shù)據(jù)安全研究報(bào)告，助力行業(yè)發(fā)展。

中國(guó)移動(dòng)集團(tuán)信息技術(shù)中心架構(gòu)師趙永剛發(fā)表主題為《人工智能技術(shù)在信息安全領(lǐng)域的研究與探索》的演講，分享了中國(guó)移動(dòng)信息技術(shù)中心在大模型領(lǐng)域應(yīng)用過程中發(fā)現(xiàn)的安全問題以及應(yīng)對(duì)之道。趙永剛表示，在AI構(gòu)建大模型應(yīng)用之時(shí)，面臨數(shù)據(jù)侵權(quán)、隱私泄露和數(shù)據(jù)合成偽造的風(fēng)險(xiǎn)，通過在應(yīng)用、數(shù)據(jù)和訪問三大層面構(gòu)建核心安全體系，能夠有效降低安全風(fēng)險(xiǎn)，提升應(yīng)用大模型的安全信任感。趙永剛提出了三個(gè)層面的主要技術(shù)手段：在應(yīng)用側(cè)，研究合成檢測(cè)，保證應(yīng)用安全;在數(shù)據(jù)側(cè)，通過數(shù)據(jù)水印和一系列數(shù)據(jù)防護(hù)措施，構(gòu)建數(shù)據(jù)防護(hù)體系;在接入訪問側(cè)，通過5G專網(wǎng)解決網(wǎng)絡(luò)安全問題，構(gòu)建完整的安全訪問方案。

中國(guó)聯(lián)通集團(tuán)數(shù)據(jù)安全專家孫藝發(fā)表了主題為《筑牢數(shù)據(jù)安全防線，護(hù)航數(shù)字經(jīng)濟(jì)發(fā)展》的演講，分享了中國(guó)聯(lián)通在整個(gè)數(shù)據(jù)安全治理體系方面的思考和實(shí)踐。中國(guó)聯(lián)通始終圍繞數(shù)據(jù)治理、安全防護(hù)、常態(tài)運(yùn)營(yíng)和產(chǎn)業(yè)賦能四個(gè)方面開展工作，同時(shí)還搭建了管理+技術(shù)+組織的數(shù)據(jù)治理體系，該體系的運(yùn)用不僅持續(xù)強(qiáng)化中國(guó)聯(lián)通在數(shù)據(jù)安全防護(hù)方面的能力，而且通過提高風(fēng)險(xiǎn)發(fā)現(xiàn)和處理的效率，有效預(yù)防了數(shù)據(jù)泄露風(fēng)險(xiǎn)，為中國(guó)聯(lián)通在數(shù)字經(jīng)濟(jì)時(shí)代的穩(wěn)健發(fā)展提供了堅(jiān)實(shí)的安全保障。

奇安信集團(tuán)產(chǎn)品總體部副總經(jīng)理王月輝發(fā)表題為《重新定義安全服務(wù)價(jià)值》的主題演講。他表示當(dāng)前安全廠商提供的安全服務(wù)，多數(shù)情況下靈活性都很強(qiáng)，安全服務(wù)的立項(xiàng)、采購(gòu)和實(shí)施三個(gè)階段都存在著很多不確定性。王月輝強(qiáng)調(diào)，安全服務(wù)的未來(lái)發(fā)展方向應(yīng)以客戶需求為核心驅(qū)動(dòng)力，通過推動(dòng)供給側(cè)的改革與創(chuàng)新，將安全服務(wù)提升為一種標(biāo)準(zhǔn)化、精細(xì)化、個(gè)性化的工藝品。這種服務(wù)模式不僅能夠精準(zhǔn)對(duì)接市場(chǎng)和客戶的特定需求，還有助于提高安全行業(yè)的服務(wù)質(zhì)量與效率。通過該模式，網(wǎng)絡(luò)安全服務(wù)有望邁入一個(gè)全新的發(fā)展階段，實(shí)現(xiàn)質(zhì)的飛躍。

奇安信集團(tuán)戰(zhàn)略咨詢規(guī)劃部總經(jīng)理鄔怡、奇安信集團(tuán)人工智能研究院負(fù)責(zé)人王占一做了《從RSA2024看AI安全趨勢(shì)》的主題對(duì)話。

鄔怡認(rèn)為，人工智能(AI)安全與網(wǎng)絡(luò)安全在本質(zhì)上是相通的，治理架構(gòu)的建立應(yīng)當(dāng)先行一步。AI治理架構(gòu)與數(shù)據(jù)安全治理架構(gòu)有著諸多相似之處，都需要構(gòu)建一個(gè)跨職能的組織，涵蓋隱私保護(hù)、法律事務(wù)、合規(guī)性、安全保障以及信息技術(shù)等多個(gè)領(lǐng)域，以實(shí)現(xiàn)協(xié)同共建。在構(gòu)建大型AI模型的安全框架方面，鄔怡提出了四點(diǎn)建議：短期內(nèi)可以通過評(píng)估系統(tǒng)安全性來(lái)確保大模型的安全性;其次，建立臨時(shí)控制措施，對(duì)大模型的使用進(jìn)行有效管控;第三，加強(qiáng)對(duì)公司內(nèi)部AI應(yīng)用的監(jiān)控，確保其合規(guī)性;定期審查并更新現(xiàn)有的安全策略，以適應(yīng)不斷變化的技術(shù)環(huán)境和安全需求。

王占一從專業(yè)的角度深入剖析了大型AI模型的訓(xùn)練與部署應(yīng)用流程。在訓(xùn)練階段，對(duì)數(shù)據(jù)進(jìn)行隱私化處理是至關(guān)重要的，包括對(duì)數(shù)據(jù)內(nèi)容進(jìn)行安全分析和過濾。針對(duì)中間私有數(shù)據(jù)的處理，王占一強(qiáng)調(diào)了兩個(gè)關(guān)鍵點(diǎn)：要確保數(shù)據(jù)內(nèi)容與當(dāng)前用戶的權(quán)限相匹配，保障數(shù)據(jù)訪問的合理性;其次，當(dāng)數(shù)據(jù)被用于生成回答時(shí)，必須對(duì)內(nèi)容進(jìn)行安全性和合法性的評(píng)估，確保其不僅符合法律法規(guī)的要求，而且還要與公司的價(jià)值觀和準(zhǔn)則相一致。通過這種機(jī)制，在 確保AI模型提供智能服務(wù)的同時(shí)，也能夠維護(hù)用戶隱私和數(shù)據(jù)安全。

奇安信集團(tuán)人工智能研究院負(fù)責(zé)人王占一(右)

在論壇的圓桌對(duì)話環(huán)節(jié)，來(lái)自金融科技領(lǐng)域的多位專家就“金融科技安全：新時(shí)代的創(chuàng)新與挑戰(zhàn)”這一主題展開了深入的探討。平安銀行金融科技部總經(jīng)理助理宋歌、廈門國(guó)際銀行科技運(yùn)維部金融科技專家林建庭、北京航空航天大學(xué)計(jì)算機(jī)學(xué)院教授榮文戈、曙光信息產(chǎn)業(yè)股份有限公司金融行業(yè)首席架構(gòu)師姜永凱，以及奇安信集團(tuán)副總裁張卓，分別從不同的角度出發(fā)，就大模型人工智能在金融服務(wù)領(lǐng)域所帶來(lái)的深遠(yuǎn)影響和變革、對(duì)人才培養(yǎng)的深遠(yuǎn)影響，以及人工智能如何賦能網(wǎng)絡(luò)安全運(yùn)行等話題，分享了各自的見解和洞見。這次圓桌對(duì)話為金融科技安全領(lǐng)域的創(chuàng)新與發(fā)展提供了寶貴的思想交流和經(jīng)驗(yàn)分享。

BCS2024北京網(wǎng)絡(luò)安全大會(huì)(以下稱大會(huì))于6月5日至6日在國(guó)家會(huì)議中心舉辦，大會(huì)以“AI驅(qū)動(dòng)安全”為主題，設(shè)置2場(chǎng)數(shù)字安全高峰論壇、3場(chǎng)網(wǎng)絡(luò)安全相關(guān)比賽、20余場(chǎng)論壇沙龍、多場(chǎng)全國(guó)系列活動(dòng)。大會(huì)每年提出的觀點(diǎn)都成為產(chǎn)業(yè)發(fā)展的風(fēng)向標(biāo)，是北京重要的戰(zhàn)略窗口與科技名片，已成為極具影響力的世界級(jí)網(wǎng)絡(luò)安全盛會(huì)。金融業(yè)網(wǎng)絡(luò)安全論壇作為大會(huì)期間舉辦的重要品牌活動(dòng)，至今年已經(jīng)成功舉辦五屆，成為BCS2024北京網(wǎng)絡(luò)安全大會(huì)最具影響力的行業(yè)論壇之一。