百度安全在人工智能安全領(lǐng)域的卓越貢獻(xiàn)與創(chuàng)新實踐，近日獲得了工業(yè)和信息化部的高度認(rèn)可。該企業(yè)在兩大重要項目中脫穎而出，不僅獨立申報并成功入選“2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例”支持項目名單，還在“人工智能賦能新型工業(yè)化典型應(yīng)用案例”的評選中占據(jù)一席之地，成為151個杰出案例中的一員。
百度安全作為AI安全領(lǐng)域的領(lǐng)航者，始終致力于通過技術(shù)創(chuàng)新推動行業(yè)發(fā)展。隨著大模型技術(shù)的飛速發(fā)展，百度安全迅速響應(yīng)市場需求，從多模態(tài)內(nèi)容安全、端側(cè)內(nèi)容安全、數(shù)據(jù)安全、模型安全等多個角度，構(gòu)建了一套全面的大模型安全防護(hù)體系。此次雙重榮譽的獲得，不僅彰顯了行業(yè)對百度安全技術(shù)實力的認(rèn)可，也證明了其在為行業(yè)提供全面、可靠的大模型安全保障方案方面的領(lǐng)先地位。
在多模態(tài)內(nèi)容安全領(lǐng)域，百度安全提出了創(chuàng)新的“模態(tài)對齊”與“視覺理解”原生安全方案。該方案融合了先進(jìn)的視覺理解技術(shù)和自然語言處理技術(shù)，通過區(qū)域分割和聚合分析技術(shù)，實現(xiàn)了對風(fēng)險的精準(zhǔn)識別與防范。
針對端側(cè)大模型場景，百度安全深入洞察終端環(huán)境的獨特需求，設(shè)計了一套精簡且全面的安全架構(gòu)。該架構(gòu)涵蓋了從多模態(tài)審核到防越獄設(shè)計，再到上下文提示詞保護(hù)與云端策略更新的全方位安全管控，形成了端上與云端的閉環(huán)管理。這一方案已在手機(jī)廠商、PC廠商及智能IoT設(shè)備廠商等多個領(lǐng)域得到廣泛應(yīng)用與認(rèn)可。
在數(shù)據(jù)安全方面，百度安全基于“零信任、零改造、全流程”的理念，為大模型提供了從語料數(shù)據(jù)管理到模型訓(xùn)練、流轉(zhuǎn)、使用和私有化交付的全鏈條保護(hù)。通過可信計算、數(shù)據(jù)全流程加密及數(shù)據(jù)圍欄等先進(jìn)技術(shù)，確保了數(shù)據(jù)的“可見不可用、可用不可得”，有效抵御了各類安全威脅。
百度安全的創(chuàng)新不僅體現(xiàn)在技術(shù)層面，更在于其將安全理念深度融入大模型的全生命周期管理。從數(shù)據(jù)清洗、安全對齊、內(nèi)生安全到安全圍欄，百度安全構(gòu)建了一套完整的原生安全體系。特別是在跨模態(tài)安全治理方面，通過視覺理解與文本語義的雙重審核，以及區(qū)域關(guān)注、跨模態(tài)對齊等機(jī)制的引入，顯著提升了對復(fù)合內(nèi)容的風(fēng)險管控能力，為AI應(yīng)用的安全可信提供了有力保障。
