近日，百度安全憑借在人工智能安全領(lǐng)域的創(chuàng)新實(shí)踐和突出貢獻(xiàn)，連續(xù)入選工業(yè)和信息化部?jī)身?xiàng)典型案例：作為單獨(dú)申報(bào)單位入選"2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例"支持項(xiàng)目名單，同時(shí)名列151項(xiàng)"人工智能賦能新型工業(yè)化典型應(yīng)用案例"之中。
2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例 & 人工智能賦能新型工業(yè)化典型應(yīng)用案例
作為AI安全領(lǐng)域的領(lǐng)軍企業(yè)，百度安全始終堅(jiān)持以技術(shù)創(chuàng)新引領(lǐng)行業(yè)發(fā)展。在大模型技術(shù)快速迭代的背景下，百度大模型安全解決方案敏銳把握行業(yè)需求，從多模態(tài)內(nèi)容安全、端側(cè)內(nèi)容安全、數(shù)據(jù)安全、模型安全等多個(gè)維度，構(gòu)建了全方位的大模型安全防護(hù)體系。此次同時(shí)入選工信部?jī)身?xiàng)典型案例，不僅是行業(yè)對(duì)百度安全技術(shù)創(chuàng)新的肯定，更是對(duì)百度安全持續(xù)面向行業(yè)提供更加全面、可靠的大模型安全保障解決方案的認(rèn)可。
在多模態(tài)內(nèi)容安全領(lǐng)域，百度安全創(chuàng)新性地提出了"模態(tài)對(duì)齊"和"視覺理解"的原生安全方案。該方案融合了前沿的視覺理解技術(shù)和自然語言處理能力，通過區(qū)域分割和聚合分析技術(shù)實(shí)現(xiàn)精細(xì)化的風(fēng)險(xiǎn)識(shí)別。
多模態(tài)內(nèi)容安全
針對(duì)端側(cè)大模型場(chǎng)景，百度安全深入理解終端環(huán)境下的特殊需求，構(gòu)建了一套精簡(jiǎn)而全面的安全架構(gòu)。從多模態(tài)審核到防越獄設(shè)計(jì)，從上下文提示詞保護(hù)到云端策略更新，實(shí)現(xiàn)了端上與云端的安全管控閉環(huán)。這一解決方案在手機(jī)廠商、PC廠商與智能IoT設(shè)備廠商等領(lǐng)域獲得廣泛認(rèn)可。
端側(cè)大模型內(nèi)容安全
在大模型數(shù)據(jù)安全方面，百度安全基于"零信任、零改造、全流程"理念，實(shí)現(xiàn)從語料數(shù)據(jù)管理到模型訓(xùn)練、流轉(zhuǎn)、使用和私有化交付等環(huán)節(jié)的全方位保護(hù)。通過可信計(jì)算、數(shù)據(jù)全流程加密以及數(shù)據(jù)圍欄等技術(shù)，確保數(shù)據(jù)"可見不可用、可用不可得"，有效防范各類安全風(fēng)險(xiǎn)。
大模型數(shù)據(jù)安全
百度安全的創(chuàng)新實(shí)踐不僅體現(xiàn)在技術(shù)層面，更重要的是企業(yè)始終堅(jiān)持將安全理念融入大模型全生命周期。從數(shù)據(jù)清洗、安全對(duì)齊、內(nèi)生安全到安全圍欄，百度安全構(gòu)建了一套完整的原生安全體系。特別在跨模態(tài)安全治理方面，百度安全通過視覺理解與文本語義的雙重審核，引入?yún)^(qū)域關(guān)注、跨模態(tài)對(duì)齊等機(jī)制，有效提升了對(duì)復(fù)合內(nèi)容的風(fēng)險(xiǎn)管控能力。
未來，百度安全將繼續(xù)攜手行業(yè)合作伙伴，以技術(shù)創(chuàng)新推動(dòng)大模型安全的健康發(fā)展，也將在大模型安全領(lǐng)域持續(xù)投入，為各行各業(yè)提供更加專業(yè)、可靠的安全服務(wù)，助力人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展，為構(gòu)建更加安全可信的AI應(yīng)用環(huán)境貢獻(xiàn)力量。
