3月15日，在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)第十一次全會上，中國信通院發(fā)布大模型標(biāo)準(zhǔn)符合性驗證結(jié)果，華為云盤古憑借大模型安全解決方案——盤古安全護欄完成軟硬件、數(shù)據(jù)、模型、應(yīng)用等可信模塊測試，成為業(yè)界首個在大模型可信領(lǐng)域獲得卓越級(5級)評分的大模型產(chǎn)品。
華為云盤古大模型獲得信通院可信要求5級評分
全新盤古安全護欄，信通院可信滿級認證
近年來，我國人工智能產(chǎn)業(yè)在《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》《“十四五”國家信息化規(guī)劃》等政策引導(dǎo)下蓬勃發(fā)展。大規(guī)模預(yù)訓(xùn)練模型作為人工智能新基建的關(guān)鍵技術(shù)，在自然語言處理、計算機視覺等領(lǐng)域取得顯著突破。然而，隨著技術(shù)應(yīng)用深入發(fā)展而來的數(shù)據(jù)投毒、不當(dāng)應(yīng)用等風(fēng)險也逐漸凸顯。
自2021年起，中國信通院開始研究大規(guī)模預(yù)訓(xùn)練模型標(biāo)準(zhǔn)，與多方共同建立技術(shù)和應(yīng)用標(biāo)準(zhǔn)體系，推動人工智能發(fā)展。華為云盤古大模型在2022年首批參與，“模型開發(fā)”和“模型能力”兩個模塊達到優(yōu)秀級(4+級)，在2023年大模型標(biāo)準(zhǔn)符合性驗證結(jié)果中，成為業(yè)界首個在模型應(yīng)用模塊獲得卓越級(5級)評分的大模型產(chǎn)品。
在本次大模型標(biāo)準(zhǔn)符合性驗證中，華為云大模型安全解決方案覆蓋了基礎(chǔ)設(shè)施、訓(xùn)練數(shù)據(jù)、生成內(nèi)容的端到端安全合規(guī)全場景，有效應(yīng)對大模型數(shù)據(jù)治理、模型可信、內(nèi)容合規(guī)等三大維度風(fēng)險，并以文本審核、Prompt攻擊檢測、AIGC鑒偽、個人隱私脫敏等新型可信能力，確保應(yīng)用中的可信可靠。此外，在軟硬件和數(shù)據(jù)方面，盤古安全護欄保證了基礎(chǔ)軟硬件的安全性、可靠性和兼容性，以采集、預(yù)處理和使用控制實現(xiàn)數(shù)據(jù)可信性，并從多角度構(gòu)筑數(shù)據(jù)可信能力，打造穩(wěn)健、可控、合規(guī)且符合價值觀的應(yīng)用服務(wù)。
為引導(dǎo)產(chǎn)業(yè)發(fā)展和規(guī)范行業(yè)自律，華為云還與中國信息通信研究院聯(lián)合其他相關(guān)單位共同開展編制《大規(guī)模預(yù)訓(xùn)練模型技術(shù)和應(yīng)用評估方法 第5部分：可信要求》，為國家人工智能產(chǎn)業(yè)的健康發(fā)展貢獻力量。
全新盤古安全護欄，筑牢大模型新防線
大模型逐漸深入行業(yè)核心系統(tǒng)，成為推動數(shù)字化轉(zhuǎn)型的關(guān)鍵力量，伴隨而來的還有端到端的可信挑戰(zhàn)。盤古安全護欄，進一步強化了大模型的全鏈路保障，基于華為云在盤古大模型實踐中積累的豐富經(jīng)驗和技術(shù)優(yōu)勢，開放兼容，能夠服務(wù)于多樣化的模型形態(tài)，助力企業(yè)實現(xiàn)大模型全鏈路合規(guī)。
華為云盤古安全護欄憑借四道防線，全面覆蓋大模型使用的全生命周期，兼容開源、三方大模型，為企業(yè)用戶提供最佳的大模型安全解決方案。
? 數(shù)據(jù)防護防線：通過數(shù)據(jù)脫敏、數(shù)據(jù)血緣、數(shù)據(jù)防毒等技術(shù)手段，從預(yù)訓(xùn)練模型的數(shù)據(jù)集，直至數(shù)據(jù)治理階段，全方位保障企業(yè)構(gòu)建高質(zhì)量、安全合規(guī)的數(shù)據(jù)集，確保數(shù)據(jù)多樣性和公平性。
? 模型防護防線：針對模型訓(xùn)練階段可能遭遇的數(shù)據(jù)投毒風(fēng)險，以及推理階段訓(xùn)練數(shù)據(jù)、用戶隱私信息泄露等風(fēng)險，采用模型混淆、模型加密等先進技術(shù)，軟硬件結(jié)合，加密模型，有效保障企業(yè)大模型資產(chǎn)安全。
? 內(nèi)容防護防線：通過Prompt攻擊檢測等新型防御能力，實現(xiàn)對多種直接與間接攻擊手段的有效檢測，并通過對模型輸入輸出內(nèi)容嚴格審核，嚴防生成有害或不當(dāng)信息，有效應(yīng)對新型安全風(fēng)險。
? 應(yīng)用防護防線：保護大模型在應(yīng)用插件場景下的安全可靠性，確保大模型在各類應(yīng)用場景中都能穩(wěn)定、高效地發(fā)揮作用。
據(jù)悉，盤古安全護欄四道防線的綜合攔截率超過90%，能夠為企業(yè)大模型提供堅實的保障。未來，華為云將持續(xù)致力于AI技術(shù)與行業(yè)實踐深度融合，護航大模型技術(shù)的創(chuàng)新與發(fā)展，為企業(yè)用戶提供更加可信的人工智能解決方案，讓企業(yè)創(chuàng)新安心無憂。
