12月17日，由360集團(tuán)牽頭發(fā)起的大模型安全聯(lián)盟(以下簡稱“聯(lián)盟”)在北京成立。據(jù)了解，包括聯(lián)想、騰訊云、百度智能云、火山引擎、MiniMax、清華大學(xué)等監(jiān)管機(jī)構(gòu)、科研院所、大模型伙伴、算力與基礎(chǔ)設(shè)施伙伴及安全伙伴等參與了聯(lián)盟啟動儀式。大模型安全聯(lián)盟匯聚了多元力量，旨在打造資源共享、共創(chuàng)共贏的大模型安全生態(tài)集群，共同推動大模型安全標(biāo)準(zhǔn)的制定、安全技術(shù)的創(chuàng)新和安全能力的提升，打造大模型安全發(fā)展的新范式。
聯(lián)盟成立儀式上，360展示了其在人工智能與安全領(lǐng)域的最新成果，推出了多款具有重要行業(yè)價值的企業(yè)級應(yīng)用新產(chǎn)品。包括大模型全鏈路安全檢測的“智鑒”、內(nèi)容安全護(hù)航的“智盾”、搜索增強(qiáng)利器“智搜”，以及知識管理平臺“智能文檔云”和情報監(jiān)測工具“輿情衛(wèi)士”。這些創(chuàng)新產(chǎn)品全面覆蓋了大模型系統(tǒng)安全、內(nèi)容安全、智能知識管理與情報分析等關(guān)鍵領(lǐng)域，顯示了360在大模型安全技術(shù)研發(fā)與生態(tài)建設(shè)上的全面布局。
“360智鑒”為大模型系統(tǒng)安全檢測平臺(AISE)，該產(chǎn)品覆蓋了從模型訓(xùn)練到推理的全鏈路安全檢測，支持對模型服務(wù)的相關(guān)組件識別、生態(tài)鏈漏洞掃描和多語言代碼審計，確保大模型系統(tǒng)安全。這一體系的核心優(yōu)勢包括具有全鏈路、多場景、易擴(kuò)展的特點(diǎn)，支持400多種公開漏洞的檢測，覆蓋RAG、Agent、prompt等場景的安全性分析，可以快速擴(kuò)展到記憶、緩存等新的風(fēng)險場景的安全檢測。據(jù)悉，360智鑒已成功應(yīng)用于多個行業(yè)，幫助企業(yè)在大模型上線前進(jìn)行全方位的安全評估，顯著降低了潛在的安全隱患。
“360智盾”是大模型內(nèi)容安全護(hù)欄系統(tǒng)(AISG)，該產(chǎn)品支持大模型輸入輸出有害內(nèi)容檢測、風(fēng)險問題安全代答、自動攻防巡檢和安全運(yùn)營?；诖竽Ｐ团c多模態(tài)風(fēng)險內(nèi)容識別能力，360智盾打造了全流程、多種類、多模態(tài)、場景化的內(nèi)容安全體系，能夠全面把控大模型內(nèi)容安全，支持100多類風(fēng)險內(nèi)容的識別過濾，支持文本、音頻、圖片、視頻等多種模態(tài)的風(fēng)險防護(hù)，并通過平臺定制化場景風(fēng)控策略，滿足不同場景的風(fēng)控需求。據(jù)了解，360智盾已涵蓋超過200多種對抗內(nèi)容防御技術(shù)，能夠顯著降低業(yè)務(wù)內(nèi)容風(fēng)險。
“360智搜”則是一款大模型可信增強(qiáng)(AISO)工具，融合多模態(tài)檢索與語義理解技術(shù)，能夠提供精準(zhǔn)的搜索結(jié)果，并支持基于企業(yè)私域數(shù)據(jù)的知識提煉與總結(jié)。其獨(dú)特之處在于整合多領(lǐng)域精品知識庫，實(shí)現(xiàn)全網(wǎng)與私域知識的無縫對接，提升信息獲取效率。更重要的是，360智搜通過精確的知識整合，幫助大模型緩解幻覺問題，減少虛假或不準(zhǔn)確信息，提升大模型的可信度與可靠性，從而為企業(yè)提供更安全、更高效的業(yè)務(wù)支持。
基于360大模型安全系列產(chǎn)品智鑒、智盾、智搜的深度賦能，本次發(fā)布會上還推出了“360智能文檔云3.0”和“360輿情衛(wèi)士”兩款智能產(chǎn)品。其中，智能文檔云是一款專為企業(yè)打造的智能知識管理與應(yīng)用平臺，涵蓋從數(shù)據(jù)采集、存儲、處理到應(yīng)用的知識管理全流程。通過深度融合企業(yè)內(nèi)外部數(shù)據(jù)，該平臺能夠幫助企業(yè)實(shí)現(xiàn)知識的“搜、學(xué)、寫、用”，大幅提升決策效率與業(yè)務(wù)能力。
360輿情衛(wèi)士則以AI為核心驅(qū)動，針對情報監(jiān)測與分析提供了一站式解決方案，支持多模態(tài)數(shù)據(jù)處理與深層語義分析，為企業(yè)提供關(guān)于輿情分析、市場趨勢、消費(fèi)者行為、競爭對手動態(tài)、識別潛在的風(fēng)險和威脅、發(fā)現(xiàn)新的業(yè)務(wù)機(jī)會和技術(shù)創(chuàng)新、揭示客戶的偏好和需求、了解市場格局等關(guān)鍵信息，幫助企業(yè)做出基于數(shù)據(jù)和洞察的明智決策。
作為以“安全+AI”為雙主線的科技企業(yè)，360不僅憑借自身技術(shù)優(yōu)勢推出了多款創(chuàng)新產(chǎn)品，還積極踐行行業(yè)與社會責(zé)任，通過發(fā)起大模型安全聯(lián)盟，將行業(yè)伙伴緊密聯(lián)合在一起，共同推動大模型安全技術(shù)的應(yīng)用普及。聯(lián)盟旨在通過共享資源、聯(lián)合研發(fā)等形式，打造更加安全、可信的人工智能生態(tài)。
在發(fā)布會上，360集團(tuán)創(chuàng)始人周鴻祎多次強(qiáng)調(diào)，只有確保大模型的安全性，才能真正推動人工智能在社會經(jīng)濟(jì)中的健康發(fā)展。為此，360提出了“安全、向善、可信、可控”的四大原則，并在其發(fā)布的多款產(chǎn)品中貫徹了這一理念。
據(jù)悉，上述360新產(chǎn)品將以SaaS服務(wù)和私有化部署兩種模式向市場推出，滿足不同企業(yè)的多樣化需求。未來，360將繼續(xù)通過技術(shù)創(chuàng)新與生態(tài)建設(shè)，為行業(yè)樹立標(biāo)桿，也為行業(yè)的長期健康發(fā)展注入新動能。
