【ITBEAR】谷歌公司近日宣布了一項(xiàng)重要舉措，推出了一款名為SAIF的風(fēng)險(xiǎn)評(píng)估工具，以幫助人工智能開發(fā)者和組織更好地評(píng)估其安全態(tài)勢(shì)。該工具旨在識(shí)別潛在風(fēng)險(xiǎn)，并指導(dǎo)實(shí)施更強(qiáng)的安全措施。
SAIF是谷歌去年發(fā)布的安全人工智能框架，它不僅分享了最佳實(shí)踐，還提供了一個(gè)安全設(shè)計(jì)的框架。為了推廣這一框架，谷歌還成立了安全人工智能聯(lián)盟（CoSAI）。
據(jù)悉，SAIF風(fēng)險(xiǎn)評(píng)估工具以問卷形式運(yùn)行，用戶回答后會(huì)生成定制化的檢查清單。該工具涵蓋了AI系統(tǒng)的多個(gè)主題，包括訓(xùn)練、調(diào)優(yōu)、評(píng)估，以及對(duì)模型和數(shù)據(jù)集的訪問控制等。
用戶在完成問卷后，工具會(huì)立即生成一份報(bào)告，突出AI系統(tǒng)面臨的具體風(fēng)險(xiǎn)，如數(shù)據(jù)中毒、提示注入等，并附上詳細(xì)解釋及建議的緩解措施。
用戶還可以通過互動(dòng)SAIF風(fēng)險(xiǎn)地圖，了解在AI開發(fā)過程中如何引入與緩解不同的安全風(fēng)險(xiǎn)。
