【ITBEAR科技資訊】9月20日消息,美國人工智能巨頭OpenAI宣布了一項重大舉措,他們正式推出了名為“紅隊網(wǎng)絡(luò)”的合作計劃,旨在加強與各領(lǐng)域?qū)<业暮献?,以進一步提升其人工智能(AI)模型的安全性和可靠性。
這一舉措的核心目標(biāo)是建立一個由經(jīng)驗豐富、值得信賴的專家組成的社區(qū),以共同評估和改進OpenAI的人工智能系統(tǒng)。雖然OpenAI以前已通過漏洞賞金計劃和研究人員訪問計劃與外部專家合作,但現(xiàn)在他們將這一合作關(guān)系正式化,使之成為一個更為系統(tǒng)和持續(xù)的過程。
據(jù)了解,這個“紅隊網(wǎng)絡(luò)”將在多個方面發(fā)揮重要作用,其中之一是幫助識別人工智能系統(tǒng)中的偏見,并評估安全過濾器的性能。這些任務(wù)已經(jīng)成為人工智能模型開發(fā)過程中的關(guān)鍵步驟,尤其是在生成式技術(shù)越來越廣泛應(yīng)用的情況下。
OpenAI的邀請涵蓋了各個領(lǐng)域的專家,包括語言學(xué)、生物識別、金融和醫(yī)療保健等多個領(lǐng)域。公司強調(diào)了各種專業(yè)知識對人工智能評估的重要性,這些知識不僅限于技術(shù)領(lǐng)域,還包括認知科學(xué)、法律、網(wǎng)絡(luò)安全、經(jīng)濟學(xué)和醫(yī)療保健等多個領(lǐng)域。
OpenAI表示,他們期待通過與紅隊網(wǎng)絡(luò)的合作,能夠更廣泛地進行風(fēng)險評估,以確保其人工智能系統(tǒng)在未來的應(yīng)用中更加安全可靠。這一舉措表明OpenAI正積極采取措施,以確保人工智能技術(shù)的可持續(xù)發(fā)展與社會責(zé)任。