【ITBEAR科技資訊】9月20日消息，美國人工智能巨頭OpenAI宣布了一項重大舉措，他們正式推出了名為“紅隊網(wǎng)絡(luò)”的合作計劃，旨在加強與各領(lǐng)域?qū)＜业暮献?，以進一步提升其人工智能(AI)模型的安全性和可靠性。
這一舉措的核心目標(biāo)是建立一個由經(jīng)驗豐富、值得信賴的專家組成的社區(qū)，以共同評估和改進OpenAI的人工智能系統(tǒng)。雖然OpenAI以前已通過漏洞賞金計劃和研究人員訪問計劃與外部專家合作，但現(xiàn)在他們將這一合作關(guān)系正式化，使之成為一個更為系統(tǒng)和持續(xù)的過程。
據(jù)了解，這個“紅隊網(wǎng)絡(luò)”將在多個方面發(fā)揮重要作用，其中之一是幫助識別人工智能系統(tǒng)中的偏見，并評估安全過濾器的性能。這些任務(wù)已經(jīng)成為人工智能模型開發(fā)過程中的關(guān)鍵步驟，尤其是在生成式技術(shù)越來越廣泛應(yīng)用的情況下。
OpenAI的邀請涵蓋了各個領(lǐng)域的專家，包括語言學(xué)、生物識別、金融和醫(yī)療保健等多個領(lǐng)域。公司強調(diào)了各種專業(yè)知識對人工智能評估的重要性，這些知識不僅限于技術(shù)領(lǐng)域，還包括認知科學(xué)、法律、網(wǎng)絡(luò)安全、經(jīng)濟學(xué)和醫(yī)療保健等多個領(lǐng)域。
OpenAI表示，他們期待通過與紅隊網(wǎng)絡(luò)的合作，能夠更廣泛地進行風(fēng)險評估，以確保其人工智能系統(tǒng)在未來的應(yīng)用中更加安全可靠。這一舉措表明OpenAI正積極采取措施，以確保人工智能技術(shù)的可持續(xù)發(fā)展與社會責(zé)任。
