【ITBEAR】9月17日消息，OpenAI近日宣布，其安全與保障委員會將進行重大調整，首席執(zhí)行官Sam Altman將不再擔任該委員會成員。此舉引發(fā)業(yè)界廣泛關注，被視為OpenAI在提升AI安全監(jiān)管方面的重要一步。
據(jù)悉，該委員會自今年5月成立以來，一直負責監(jiān)督公司項目和運營的關鍵安全決策。此次調整后，卡內基梅隆大學教授Zico Kolter將接任委員會主席，同時Quora首席執(zhí)行官Adam D'Angelo、美國退役陸軍將軍Paul Nakasone以及前索尼執(zhí)行副總裁Nicole Seligman等業(yè)界重量級人物也將加入其中。他們均為OpenAI董事會的現(xiàn)任成員，具有豐富的行業(yè)經(jīng)驗和深厚的專業(yè)背景。
據(jù)ITBEAR了解，盡管Altman不再直接參與委員會工作，但他仍對OpenAI的最新AI模型o1進行了安全審查。OpenAI表示，安全與保障委員會將繼續(xù)定期接受公司安全團隊的簡報，并保留在安全問題未解決前推遲發(fā)布的權力。這一舉措顯示出OpenAI在保障AI模型安全性方面的決心和力度。
委員會未來的工作重點將包括定期接收有關當前和未來模型的技術評估報告，以及持續(xù)發(fā)布后監(jiān)測報告。OpenAI正在致力于建立一個綜合的安全框架，以明確定義模型發(fā)布的成功標準，確保AI技術的安全可控。
然而，Altman的離任也引發(fā)了一些爭議。此前，五位美國參議員曾致信Altman，對OpenAI的政策提出質疑。同時，有報道稱OpenAI內部曾專注于人工智能長期風險的員工中，有近一半已經(jīng)離職。這些員工指責Altman傾向于推進公司商業(yè)目標，而反對真正的人工智能監(jiān)管。
盡管面臨爭議，但OpenAI在AI安全監(jiān)管方面的努力仍值得肯定。此次安全與保障委員會的調整，無疑將進一步提升公司在AI安全領域的專業(yè)性和影響力。同時，隨著AI技術的不斷發(fā)展，如何確保其安全性和可控性也將成為行業(yè)面臨的重要挑戰(zhàn)。
值得一提的是，OpenAI正在積極尋求資金支持，據(jù)傳公司正在籌集超過65億美元的資金，這將使其估值超過1500億美元。為了達成這筆交易，OpenAI可能會調整其混合非營利性公司結構，以更好地平衡商業(yè)目標和創(chuàng)始使命。這也意味著，在未來OpenAI有望在保障AI安全的同時，實現(xiàn)更廣泛的商業(yè)應用。
總體來看，OpenAI在AI安全監(jiān)管方面的舉措值得關注和期待。隨著越來越多的企業(yè)和機構加入到AI安全監(jiān)管的行列中來，相信未來AI技術的發(fā)展將更加安全、可控，并為人類帶來更多的福祉。
#OpenAI# #AI安全# #Sam Altman# #人工智能# #監(jiān)管#
