【ITBEAR科技資訊】7月7日消息，OpenAI宣布成立一個(gè)新團(tuán)隊(duì)，旨在探索引導(dǎo)和控制下一代超智能人工智能系統(tǒng)的方法。該團(tuán)隊(duì)由OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Sutskever和Alignment負(fù)責(zé)人Jan Leike共同領(lǐng)導(dǎo)。據(jù)悉，該團(tuán)隊(duì)被授予最高優(yōu)先級(jí)，并獲得公司20%的計(jì)算資源支持，他們的目標(biāo)是在未來(lái)四年內(nèi)解決控制超智能AI的核心技術(shù)挑戰(zhàn)。
OpenAI的研究者Sutskever和Leike認(rèn)為，下一代超智能AI可能在十年內(nèi)問(wèn)世，這將是迄今為止最具影響力的技術(shù)之一，有助于解決許多原本需要大量人力資源才能解決的問(wèn)題。然而，他們也警惕這項(xiàng)技術(shù)潛在的反噬人類風(fēng)險(xiǎn)，因?yàn)槌悄蹵I的巨大力量可能導(dǎo)致人類失去主權(quán)甚至滅絕。
該團(tuán)隊(duì)表示，目前還沒(méi)有一個(gè)合理的解決方案來(lái)引導(dǎo)或控制潛在的超智能AI，人類目前只能通過(guò)反饋來(lái)調(diào)整AI系統(tǒng)的生成過(guò)程，但無(wú)法可靠地從根源上監(jiān)督AI系統(tǒng)。為此，OpenAI計(jì)劃構(gòu)建一個(gè)大致達(dá)到人類水平的自動(dòng)化對(duì)齊研究員，并利用大量的深度學(xué)習(xí)來(lái)擴(kuò)展AI的能力，并迭代地調(diào)整這種超級(jí)智能。
據(jù)ITBEAR科技資訊了解，該團(tuán)隊(duì)計(jì)劃開(kāi)發(fā)可擴(kuò)展的訓(xùn)練方法，驗(yàn)證生成的模型，并進(jìn)行一系列可控性測(cè)試。研究人員目前計(jì)劃利用這個(gè)AI系統(tǒng)來(lái)輔助評(píng)估其他AI系統(tǒng)，并希望了解和控制模型如何將監(jiān)督推廣到人類研究員無(wú)法監(jiān)督的任務(wù)上。
Sutskever和Leike表示，隨著研究的深入，他們預(yù)計(jì)研究重點(diǎn)可能會(huì)發(fā)生變化，并可能出現(xiàn)新的研究領(lǐng)域。
這一新團(tuán)隊(duì)目前正在招募機(jī)器學(xué)習(xí)研究人員和工程師。Sutskever和Leike認(rèn)為，招募更多的機(jī)器學(xué)習(xí)專家對(duì)于解決下一代超智能AI的問(wèn)題至關(guān)重要。他們計(jì)劃廣泛分享團(tuán)隊(duì)的研究成果，并促進(jìn)整個(gè)行業(yè)的共同進(jìn)步。
該新團(tuán)隊(duì)的工作是對(duì)OpenAI現(xiàn)有工作的補(bǔ)充，旨在提高ChatGPT等當(dāng)前模型的安全性，以及理解和減輕人工智能帶來(lái)的其他風(fēng)險(xiǎn)，如濫用、經(jīng)濟(jì)破壞、虛假信息、偏見(jiàn)和歧視、成癮和過(guò)度依賴等。雖然新團(tuán)隊(duì)將專注于解決將超智能AI系統(tǒng)與人類意圖結(jié)合的機(jī)器學(xué)習(xí)挑戰(zhàn)，但OpenAI正在積極與跨學(xué)科專家合作，以解決與社會(huì)技術(shù)問(wèn)題相關(guān)的更廣泛的人類和社會(huì)問(wèn)題。
