【ITBEAR科技資訊】7月7日消息，OpenAI近日宣布成立一個(gè)新的團(tuán)隊(duì)，由聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Sutskever和Alignment負(fù)責(zé)人Jan Leike共同領(lǐng)導(dǎo)。該團(tuán)隊(duì)的首要任務(wù)是尋找引導(dǎo)和控制下一代“超智能人工智能系統(tǒng)”的方法。OpenAI為這個(gè)團(tuán)隊(duì)提供了最高優(yōu)先級，并授權(quán)其使用公司20%的計(jì)算資源。團(tuán)隊(duì)的目標(biāo)是在未來四年內(nèi)解決“控制超智能AI”的核心技術(shù)挑戰(zhàn)。
研究者Sutskever和Leike認(rèn)為，“下一代超智能AI”可能會在十年內(nèi)問世，這將是人類迄今為止最具影響力的技術(shù)之一，能夠幫助解決許多需要大量人力資源才能解決的問題。然而，他們也指出，這項(xiàng)技術(shù)可能會對人類造成威脅，巨大的力量可能導(dǎo)致人類失去主權(quán)甚至滅絕。
團(tuán)隊(duì)表示，目前他們還沒有找到一個(gè)合理的方法來引導(dǎo)或控制潛在的超智能AI，人類只能通過反饋來調(diào)整AI系統(tǒng)的生成過程，但無法從根源上可靠地監(jiān)督AI系統(tǒng)。因此，OpenAI計(jì)劃構(gòu)建一個(gè)接近人類水平的AI“automated alignment researcher”，并利用大量的深度學(xué)習(xí)來擴(kuò)展其能力，通過迭代地調(diào)整這個(gè)超級智能系統(tǒng)。
據(jù)ITBEAR科技資訊了解，為了實(shí)現(xiàn)這個(gè)目標(biāo)，研究人員需要開發(fā)可擴(kuò)展的訓(xùn)練方法，并驗(yàn)證生成的模型，最終進(jìn)行一系列可控性測試。他們計(jì)劃利用這個(gè)AI系統(tǒng)來協(xié)助評估其他AI系統(tǒng)，并希望了解和控制模型如何將監(jiān)督推廣到人類研究員無法監(jiān)督的任務(wù)上。
Sutskever和Leike表示，隨著研究的深入，他們預(yù)計(jì)研究重點(diǎn)可能會發(fā)生變化，并可能涌現(xiàn)出新的研究領(lǐng)域。
目前，OpenAI的新團(tuán)隊(duì)正在招募機(jī)器學(xué)習(xí)研究人員和工程師。Sutskever和Leike認(rèn)為，招募更多的機(jī)器學(xué)習(xí)專家對于解決下一代超智能AI的問題至關(guān)重要。他們計(jì)劃廣泛分享團(tuán)隊(duì)的研究成果，并與業(yè)界合作，共同推動進(jìn)步。
這個(gè)新團(tuán)隊(duì)的工作是對OpenAI現(xiàn)有工作的補(bǔ)充，旨在提高ChatGPT等當(dāng)前模型的安全性，并理解和減輕人工智能帶來的其他風(fēng)險(xiǎn)，如濫用、經(jīng)濟(jì)破壞、虛假信息、偏見和歧視、成癮和過度依賴等問題。雖然新團(tuán)隊(duì)專注于解決將超智能AI系統(tǒng)與人類意圖結(jié)合的機(jī)器學(xué)習(xí)挑戰(zhàn)，但他們也在積極與跨學(xué)科專家合作，解決相關(guān)的社會技術(shù)問題，以確保技術(shù)解決方案充分考慮到更廣泛的人類和社會問題。
