OpenAI 宣布正在組建一個(gè)新團(tuán)隊(duì)，由其聯(lián)合創(chuàng)始人兼首席科學(xué)家 Ilya Sutskever 和 Alignment 負(fù)責(zé)人 Jan Leike 共同領(lǐng)導(dǎo)，以尋找引導(dǎo)和控制下一代“超智能人工智能系統(tǒng)”的方法。

據(jù)悉，該團(tuán)隊(duì)目前具備最高優(yōu)先級(jí)，有權(quán)使用公司 20% 的計(jì)算資源，目標(biāo)是在未來四年內(nèi)解決“控制超智能 AI”的核心技術(shù)挑戰(zhàn)。團(tuán)隊(duì)聲稱，他們需要時(shí)間來進(jìn)行“科學(xué)和技術(shù)”方面的突破，以引導(dǎo)和控制比人類聰明得多的 AI 系統(tǒng)。

研究者 Sutskever 和 Leike 認(rèn)為，“下一代超智能 AI”可能將在十年內(nèi)誕生，這將是人類迄今為止發(fā)明的最具影響力的技術(shù)，可以幫助人類解決許多原先需要大量人力資源才能解決的問題。但研究者同時(shí)認(rèn)為，該技術(shù)也有反噬人類的可能，其巨大的力量可能導(dǎo)致人類喪失主權(quán)甚至滅絕。

團(tuán)隊(duì)表示，在“確保比人類更聰明的 AI 系統(tǒng)遵循人類的意圖”方面，他們當(dāng)下還沒有一個(gè)合理的解決方案來引導(dǎo)或控制潛在的超智能 AI，當(dāng)下人類只能通過反饋來令 AI 調(diào)整生成過程，但人類無法可靠地從根源監(jiān)督 AI 系統(tǒng)。

OpenAI 計(jì)劃構(gòu)建一個(gè)大致達(dá)到人類水平的 AI “automated alignment researcher”，然后使用大量深度學(xué)習(xí)來擴(kuò)展 AI 能力，并迭代地調(diào)整該超級(jí)智能。

為此，研究人員需要開發(fā)可擴(kuò)展的訓(xùn)練方法，接著驗(yàn)證生成的模型，并最終對(duì)模型進(jìn)行一系列可控性測(cè)試。

IT之家發(fā)現(xiàn)，研究人員當(dāng)下正計(jì)劃利用該 AI 系統(tǒng)來協(xié)助評(píng)估其它 AI 系統(tǒng)（可擴(kuò)展的監(jiān)督），同時(shí)還希望了解和控制他們的模型是如何將監(jiān)督推廣到人類研究員無法監(jiān)督的任務(wù)上。

Sutskever 和 Leike 表示，隨著研究的深入，預(yù)計(jì)其將來的研究重點(diǎn)也可能出現(xiàn)發(fā)生變化，甚至可能還會(huì)有新的研究領(lǐng)域隨之出現(xiàn)。

目前，這一新團(tuán)隊(duì)還在對(duì)外招募機(jī)器學(xué)習(xí)研究人員和工程師。Sutskever 和 Leike 認(rèn)為，招募更多的機(jī)器學(xué)習(xí)專家對(duì)于解決下一代超智能 AI 的問題至關(guān)重要。他們計(jì)劃廣泛分享團(tuán)隊(duì)的研究成果，并將促進(jìn)業(yè)界共同進(jìn)步。

這個(gè)新團(tuán)隊(duì)的工作是對(duì) OpenAI 現(xiàn)有工作的補(bǔ)充，旨在提高 ChatGPT 等當(dāng)前模型的安全性，以及理解和減輕人工智能帶來的其他風(fēng)險(xiǎn)，例如濫用、經(jīng)濟(jì)破壞、虛假信息、偏見和歧視、成癮和過度依賴等問題。雖然新團(tuán)隊(duì)將專注于將超智能 AI 系統(tǒng)與人類意圖結(jié)合起來的機(jī)器學(xué)習(xí)挑戰(zhàn)，但我們正在積極與跨學(xué)科專家合作解決相關(guān)的社會(huì)技術(shù)問題，以確保我們的技術(shù)解決方案考慮到更廣泛的人類和社會(huì)問題。