OpenAI憲章中文版
本文檔反映了我們在過去兩年中完善的戰(zhàn)略,包括OpenAI內(nèi)部和外部許多人的反饋。AGI的時間表仍然不確定,但我們的《憲章》將指導我們在整個人類發(fā)展過程中以人類的最大利益為出發(fā)點。
OpenAI的使命是確保通用人工智能(AGI)——我們指的是在最具經(jīng)濟價值的工作中超越人類的高度自主系統(tǒng)——造福全人類。我們將嘗試直接建立安全有益的AGI,但如果我們的工作有助于其他人實現(xiàn)這一結(jié)果,我們也會認為我們的使命已經(jīng)完成。為此,我們致力于以下原則:
廣泛分布的好處
我們承諾利用我們對AGI部署的任何影響力,確保其用于造福所有人,并避免使用人工智能或AGI傷害人類或過度集中權(quán)力。
我們的首要信托義務(wù)是對人類。我們預(yù)計需要調(diào)集大量資源來完成我們的使命,但我們將始終努力采取行動,最大限度地減少員工和利益相關(guān)者之間可能損害廣泛利益的利益沖突。
長期安全
我們致力于進行使AGI安全所需的研究,并推動人工智能社區(qū)廣泛采用此類研究。
我們擔心后期AGI發(fā)展成為一場沒有時間采取足夠安全預(yù)防措施的競爭性比賽。因此,如果一個價值觀一致、安全意識強的項目在我們之前接近構(gòu)建AGI,我們承諾停止與該項目競爭,并開始協(xié)助該項目。我們將根據(jù)具體情況制定協(xié)議,但一個典型的觸發(fā)條件可能是“未來兩年成功的幾率甚至更大”
技術(shù)領(lǐng)導力
為了有效應(yīng)對AGI對社會的影響,OpenAI必須處于人工智能能力的前沿——僅憑政策和安全宣傳是不夠的。
我們相信,在AGI之前,人工智能將產(chǎn)生廣泛的社會影響,我們將努力在與我們的使命和專業(yè)知識直接一致的領(lǐng)域發(fā)揮領(lǐng)導作用。
我們將積極與其他研究和政策機構(gòu)合作;我們尋求建立一個全球社會,共同應(yīng)對AGI的全球挑戰(zhàn)。
我們致力于提供公共產(chǎn)品,幫助社會走上AGI之路。如今,這包括發(fā)布我們的大部分人工智能研究,但我們預(yù)計,安全和安保問題將在未來減少我們的傳統(tǒng)發(fā)布,同時增加共享安全、政策和標準研究的重要性。