老楊聯(lián)合國最新演講，核心觀點：

開源： 基礎(chǔ)模型必須是自由和開源的，才能讓全球都能參與，避免少數(shù)公司控制

分布式訓(xùn)練： 訓(xùn)練過程應(yīng)該在全球多個數(shù)據(jù)中心以協(xié)作和分布式的方式進行

未來AI的強大： 未來的AI將具備推理、計劃、和理解現(xiàn)實世界的能力，最終會匹配甚至超越人類智力

AI的積極影響： AI不僅能推動工業(yè)革命，更可能帶來類似文藝復(fù)興的啟蒙時期

國際合作方向： 收集文化材料并建立分布式AI超算中心，統(tǒng)一監(jiān)管，避免阻礙開源AI發(fā)展

人工智能的變革力量

人工智能將在未來幾年和幾十年內(nèi)深刻地改變世界

簡而言之，人工智能將放大人類的智能

人工智能正在加速科學(xué)和醫(yī)學(xué)的進步

人工智能正在促進信息和知識的獲取

人工智能正使更多的人更知情、更有創(chuàng)造力、更有效率

人工智能的普及

在未來的十年里，人工智能將變得無處不在

每個人都將隨時擁有虛擬的AI助手團隊

它們會像人類助手一樣幫助我們實現(xiàn)各種目標

我們將通過可穿戴設(shè)備（如智能眼鏡和智能手機）與它們互動

它們將以世界上每種語言提供對知識的便捷訪問

人工智能將極大地提升生產(chǎn)力和人類創(chuàng)造力

它將幫助人口老齡化和減少的國家

它將加速科學(xué)和技術(shù)進步

它將幫助我們解決人類面臨的一些最大問題，

例如氣候變化、癌癥治療，

以及地方性或慢性疾病

人工智能的知識庫

人工智能系統(tǒng)最終將構(gòu)成所有人類知識的存儲庫

人工智能系統(tǒng)的產(chǎn)生分為兩個階段

一是訓(xùn)練基礎(chǔ)模型

二是針對特定應(yīng)用進行微調(diào)

如果我們希望基礎(chǔ)模型對世界各地的每個人都可訪問且有用，就必須用世界上所有的文化材料和所有語言對其進行訓(xùn)練

由于我們所有的數(shù)字內(nèi)容最終都將通過人工智能系統(tǒng)來傳遞，

微調(diào)的系統(tǒng)需要數(shù)量眾多、種類繁多，

以代表世界各地的所有文化和價值觀

開放與合作

要實現(xiàn)這一目標，需要滿足兩個條件

第一，基礎(chǔ)模型必須是自由和開源的

第二，訓(xùn)練必須以協(xié)作和分布式的方式在全球多個數(shù)據(jù)中心進行

政府和私營部門必須共同努力，確保存在支持人工智能發(fā)展的全球基礎(chǔ)設(shè)施網(wǎng)絡(luò)，

使世界各地的人們都能參與到共同資源的創(chuàng)建中

開放源代碼的必然性

人工智能的未來必然是自由和開源的基礎(chǔ)模型占主導(dǎo)地位

歷史表明，基礎(chǔ)設(shè)施軟件平臺最終總是會開源

例如，

互聯(lián)網(wǎng)和移動通信網(wǎng)絡(luò)的軟件基礎(chǔ)設(shè)施完全是開源的

世界各地的許多政府都無法接受其公民的數(shù)字內(nèi)容被少數(shù)公司控制

Meta的貢獻

Meta在生產(chǎn)和分發(fā)自由和開源的基礎(chǔ)模型（如Llama系列）方面發(fā)揮了主導(dǎo)作用

Llama推動了世界各地整個人工智能產(chǎn)業(yè)的興起

自2023年中以來，它已被下載了6.5億次

全球已發(fā)布了85,000個從Llama衍生出來的開源模型，

全部開源

越來越多的公司（無論大?。┮约罢畽C構(gòu)、非營利組織等，通過微調(diào)Llama基礎(chǔ)模型來構(gòu)建定制產(chǎn)品和服務(wù)

應(yīng)用領(lǐng)域包括農(nóng)業(yè)和食品生產(chǎn)、

教育、醫(yī)療保健、制造業(yè)、環(huán)境保護等。

由于Llama和其他類似模型的開源性質(zhì)，我們觀察到學(xué)術(shù)實驗室、獨立開發(fā)者、初創(chuàng)公司和大型公司的貢獻推動了進步的加速

人工智能安全

關(guān)于安全問題。

人工智能應(yīng)用當然必須安全部署

基礎(chǔ)模型必須經(jīng)過嚴格的測試和紅隊演練

但從歷史上看，開源平臺比專有平臺更安全

關(guān)于由于人工智能系統(tǒng)的可用性而導(dǎo)致人工智能生成的虛假信息泛濫的預(yù)測顯然被夸大了

沒有證據(jù)表明當前形式的人工智能會帶來任何生存風險，甚至比傳統(tǒng)技術(shù)（如搜索引擎和教科書）帶來的威脅也沒有明顯增加

當前的人工智能技術(shù)非常專注于文本和語言，

而不是現(xiàn)實世界

這限制了它目前的適用性

當前的人工智能系統(tǒng)不了解現(xiàn)實世界，

沒有持久的記憶，也無法真正推理和計劃

它們無法像人類甚至動物一樣快速有效地學(xué)習(xí)新技能

人工智能的未來發(fā)展

但是人工智能將在未來十年取得顯著進展

毫無疑問，在未來的某個時候，人工智能系統(tǒng)將匹配并超越人類的智力能力

它們將與當前的人工智能系統(tǒng)截然不同，它們將能夠理解物理世界，能夠記憶、推理和計劃。

它們可能具有一定程度的常識。

這不會發(fā)生在明天，可能在未來一二十年內(nèi)發(fā)生

那些超級智能系統(tǒng)將按照我們的意愿行事，并保持在控制之下

它們將完成我們給它們的任務(wù)，并受制于安全防護措施

防護措施將像不可侵犯的法律塑造人類行為一樣塑造它們的行為

人工智能的影響

人們常說人工智能正在推動下一場工業(yè)革命。

我認為人工智能對社會的影響可能更類似于印刷術(shù)的發(fā)明以及通過印刷材料廣泛傳播知識

通過放大人類智能，

人工智能不僅可能帶來一場新的工業(yè)革命，還可能帶來一場新的文藝復(fù)興，人類的一個新的啟蒙時期

通過這種方式，

人工智能可以通過加速知識的傳播和推動全球經(jīng)濟增長，為維護國際和平與安全做出貢獻，

而這正是聯(lián)合國安全理事會的重大使命

國際合作的必要性

與互聯(lián)網(wǎng)一樣，國際合作應(yīng)側(cè)重于兩項舉措

一是收集文化材料，

在世界多個地區(qū)提供以人工智能為重點的超級計算機，

并為自由開放的通用基礎(chǔ)模型的分布式訓(xùn)練建立一個適度的上限

二是統(tǒng)一監(jiān)管格局，使開源基礎(chǔ)模型的開發(fā)和部署不受阻礙