如今，在推出ChatGPT一年多之后，2023年最大的AI故事可能與其說是技術(shù)本身，不如說是OpenAI董事會對其快速發(fā)展的戲劇性報道。在奧特曼被趕下臺并隨后復(fù)職擔(dān)任CEO期間，GenAI進入2024年的潛在緊張局勢顯而易見：AI處于巨大分歧的中心，一方是完全接受其快速創(chuàng)新步伐的人，另一方是由于涉及的許多風(fēng)險而希望它放緩的人。

這場在科技界被稱為e/acc vs.Decels的辯論自2021年以來一直在硅谷流傳，但隨著AI在權(quán)力和影響力上的增長，理解分歧的雙方變得越來越重要。

以下是一些關(guān)鍵術(shù)語的入門讀物，以及一些塑造AI未來的知名參與者。

e/acc與技術(shù)樂觀主義

術(shù)語“e/acc”代表有效的加速主義。

簡而言之，那些支持e/acc的人希望技術(shù)和創(chuàng)新盡可能快地發(fā)展。

這一概念的支持者在關(guān)于e/acc的第一篇帖子中解釋道：“科技資本可以帶來意識的下一次進化，創(chuàng)造不可想象的下一代生命形式和基于硅的意識?！?/p>

在AI方面，“AI”，或稱AGI，是這里辯論的基礎(chǔ)。AGI是一種超級智能的AI，它非常先進，可以做得和人類一樣好，甚至比人類做得更好。AGI也可以改進自己，創(chuàng)造一個無限的反饋循環(huán)，具有無限的可能性。

一些人認為AGI將擁有直到世界末日的能力，變得如此聰明，以至于它們找到了如何消滅人類的方法，但e/acc的愛好者選擇關(guān)注AGI可以提供的好處。創(chuàng)始的e/acc子棧解釋說：“沒有什么能阻止我們?yōu)榛钪拿恳粋€人創(chuàng)造財富，除了這樣做的意愿?！?/p>

e/acc Start的創(chuàng)始人一直籠罩在神秘之中，但是@basedbeffjezos，可以說是e/acc最大的支持者，最近在他的身份被媒體曝光后透露自己是Guillaume Verdon。

Verdon之前曾在Alphabet、X和谷歌工作，現(xiàn)在他正在致力于他所說的“AI曼哈頓項目”，并在X上說：“這不是e/acc的結(jié)束，而是一個新的開始。在這里，我可以站出來，讓我們的聲音在X之外的傳統(tǒng)世界被聽到，并利用我的資歷為我們社區(qū)的利益提供支持?！?/p>

Verdon也是科技初創(chuàng)公司Extrotic的創(chuàng)始人，他將該公司描述為“通過利用熱力學(xué)物理，在物理世界中為生成性AI構(gòu)建終極基礎(chǔ)?！?/p>

頂級風(fēng)投的AI宣言

最著名的e/acc支持者之一是安德森-霍洛維茨公司(Andreessen Horowitz)的風(fēng)險投資家馬克·安德森，他此前曾稱韋爾登為“科技樂觀主義的守護神”。

技術(shù)樂觀主義就像它聽起來那樣：信徒認為更多的技術(shù)最終會讓世界變得更美好。安德森撰寫了《技術(shù)樂觀主義宣言》，這是一份5000多字的聲明，解釋了技術(shù)將如何賦予人類力量，并解決所有物質(zhì)問題。安德森甚至說：“AI的任何減速都會以生命為代價”，如果不發(fā)展到足以防止死亡的程度，這將是一種“謀殺形式”。

他寫的另一篇技術(shù)樂觀主義文章《為什么AI將拯救世界》被Meta的首席AI科學(xué)家Yann LeCun轉(zhuǎn)發(fā)，他因在AI方面的突破而獲得著名的圖靈獎，被稱為“AI教父”之一。

LeCun在X雜志上給自己貼上了“人文主義者”的標(biāo)簽，他認同積極的和規(guī)范的積極技術(shù)樂觀主義。

LeCun最近表示，他預(yù)計AI在很長一段時間內(nèi)都不會到來，他在公開場合與那些他所說的“懷疑當(dāng)前的經(jīng)濟和政治機構(gòu)，以及整個人類是否有能力永遠使用AI”的人形成了鮮明的對比。

Meta對開源AI的擁抱奠定了LeCun的信念，即這項技術(shù)將提供更多的潛力，而不是有害的，而其他人則指出了像Meta這樣的商業(yè)模式的危險，這種模式正在推動將廣泛可用的新一代AI模型置于許多開發(fā)者手中。

AI協(xié)調(diào)和減速

今年3月，Encode Justice和未來生活研究所(Future Of Life Institute)發(fā)表了一封公開信，呼吁“所有AI實驗室立即暫停對比GPT-4更強大的AI系統(tǒng)的培訓(xùn)至少六個月?！?/p>

這封信得到了科技界知名人士的支持，如埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克。

OpenAI的CEO奧特曼在4月份的一次麻省理工學(xué)院活動中發(fā)表了這封信，他說：“我認為謹慎行事，對安全問題越來越嚴格真的很重要。我認為這封信不是解決這個問題的最佳方式。”

當(dāng)OpenAI董事會大戲上演時，奧特曼再次卷入了這場戰(zhàn)斗，OpenAI非營利性部門的原始董事們越來越擔(dān)心進展的速度及其宣稱的使命，即確保通用人工智能-通常比人類更聰明的AI系統(tǒng)-造福全人類。

公開信中的一些想法是減速的關(guān)鍵，也是AI減速的支持者。Decel希望進展放慢，因為AI的未來是危險和不可預(yù)測的，他們最大的擔(dān)憂之一是AI的一致性。

AI協(xié)調(diào)問題解決了這樣一種想法，即AI最終將變得如此智能，以至于人類將無法控制它。

“我們作為一個物種的統(tǒng)治地位是由我們相對優(yōu)越的智力驅(qū)動的，這給其他物種帶來了有害的后果，包括滅絕，因為我們的目標(biāo)與他們的目標(biāo)不一致。我們控制著未來——動物園里有黑猩猩。先進的AI系統(tǒng)也同樣可以影響人類?！皺C器智能研究所的CEO Malo Bourgon說。

AI協(xié)調(diào)研究，如MIRI的，旨在訓(xùn)練AI系統(tǒng)，使其與人類的目標(biāo)、道德和倫理相結(jié)合，這將防止對人類的任何生存風(fēng)險?！昂诵娘L(fēng)險在于創(chuàng)造比我們聰明得多的實體，目標(biāo)錯位，其行動不可預(yù)測和無法控制?！盉ourgon說。

政府和AI的世界末日問題

戰(zhàn)略風(fēng)險委員會CEO、前五角大樓官員克里斯汀·帕特莫爾將她的職業(yè)生涯獻給了降低危險情況的風(fēng)險，她最近告訴記者，當(dāng)我們考慮到AI如果被用來監(jiān)督核武器可能導(dǎo)致的“大規(guī)模死亡”時，這是一個需要立即關(guān)注的問題。

但她強調(diào)，“盯著問題看”不會有任何好處，“關(guān)鍵是要解決風(fēng)險，找到最有效的解決方案，”她說。她補充說：“這是一項純粹的兩用技術(shù)。沒有哪種情況下，AI更像是一種武器，而不是一種解決方案?！崩纾笮驼Z言模型將成為虛擬實驗室助手，加快醫(yī)學(xué)進程，但也會幫助邪惡的行為者識別最好、最具傳播性的病原體用于攻擊。這是AI無法阻止的原因之一，她說。“放慢速度不是解決方案的一部分?！迸撂啬獱栒f。

今年早些時候，她的前雇主國防部在使用AI系統(tǒng)時表示，循環(huán)中永遠會有一個人。她說，這是一種應(yīng)該在任何地方都采用的協(xié)議?！癆I本身不可能是權(quán)威，”她說。我們需要信任這些工具，或者我們不應(yīng)該使用它們，但我們需要將它們與環(huán)境聯(lián)系起來。人們普遍缺乏對這個工具集的了解，因此過度自信和過度依賴的風(fēng)險更高。

政府官員和政策制定者已經(jīng)開始注意到這些風(fēng)險。今年7月，拜登-哈里斯政府宣布，它已獲得AI巨頭亞馬遜、Anthropic、谷歌、Inflect、Meta、微軟和OpenAI的自愿承諾，將“朝著安全、可靠和透明的AI技術(shù)發(fā)展方向邁進?！?/p>

就在幾周前，拜登總統(tǒng)發(fā)布了一項行政命令，進一步建立了AI安全和安保的新標(biāo)準(zhǔn)，盡管社會上的利益攸關(guān)方團體對其局限性感到擔(dān)憂。同樣，英國政府在11月初引入了AI安全研究所，這是第一個專注于導(dǎo)航AI的國家支持組織。

在全球?qū)I霸主地位的爭奪中，以及與地緣政治競爭的聯(lián)系中，中國正在實施自己的一套AI護欄。

負責(zé)任的AI承諾和懷疑

OpenAI目前正在研究SuperAlign，目標(biāo)是在四年內(nèi)解決超智能Align的核心技術(shù)挑戰(zhàn)。

在亞馬遜最近舉行的亞馬遜網(wǎng)絡(luò)服務(wù)Re：Inventt 2023大會上，它宣布了AI創(chuàng)新的新能力，并在整個公司內(nèi)實施了負責(zé)任的AI保障措施。

AWS負責(zé)AI的負責(zé)人Diya Wynn表示：“我經(jīng)常說，負責(zé)任的AI不應(yīng)被視為一個單獨的工作流程，而應(yīng)最終融入我們的工作方式，這是商業(yè)上的當(dāng)務(wù)之急?！?/p>

根據(jù)AWS委托Morning Consult進行的一項研究，負責(zé)任的AI對59%的商業(yè)領(lǐng)袖來說是越來越重要的商業(yè)優(yōu)先事項，約一半(47%)的人計劃在2024年比2023年更多地投資于負責(zé)任的AI。

盡管考慮到負責(zé)任的AI可能會減緩AI的創(chuàng)新步伐，但像永利這樣的團隊認為自己正在為更安全的未來鋪平道路?！肮究吹搅藘r值，并開始優(yōu)先考慮負責(zé)任的AI，”韋恩說，因此，“系統(tǒng)將變得更安全、更有保障、更具包容性?！?/p>

Bourgon并不信服，他說，像政府最近宣布的那些行動“遠遠不是最終需要的”。

他預(yù)測，AI系統(tǒng)很可能最早在2030年就會發(fā)展到災(zāi)難性的水平，政府需要準(zhǔn)備好無限期停止AI系統(tǒng)，直到領(lǐng)先的AI開發(fā)人員能夠“有力地證明他們系統(tǒng)的安全性”。