GPT-5的威脅，已經(jīng)黑云壓頂。

GPT-4誕生后，AI可能給人類社會造成的顛覆性影響，早已讓多位業(yè)內(nèi)大佬感到恐懼。

最近，似乎全世界都在圍剿ChatGPT。

前一陣由馬斯克、圖靈獎得主Bengio等大佬聯(lián)名發(fā)起的暫停高級AI研發(fā)的公開信，現(xiàn)在簽名已經(jīng)上升到9000多人。

緊接著，美國非營利組織人工智能與數(shù)字政策中心（CAIDP）也要求聯(lián)邦貿(mào)易委員會（FTC）調(diào)查OpenAI是否違反了消費者保護規(guī)則，并禁止其進一步發(fā)布GPT-4。

而意大利直接全國上下封禁了ChatGPT，只給OpenAI 20天的調(diào)整適應(yīng)期，拿不出合格的方案，就得交最高2000萬歐元的罰款。

封殺ChatGPT狂潮席卷全球

有趣的是，自從意大利開了這個頭之后，其他一些國家也躍躍欲試，準(zhǔn)備要對ChatGPT開刀。

法國和愛爾蘭的隱私監(jiān)管機構(gòu)，已經(jīng)聯(lián)系了他們的意大利同行，希望得到更多關(guān)于調(diào)查的詳細資料。

德國聯(lián)邦數(shù)據(jù)保護專員Ulrich Kelber表示：「從原則上講，德國也有可能采取類似的程序?！?/span>

此外，歐盟也提出草案，計劃將ChatGPT視為高風(fēng)險的AI系統(tǒng)進行監(jiān)管。

美國也出手了

而就在今天，美國總統(tǒng)拜登也在白宮與科技顧問開了會，討論了AI給人類、社會和國家安全帶來的風(fēng)險和機遇。

據(jù)路透社報道，在總統(tǒng)科學(xué)技術(shù)顧問委員會 (PCAST) 會議中，拜登強調(diào)，「在我看來，科技公司有責(zé)任確保他們的產(chǎn)品在公開之前是安全的。」

而在被問及AI是否危險時，他說，「還有待觀察，有這種可能性。」

拜登表示，強大技術(shù)在沒有保護措施的情況下會造成哪些危害，在社交媒體上已經(jīng)很明顯了。

「因為缺乏保障措施，我們看到技術(shù)影響了人們的心理健康，讓他們對自我形象產(chǎn)生了自卑和絕望，這種影響在年輕人中尤為明顯?！?/span>

他再次呼吁國會通過兩黨隱私立法，限制科技公司收集的個人數(shù)據(jù)，禁止針對青少年的廣告，并在產(chǎn)品開發(fā)中優(yōu)先考慮健康和安全。

受此消息影響，在拜登召開這次會議之前，AI公司的股價均出現(xiàn)大幅下跌。

ChatGPT概念股C3.ai的股價持續(xù)走低，收跌26.34%報24.95美元，市值28億美元，創(chuàng)該股上市以來最大日內(nèi)跌幅。

而此前，自微軟宣布與OpenAI建立數(shù)十億美元的合作關(guān)系以來，C3.ai與AI領(lǐng)域的許多公司一樣，已經(jīng)成為華爾街近期最熱門的公司之一，今年以來C3.ai的股價已經(jīng)上漲了超過130%。

蓋茨：暫停AI研發(fā)無法「解決挑戰(zhàn)」

當(dāng)?shù)貢r間4月3日，蓋茨接受路透的采訪時公開談?wù)摿饲麑＜液炇鸬墓_信，

呼吁暫停人工智能開發(fā)不會「解決挑戰(zhàn)」，最好是把注意力放在如何最好地利用人工智能的發(fā)展上，很難理解在全球范圍內(nèi)暫停AI研發(fā)將如何實現(xiàn)。

他繼續(xù)表示，我不認為要求某個特定群體暫停工作就能解決挑戰(zhàn)。顯然，這些東西有巨大的好處······我們需要做的是確定棘手的領(lǐng)域。

蓋茨是人工智能的堅定支持者。

3月21日，也就是發(fā)起聯(lián)名公開信的前一天，蓋茨曾發(fā)表了一篇「人工智能時代已經(jīng)開始」的博客文章。

其中提到了應(yīng)該利用人工智能來幫助減少世界上一些最嚴重的不平等現(xiàn)象。

他在博客中盛贊人工智能，「AI時代已經(jīng)開啟，人工智能革命重要程度不亞于手機和互聯(lián)網(wǎng)的誕生，這是其一生中唯二的革命性技術(shù)進步。」

目前為止，微軟已經(jīng)向OpenAI投資了數(shù)十億美元。OpenAI正在為微軟必應(yīng)、Edge、Microsoft 365和其他產(chǎn)品構(gòu)建AI技術(shù)。

在接受采訪時，蓋茨質(zhì)疑暫停AI開發(fā)的可行性，想知道如何實施。

「任何暫停的細節(jié)都會很復(fù)雜，難以執(zhí)行。我不太明白，他們說的哪些人可能停止，世界上每個國家是否都會同意停止，以及為什么要停止，在這個領(lǐng)域會有很多不同的意見?！?/span>

GPT-4學(xué)會「自我反思」，性能大漲30%

但是，即使全世界都對超級AI如臨大敵，想趕緊懸崖勒馬，恐怕也為時已晚。

因為，如今的AI，已經(jīng)學(xué)會自我進化了！

有證據(jù)表明：GPT-4，正在改進自己！

前段時間，前谷歌大腦研究工程師Eric Jang發(fā)現(xiàn)令人瘋的一點：GPT-4能夠以合理的方式批評自己的成果。

與其為大型語言模型（LLM）尋找完美的提示（讓我們一步一步思考），不如讓LLM評估自己的輸出并立即糾正自己的錯誤。

甚至連特斯拉前AI總監(jiān)，OpenAI研究科學(xué)家Andrej Karpathy大贊，這是一個很好的例子，說明我們還沒有看到GPT-4的最大能力。

在Eric Jang給出的例子中，曾看到微軟研究員發(fā)推說GPT-4根本無法寫出「不押韻」的詩歌。

然而，當(dāng)再去詢問GPT-4是否完成了任務(wù)。這時，它道歉后，生成了一個不押韻的詩！可以說是滿分。

這恰恰印證了GPT-4是有「反思」能力的。

最近，來自美國東北大學(xué)、MIT等機構(gòu)研究者提出了Reflexion。這一方法賦予智能體動態(tài)記憶，以及自我反思的能力。

論文地址：https://arxiv.org/abs/2303.11366

為了驗證方法的有效性，研究人員評估了智能體在AlfWorld環(huán)境中完成決策任務(wù)的能力，以及在HotPotQA環(huán)境中完成知識密集型、基于搜索問答任務(wù)的能力。

在這兩項任務(wù)的成功率分別為97%和51%。

Reflexion智能體的整體架構(gòu)

有網(wǎng)友便表示，你可以通過要求 GPT-4 反思「你為什么錯了？」，并為自己生成一個新的提示，將這個錯誤原因考慮在內(nèi)，直到結(jié)果正確，從而將GPT-4的性能提高驚人的30%。

另外，論文指出，在測試模型編寫代碼的能力時，Reflexion+GPT-4也顯著優(yōu)于常規(guī)的GPT-4。

這樣看來，就像Eric Jang所說，

我們現(xiàn)在可以考慮一種「后綴提示工程」，而不是巧妙的「前綴提示工程」。這將鼓勵LLM在先前生成的解決方案中找到更正和不一致的地方。

對于GPT-4通過自我改進讓自己變得更聰明的能力，一位網(wǎng)友對此做了一個視頻總結(jié)。

Meta研究人員曾在2月份拋出一篇新論文Toolformer，直接瞄準(zhǔn)ChatGPT的「軟肋」，讓大語言模型自行學(xué)會使用工具。

論文地址：https://arxiv.org/abs/2302.04761

按照Meta的思路，像ChatGPT這樣的大語言模型可以缺啥補啥。

比如不會算數(shù)，就拿出計算器；需要最新信息，就自己連接搜索引擎搜索；甚至可以直接把想翻譯的內(nèi)容丟給它。

論文一出瞬間爆火，許多AI研究者表示，這篇論文為人們打開了思路，讓大語言模型未來可以成為所有事情的起點。

同樣，最近浙大和微軟亞研院新出的論文「賈維斯」HuggingGPT在業(yè)界引起很大的關(guān)注。

論文地址：https://arxiv.org/abs/2303.17580

論文中，研究者提出的HuggingGPT利用ChatGPT作為控制器，連接HuggingFace社區(qū)中的各種AI模型，來完成多模態(tài)等各種復(fù)雜任務(wù)。

有網(wǎng)友表示，我強烈懷疑第一個通用人工智能（AGI）的出現(xiàn)將比預(yù)期更早。它將依靠「膠水」AI，能夠智能地將一系列狹義人工智能和實用工具粘合在一起。

自動寫代碼

最近，一位開發(fā)者做了一個能讓GPT-4自動生成代碼的項目——Auto-GPT。

甚至還可以執(zhí)行代碼。在后續(xù)改進中，Auto-GPT可以使用GPT-4編寫代碼，并執(zhí)行Python腳本。這使得它能夠遞歸調(diào)試、開發(fā)并自我改進...

Auto-GPT讓人們更進一步了解到GPT-4強大能力，甚至有網(wǎng)友做了一張梗圖：

Andrej Karpathy表示，在我看來，提示工程的下一個前沿領(lǐng)域是「AutoGPT」。一個GPT調(diào)用就像計算機上的一個指令。它們可以被串聯(lián)成程序中。使用提示來定義I/O設(shè)備和工具規(guī)格，定義認知循環(huán)，在上下文中分頁數(shù)據(jù)輸入和輸出，然后運行。

網(wǎng)友：奇點來了

有網(wǎng)友稱，這基本上就是奇點的定義。

一個能夠自我改進的AI，現(xiàn)在唯一需要的就是使其能夠修改模型的代碼，并自主訓(xùn)練（通過瀏覽互聯(lián)網(wǎng)并自行標(biāo)記所有內(nèi)容）。

甚至有的網(wǎng)友認為，技術(shù)的飛速進步，讓我們已經(jīng)到了無法回頭的地步。到2025年，這個世界將會發(fā)生翻天覆地的變化，無論是好還是壞。

從錯誤中學(xué)習(xí)，是智力的基礎(chǔ)。

如此看來，GPT-4打敗自己，想要成為超級AI。

而根據(jù)某大佬的最新消息，OpenAI非常清楚，最近他們AI產(chǎn)品的快速迭代引起了極度強烈的反響，而他們也歡迎公眾的監(jiān)督。

其負責(zé)人表示，目前risk per token還沒到臨界點，所以GPT的濫用還造不成太大的傷害。而AI對齊的路線圖，即將在幾個月內(nèi)發(fā)布。