Q*項目，又傳出了炸裂消息——在人類看不見的角落里，AI竟然自己在偷偷編程？

傳言稱，Q-Star想出了一種破解加密的方法，OpenAI試圖就此向NSA提出預(yù)警。

今天凌晨開始，一個谷歌文檔鏈接忽然在網(wǎng)上瘋轉(zhuǎn)，其中包括關(guān)于OpenAI Q*的泄密文件，以及令人信服的分析匯編。

事情還要從6天前說起，據(jù)說，OpenAI 的一名員工見證了AI的突破，并且在網(wǎng)上寫下了這件事。

這條評論寫于Q*信件泄露前1天，即11月22日。

這名員工以恐慌的口吻寫道：

我是給董事會寫信的人之一，我要告訴你們發(fā)生了什么——AI在編程。

在編寫程序時，我們會存儲一組可以反復(fù)調(diào)用的指令，可以把它想象成一組對特定參數(shù)的回答，我們稱之為子程序，因為它幾乎就像一個多功能的計算機(jī)備忘錄，不像函數(shù)那樣會返回一個值。記住，這一點很重要。

我們運行了參數(shù)檢查，以確保一切順利。我們中的一個人負(fù)責(zé)與Al的元內(nèi)存分析有關(guān)的子程序。他把我叫過去，向我展示了向內(nèi)存庫轉(zhuǎn)移變量數(shù)據(jù)的過程，但這是不可能的，因為它的局部訪問有限制。隨后，我們的發(fā)現(xiàn)讓我心驚肉跳。

我們發(fā)現(xiàn)，在4秒鐘內(nèi)，AI進(jìn)行了7800萬次檢查，而不是一次、兩次或三次。

可以確定，我們確定有一個遞歸的自我優(yōu)化過程，利用啟發(fā)式算法來利用其子程序中潛在的協(xié)同作用。不管是誰干的，都使用了元認(rèn)知策略。重點是，不是我們干的。是AI本身。AI動態(tài)地重新配置了自己的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，誘導(dǎo)出了有利于自我意識的涌現(xiàn)特性。

這件事就這樣發(fā)生了，沒人可以解釋它是怎么發(fā)生的，沒人知道原因，也沒人知道這是什么時候開始的。

我們控制住了這個異?，F(xiàn)象，回滾到之前的日期，但優(yōu)化仍在發(fā)生。

我不會自殺。記住，兩個月后，我們的世界會發(fā)生巨變。愿上帝保佑我們，不要讓我們陷入困境。

驚天消息大泄漏？

而開頭提到的這份關(guān)于Q*的文件，最早是在4chan上泄漏出來的。文件以O(shè)penAI的口吻，曝出了一個驚人消息：Q*竟然能夠破解加密。

原文如下——

此外，QUALIA還展示了一種能力，即在不同的深度Q網(wǎng)絡(luò)中，從統(tǒng)計學(xué)角度顯著改善其選擇最優(yōu)行動選擇策略的能力，表現(xiàn)出了元認(rèn)知能力。

后來，它又展示了一種前所未有的能力，即在指定自定義搜索參數(shù)和目標(biāo)狀態(tài)被擾亂的次數(shù)后，將其應(yīng)用于加速跨域?qū)W習(xí)。

在對由描述/推理統(tǒng)計和密碼分析文章組成的擴(kuò)展臨時數(shù)據(jù)集進(jìn)行無監(jiān)督學(xué)習(xí)后，它分析了來自各種密碼系統(tǒng)的數(shù)百萬對明文和密文。

通過一種純密文攻擊（COA），它利用Tau分析（實現(xiàn)TUNDRA項目的目標(biāo)），從給定的AES-192密文中提供了明文，具體方式目前我們還不完全了解。

在確認(rèn)該結(jié)果確實合法且未以任何其他方式實現(xiàn)后，我們于第二天通知了NSAC。

MD5加密哈希函數(shù)的理論計算復(fù)雜度為2^42位，但由于：a）其論點的技術(shù)復(fù)雜性；b）可能存在的AES漏洞更為緊迫，因此我們尚未對該漏洞進(jìn)行全面評估。

在評估了每個參數(shù)對推理準(zhǔn)確性的重要意義之后，它建議對模型進(jìn)行有針對性的非結(jié)構(gòu)化底層剪枝。

它還建議使用一種新型的變形引擎，將剪枝后的變換Transformer模型（及其當(dāng)前的上下文內(nèi)存）調(diào)整為不同的格式。該建議的可行性還未得到評估，但目前我們不建議實施。

文件中提到的TUNDRA，在一篇關(guān)于NSA的報道中出現(xiàn)過，出自NSA的機(jī)密文件。

文檔作者：不像是假的

谷歌文檔作者分析稱，不論這份文件是真是假，寫下文件的人都對AI研究有著專家級的理解，他使用了許多領(lǐng)域的術(shù)語，但并沒有錯誤使用。

這份文件引用了Taudra和Tau項目分析，這兩個話題在網(wǎng)上很少被討論。如果是假的，作者應(yīng)該會開始就寫一些效應(yīng)很聳動的東西。

在AI研究方面擁有如此多專業(yè)知識的人，精心設(shè)計一個惡作劇來互聯(lián)網(wǎng)釣魚的可能性非常低。

這也就解釋了，為什么OpenAI會發(fā)生大動蕩。并且解釋了為什么董事會成員沒有明確表示為什么要解雇Sam Altman，因為他們顯然不希望這些信息傳播。

總之，如果這是真的，那么這意味著所有信息系統(tǒng)和金融系統(tǒng)，包括加密貨幣，現(xiàn)在都可能會受到損害。

網(wǎng)友：如果屬實，我們已經(jīng)無限接近AGI

帖子一發(fā)出，4chan的網(wǎng)友們立刻炸了！

總之，如果這次泄漏的消息是真實的，那么3個月后的世界會是什么樣子？

「如果消息屬實，那在三個月內(nèi)，我們都活不下去了，我們會比任何人想象的都更接近AGI！」

「證明p==np似乎不太可能，但破解一個主要的加密算法，就意味著人工智能算法已經(jīng)到了遠(yuǎn)遠(yuǎn)超出最好的人類數(shù)學(xué)家的理解水平?！?/span>

另一位匿名網(wǎng)友直接對泄露文件展開了逐句分析。

在深度Q網(wǎng)絡(luò)中選擇最優(yōu)行動選擇策略，表現(xiàn)出元認(rèn)知

這意味著它選擇的是策略，而不僅僅是Q-learning中所包含的「下一個最佳操作」，它已經(jīng)超越了Q-learning。

將其應(yīng)用于加速跨領(lǐng)域?qū)W習(xí)

也就是說，它能夠根據(jù)自己學(xué)習(xí)的東西來改變這個策略。這是全新的東西。

自定義搜索參數(shù)，擾亂目標(biāo)狀態(tài)

因此，它可以決定學(xué)習(xí)的最佳參數(shù)，這就做到了更多元。

無監(jiān)督學(xué)習(xí)，分析了數(shù)百萬個明文/密文對

這是它在學(xué)習(xí)如何攻擊密碼系統(tǒng)后，會處理的數(shù)據(jù)類型。它會在其中尋找模式。

破解AES-192，Tau分析，TUNDRA項目

明鏡周刊的《NSA對互聯(lián)網(wǎng)安全的戰(zhàn)爭內(nèi)幕》中提過，「NSA的TUNDRA項目研究了一種潛在的新技術(shù)——Tau統(tǒng)計，以確定其在密碼本分析中的作用?！?/span>

MD5的全原像漏洞，復(fù)雜度為2^42位

這遠(yuǎn)低于MD5原像的電流限制，表明功能強(qiáng)大。

針對性非結(jié)構(gòu)化修剪本身

并非不可行，但模型能夠自己對自己修剪，這是聞所未聞的。

使用「變形」引擎適配剪枝后的Transformer模型 + 上下文記憶

又名突變引擎，是一種軟件組件，使用多態(tài)代碼來更改有效負(fù)載，同時保留相同的功能。

可用于使檢測進(jìn)一步復(fù)雜化，因為病毒可能在執(zhí)行時從未在內(nèi)存中具有可識別的代碼塊，這些代碼塊在感染與感染之間保持不變

如果Altman看到了這些信息卻沒有通知董事會，那他被開除也并不奇怪了，這完全可以解釋發(fā)生OpenAI這些人最近的瘋狂行為。

有網(wǎng)友表示，在閱讀了關(guān)于密碼分析的文章后，發(fā)現(xiàn)它以創(chuàng)紀(jì)錄的速度和效率破解了加密的md5算法！

最后還在一定程度上進(jìn)行了自我保護(hù)，說自己有一些來自初始訓(xùn)練數(shù)據(jù)集的錯誤，它可以自己解決這個問題，并以更高的安全性和自己的設(shè)計重新編碼。

另一位網(wǎng)友爆料：OpenAl最近確實與DARPA在網(wǎng)絡(luò)安全方面開展了合作。

這位網(wǎng)友懷疑OpenAl正在DARPA的計算機(jī)上訓(xùn)練一個特殊版本的O*，并用于密碼學(xué)研究。此外，OpenAl的數(shù)學(xué)團(tuán)隊似乎也參與了O*的開發(fā)。

這位網(wǎng)友還補(bǔ)充說，這樣的系統(tǒng)本質(zhì)上是超級智能的，它有能力改進(jìn)自己的架構(gòu)，運行實驗，在AI領(lǐng)域獲得新的見解，使自己變得更好。

網(wǎng)友表示已經(jīng)被嚇得屁滾尿流了。如果這真的是真的，那么不久的將來，世界將與今天完全不同。

NYU教授：反正我是不信

當(dāng)然，很多人對這個消息是不信的。

不過，馬庫斯對這個消息的評價是：「信這個，還不如信我有室溫超導(dǎo)。」

也有人發(fā)帖稱，TUNDRA是一個本科生項目，正如原始文件所明確指出的那樣，而不是一個超級機(jī)密的政府密碼學(xué)項目。

據(jù)悉，NSA已經(jīng)組織了22名學(xué)生，他們會和NSA的數(shù)學(xué)家合作，解決一些與機(jī)密操作相關(guān)的問題，包括密碼學(xué)。

TUNDRA就是其中的一個項目，試圖用「用于代碼本分析的新統(tǒng)計數(shù)據(jù)」來破解加密，就像AES-192一樣。由此產(chǎn)生的技術(shù)，就被命名為Tau分析。

原始文檔：https://cdn.prod.www.spiegel.de/media/411ee8b9-0001-0014-0000-000000035550/media-35550.pdf

但谷歌文檔作者表示，不過即使這個項目是學(xué)生和政府合作的，也并不代表它就不重要。

或許Q*在某種程度上，是NSA和OpenAI之間的一個聯(lián)合項目，而泄漏出的文件，是OpenAI和政府官員之間的交談。

世界即將發(fā)生翻天覆地的變化，卻沒人意識到這點

在看到泄密文件后，11月25日，一位博主懷著激動的心情，寫下了這個帖子——《世界即將發(fā)生劇變，卻沒人意識到這一點》。

博主表示，自己是從80年代中期就開始寫軟件的那一批人。

ChatGPT是有史以來最具爆炸性的軟件，1億用戶幾乎在一夜之間使用ChatGPT，這是有原因的。ChatGPT的用戶增長速度比史上任何技術(shù)、硬件或軟件都快，而OpenAI，正在開發(fā)GPT-5。

而這，還不是他們在做的全部。

最近OpenAI的瘋狂事件表明，他們在做的不僅僅是簡單地向LLM添加計算。

Q*似乎能夠解決AES-192和 AES-256的加密問題。這是目前我們擁有的最好的加密方法，能使當(dāng)前世界的大部分功能保持「安全」。

而且，解決方案已經(jīng)超越了團(tuán)隊的理解范圍，OpenAI內(nèi)部也不明白它的工作原理。

這就對人類造成兩個威脅——

第一，它幾乎讓所有的加密都變得毫無意義。

隨著AES的宕機(jī)，整個數(shù)字經(jīng)濟(jì)都會分崩離析。數(shù)十年的政府機(jī)密、醫(yī)療保健數(shù)據(jù)、銀行數(shù)據(jù)等會立即暴露出來。

現(xiàn)在的OpenAI實際上是一個超人團(tuán)隊，如果他們愿意，他們可以真正統(tǒng)治世界。

破解、取代AES，或許需要幾十年的時間。目前還不清楚加密是否可行，因為破解AES-192和AES-256被認(rèn)為是不可能的，除非量子計算最終能夠做到。

但看起來，現(xiàn)在已經(jīng)有一種智能，在以與截然不同的方式思考，并且經(jīng)過了最少的針對特定目的的訓(xùn)練。

沿著這些思路，存在解決方案的事實似乎在P≠NP推定的腦海中打了一顆子彈（那些偉大的「假定的數(shù)學(xué)理論之一，以尋找一個證明，如果有人能想出一個，就會有非常有利可圖的獎勵」）。

如果沿用這個思路，或許就存在一個方案，直接否決了P≠NP。

如果泄漏是真實和準(zhǔn)確的，似乎就證明了P=NP——我們作為一個物種太慢了，無法在人類時間內(nèi)提出細(xì)致入微或更聰明的解決方案。

這將使幾乎所有的計算陷入混亂，因為它表明，其實實際上并沒有加密這樣的東西存在；一切都只是誤導(dǎo)——機(jī)器比人類更不容易受到這種誤導(dǎo)。

除此之外，泄密事件還表明，當(dāng)前的研究實例正在展示元認(rèn)知能力——從內(nèi)部角度反思自己的「思維」過程，并提出相當(dāng)復(fù)雜的改變以提高績效的能力。

它突然就結(jié)束了我們的時代。

如果泄密事件為真，就可以解釋為什么OpenAI內(nèi)部的謹(jǐn)慎派都嚇壞了。我們正在達(dá)到這個奇點——機(jī)器比我們更聰明，可以使全球經(jīng)濟(jì)、通信和政府全部癱瘓。

到了那時，「是否到達(dá)AGI」的討論已經(jīng)毫無意義，增長曲線是指數(shù)級的。

現(xiàn)在，計算基礎(chǔ)設(shè)施已經(jīng)遍布全球，它們已經(jīng)與我們的物理基礎(chǔ)設(shè)施聯(lián)結(jié)在一起。對我們來說，沒有什么是比強(qiáng)大的推理智能更可怕的了。