?當前的人工智能（AI）處在一個奇妙的時代，時常會出現(xiàn)讓人驚嘆的隱性知識（Polanyi 的復仇和人工智能的新型浪漫與隱性知識，https://bit.ly/3qYrAOY），但可以確信在未來相當長的一段時間，計算機無法完成這個任務。最近出現(xiàn)的讓人感興趣的研究是基于 Transformer 架構(gòu)的大型學習系統(tǒng)，基于大網(wǎng)絡規(guī)模的多模態(tài)語料庫和數(shù)十億參數(shù)的訓練。典型例子如大型語言模型、響應任意形式文本 prompt 的 GPT3 和 PALM、將文本轉(zhuǎn)換成圖像的語言 / 圖像模型 DALL-E 和 Imagen（甚至具有通用行為的模型如 GATO）。

大型學習模型的出現(xiàn)從根本上改變了人工智能研究的性質(zhì)。最近研究人員在使用 DALL-E 時，認為它似乎已經(jīng)發(fā)展出自己的特有語言?，如果人類能掌握它，或許可以更好地與 DALL-E 交互。也有研究人員發(fā)現(xiàn)，可以通過在 prompt 中添加某些神奇的咒語（比如「讓我們一步步地思考」）來改善 GPT3 對推理問題的表現(xiàn)。現(xiàn)在 GPT3 和 DALL-E 這樣的大型學習模型就像是「外星物種」一樣，我們要嘗試解碼它們的行為。

對于人工智能來說，這無疑是一個奇怪的轉(zhuǎn)折點。自出現(xiàn)以來，人工智能一直是介于工程學（特定功能的系統(tǒng)）和科學（發(fā)現(xiàn)自然現(xiàn)象規(guī)律）之間的「無人區(qū)」地帶。人工智能的科學部分源于其最初的主張，即對人類智能本質(zhì)的洞察；而工程部分則源于對智能功能（讓計算機展示智能行為）的關(guān)注，而不是對人類智能的洞察。

而目前的情況正在迅速變化，特別是人工智能已成為大型學習模型的同義詞。當前的現(xiàn)狀是，人們對于訓練過的模型是如何擁有特定功能一無所知，甚至它們可能具有的其它功能一無所知（如 PALM 所謂的「解釋笑話」的能力）。即使是它們的創(chuàng)造者，通常也對這些系統(tǒng)能做的事情始料不及。探索這些系統(tǒng)以了解其「功能」范圍，已成為近來人工智能研究的趨勢。

越來越清楚的是，部分人工智能正偏離其工程本源。如今很難將大型學習系統(tǒng)看作傳統(tǒng)意義上有特定目標的工程設計。畢竟人們不能說自己的孩子是「設計」出來的。工程學領域通常不會為設計的系統(tǒng)出現(xiàn)意料之外的新特性而慶祝（就如同土木工程師不會因為他們設計的抵御五級颶風的橋梁被發(fā)現(xiàn)還能懸浮而激動興奮的慶祝）。

越來越多地證據(jù)表明，這些經(jīng)過訓練（但未經(jīng)設計）的大型系統(tǒng)的研究注定要成為自然科學：觀察系統(tǒng)的功能；做消融研究；對最佳實踐進行定性的分析。

考慮到目前研究表象而非內(nèi)里的事實，這類似于生物學中想在沒有實際證據(jù)的情況下達到「弄清楚」的宏偉目標。機器學習屬于研究工作，更多地關(guān)注系統(tǒng)為什么會做它正在做的事情（可以想象成對大型學習系統(tǒng)做「核磁共振成像」研究），而不是證明設計系統(tǒng)就是為了這樣做。這些研究收獲的知識能提升微調(diào)系統(tǒng)的能力（就像醫(yī)學一樣）。當然表象的研究允許比內(nèi)里設置進行更具針對性的干預。

人工智能變成自然科學，也會對整個計算機科學產(chǎn)生影響，考慮到人工智能會對幾乎所有計算領域都產(chǎn)生巨大影響。計算機科學的「科學」二字也受到過質(zhì)疑和諷刺。但現(xiàn)在情況已有改變，因為人工智能已經(jīng)成為研究大型人工學習系統(tǒng)的自然科學。當然，這一轉(zhuǎn)變可能存在很大的阻力和意見，因為計算機科學長期以來一直是「建構(gòu)修正的方法 (correct by construction)」圣杯，從最開始計算機科學就相當于生活在充滿激勵的系統(tǒng)中，它像訓練有素的狗不犯錯，就像人類一樣正確。

早在 2003 年，圖靈獎得主 Leslie Lamport 對計算未來屬于生物學而非邏輯的可能性敲響警鐘，稱計算機科學將讓我們生活在順勢療法和信仰療愈的世界。當時他的焦慮主要是針對人類通過編程完成的復雜軟件系統(tǒng)，而不是現(xiàn)在更神秘的大型學習模型。

當從一個主要關(guān)注有意設計和「通過構(gòu)造保證正確」的領域，轉(zhuǎn)向試圖探索或理解現(xiàn)有的（未經(jīng)設計的）人工產(chǎn)物，它將帶來的方法學轉(zhuǎn)變值得思考。與生物學研究野外生物不同，人工智能研究人類創(chuàng)造的缺乏「設計感」的人工產(chǎn)物，對于創(chuàng)造和部署那些不被理解的人工產(chǎn)物，倫理問題是肯定會出現(xiàn)的。大型學習模型不太可能保證支持可證明的能力，無論是關(guān)于準確性、透明度還是公平性，然而這些是部署和實踐這些系統(tǒng)的關(guān)鍵問題。雖然人類也無法提供關(guān)于其自身決定和行為正確性的證據(jù)，但確實有法律制度來讓人類遵守懲罰，如罰款、譴責甚至監(jiān)禁。而對于大型學習系統(tǒng)，有什么是等價的制度？

計算研究的美學也會發(fā)生改變。目前的研究者可以用論文中包含定理與定義的比例來評價論文。但隨著計算機科學的目標，越來越像生物學等自然科學的目標，就需要開發(fā)新的計算美學方法論（因為零定理與零定義比例不會有很大的區(qū)別）。有跡象表明，計算復雜性分析在人工智能研究中已處于次要地位。?