大數(shù)據(jù)為什么不夠聰明？比概率語言更強(qiáng)大的思考工具是什么？科幻電影中的強(qiáng)人工智能到底怎樣實(shí)現(xiàn)？如何讓智能機(jī)器像人一樣思考？搞清楚因果關(guān)系才能撥云見日。

圖靈獎(jiǎng)得主、“貝葉斯網(wǎng)絡(luò)之父”朱迪亞·珀?duì)枺↗udea Pearl）的重磅力作 《為什么：關(guān)于因果關(guān)系的新科學(xué)》 中就為我們解答了這些問題。

[[278943]]

人工智能領(lǐng)域中的大多數(shù)問題都是決策問題。1939 年，統(tǒng)計(jì)學(xué)家亞伯拉罕·沃德撰文指出參數(shù)估計(jì)和假設(shè)檢驗(yàn)都是統(tǒng)計(jì)決策問題，甚至計(jì)劃把整個(gè)統(tǒng)計(jì)學(xué)納入統(tǒng)計(jì)決策理論的框架。損失函數(shù)是統(tǒng)計(jì)決策的起點(diǎn)，給定了損失函數(shù)，貝葉斯學(xué)派將始終如一地選擇期望損失最小的決策，有或沒有觀測(cè)數(shù)據(jù)時(shí)都是如此。頻率派則需要預(yù)先制定決策規(guī)則，基于損失函數(shù)和樣本定義一個(gè)風(fēng)險(xiǎn)函數(shù)，然后根據(jù)某些原則（如極大極小原則、貝葉斯風(fēng)險(xiǎn)原則等）來選擇最優(yōu)的決策。

如果決策是基于被動(dòng)接受的觀測(cè)數(shù)據(jù)，那么它就處于因果關(guān)系之梯的第一層級(jí)，強(qiáng)烈地依賴于觀測(cè)數(shù)據(jù)，因而難免帶有偏頗。而有了第二層級(jí)的利器——干預(yù)，決策就可以不受觀察樣本的束縛，把一些樣本無法反映的事實(shí)揭露出來。簡(jiǎn)而言之，達(dá)到第二層級(jí)的 AI 將具有主動(dòng)實(shí)施行動(dòng)來分析因果效應(yīng)的能力，這種能力使得決策行為更加智能化。

第三層級(jí)的反事實(shí)推理允許機(jī)器擁有“想象能力”。反事實(shí)推理考慮的是一個(gè)假想世界，是無法通過直接觀測(cè)數(shù)據(jù)進(jìn)行推理的，必須借助一個(gè)因果模型。

因果關(guān)系之梯

時(shí)至今日，深度學(xué)習(xí)依然是 AI 的熱點(diǎn)方法，甚至有人將之盲目地等同于 AI。其實(shí)，機(jī)器學(xué)習(xí)的方法多如牛毛，深度學(xué)習(xí)只是滄海一粟。理論上可以證明，人工智能即便在因果關(guān)系之梯的最低層級(jí)做到極致，也無法躍升到干預(yù)層面，更不可能進(jìn)入反事實(shí)的世界。

作為處在因果關(guān)系之梯最低層級(jí)的機(jī)器學(xué)習(xí)技術(shù)，大數(shù)據(jù)分析就是多變量統(tǒng)計(jì)分析，深度學(xué)習(xí)就是隱層多了一些的神經(jīng)網(wǎng)絡(luò)而已，理論上沒有太多新意。珀?duì)柦淌谡J(rèn)為大數(shù)據(jù)分析和深度學(xué)習(xí)（甚至多數(shù)傳統(tǒng)的機(jī)器學(xué)習(xí)）都處于因果關(guān)系之梯的第一層級(jí)，因?yàn)樗鼈兊难芯繉?duì)象還是相關(guān)關(guān)系而非因果關(guān)系。

珀?duì)柌]有貶低處于因果關(guān)系之梯最低層級(jí)的相關(guān)性分析，他只是在提醒我們不要滿足于這個(gè)高度，還要繼續(xù)向上攀登。不同層級(jí)之間也可以形成合作，例如，在實(shí)踐中，深度學(xué)習(xí)可用于擬合強(qiáng)化學(xué)習(xí)中的策略，二者強(qiáng)強(qiáng)聯(lián)手，成為“深度強(qiáng)化學(xué)習(xí)”，后者曾作為核心技術(shù)之一在 AlphaGo（“阿爾法狗”）那里大放異彩。

眾所周知，這輪 AI 的爆發(fā)在很大程度上得益于算力的提升，例如，深度學(xué)習(xí)就是人工神經(jīng)網(wǎng)絡(luò)借助算力的“卷土重來”，把數(shù)據(jù)驅(qū)動(dòng)的方法推向了一個(gè)巔峰。人們甚至產(chǎn)生了一個(gè)幻覺 ——“所有科學(xué)問題的答案都藏于數(shù)據(jù)之中，有待巧妙的數(shù)據(jù)挖掘技巧來揭示”。珀?duì)柦淌谂辛诉@種思潮，他將因果模型置于更高的位置，把數(shù)學(xué)或統(tǒng)計(jì)建模的榮耀重新歸還給了相應(yīng)領(lǐng)域的專家。我們希望，未來的機(jī)器學(xué)習(xí)可以不再靠煉金術(shù)士的碰運(yùn)氣而獲得成功，隨著知識(shí)推理和計(jì)算越發(fā)受到關(guān)注，可解釋 AI 將從關(guān)于因果關(guān)系的新科學(xué)中汲取更多的力量，甚至可以闖進(jìn)反事實(shí)的世界。

DeepMind 研發(fā)的 AlphaGo 圍棋程序在 2016 年首次打敗了人類頂尖圍棋高手李世石，次年橫掃所有人類高手取得全勝（包括以 3∶0 戰(zhàn)勝柯潔）。聶衛(wèi)平（九段）稱它的水平為“至少二十段”。AlphaGo 采用深度強(qiáng)化學(xué)習(xí)和蒙特卡羅樹搜索，其最終版本 AlphaGo Zero 僅需要 3 天便可自我訓(xùn)練至戰(zhàn)勝李世石的水平。2017 年，DeepMind 宣布 AlphaGo“退役”， 不再參加任何圍棋比賽。

[[278944]]

在棋類游戲中，圍棋所包含的巨大的搜索空間（其狀態(tài)數(shù)遠(yuǎn)遠(yuǎn)超過整個(gè)宇宙中的原子數(shù)）一直是機(jī)器學(xué)習(xí)未能攻克的難題，甚至一度被認(rèn)為在近期內(nèi)是不可能被 AI 解決的。AlphaGo 的成功不僅讓人們看到了強(qiáng)化學(xué)習(xí)和隨機(jī)模擬技術(shù)（也稱“蒙特卡羅”技術(shù)）的魅力，也讓深度學(xué)習(xí)變得更加炙手可熱。冷靜之余，人們認(rèn)識(shí)到 AlphaGo 的算法更適用于大規(guī)模概率空間的智能搜索，其環(huán)境和狀態(tài)都是可模擬的。DeepMind 的創(chuàng)始人德米斯·哈薩比斯表示，對(duì)于那些環(huán)境難以模擬的決策問題（如自動(dòng)駕駛），這些算法也無能為力。珀?duì)栐凇稙槭裁础返谑乱舱務(wù)摿?AlphaGo，他認(rèn)為缺乏可解釋性是它的硬傷。

拿強(qiáng)化學(xué)習(xí)來說，它不同于有監(jiān)督學(xué)習(xí)（supervised learning）和無監(jiān)督學(xué)習(xí)（unsupervised learning），是基于馬爾科夫決策過程發(fā)展起來的第三類機(jī)器學(xué)習(xí)方法——智能體通過與環(huán)境互動(dòng)變得越來越“聰明”。強(qiáng)化學(xué)習(xí)和因果推斷都尋求策略（policy），其中，行動(dòng)之間是有因果關(guān)系的，但因果推斷更開放一些，它可以利用數(shù)據(jù)之外的知識(shí)來推斷策略的效果。強(qiáng)化學(xué)習(xí)允許推斷干預(yù)的結(jié)果，因此能攀上因果關(guān)系之梯的第二層級(jí)。通過模擬環(huán)境，強(qiáng)化學(xué)習(xí)無須從現(xiàn)實(shí)世界獲取觀測(cè)數(shù)據(jù)來訓(xùn)練模型，所以也有可能產(chǎn)生反事實(shí)從而登上因果關(guān)系之梯的第三層級(jí)。盡管目前的強(qiáng)化學(xué)習(xí)很少用到先驗(yàn)知識(shí)，我們?nèi)院芎闷鎻?qiáng)化學(xué)習(xí)和因果推斷的理論聯(lián)系。

未來人工智能的發(fā)展也有“綜合”的趨勢(shì)。譬如，語音、圖像、視頻數(shù)據(jù)等都可以轉(zhuǎn)換成文字，而 AI 技術(shù)則能幫助我們加深對(duì)數(shù)據(jù)的理解。同時(shí)，借助 AI 技術(shù)（包括因果推斷）更好地理解數(shù)據(jù)也能助力模型訓(xùn)練并改進(jìn)應(yīng)用效果。同理，因果論和現(xiàn)有的機(jī)器學(xué)習(xí)等 AI 技術(shù)有沒有可能聯(lián)手互惠互利？例如，因果推斷所考慮的變量越多，對(duì)計(jì)算的挑戰(zhàn)就越大，那么，基于蒙特卡羅方法的近似計(jì)算是否能其助一臂之力？機(jī)器學(xué)習(xí)能否幫助和改進(jìn)因果建模？這些問題都有待深入的研究。

因果的形式化理論，不僅解決了困擾統(tǒng)計(jì)學(xué)家很多年的一些悖論，更重要的是，（1）利用“干預(yù)”讓人類和機(jī)器擺脫了被動(dòng)觀察，從而轉(zhuǎn)向主動(dòng)地去探索因果關(guān)系，以便做出更好的決策；（2）利用“反事實(shí)推理”擴(kuò)展了想象的空間，從而擺脫了現(xiàn)實(shí)世界的束縛。這兩點(diǎn)突破實(shí)現(xiàn)了因果革命，并分別構(gòu)成了因果關(guān)系之梯的第二層級(jí)和第三層級(jí)的內(nèi)容。沿著因果關(guān)系之梯，機(jī)器便有望擁有強(qiáng)人工智能。