達(dá)克效應(yīng)(Dunning-Kruger effect)是一種顯著的偏見(jiàn): 指的是能力欠缺的人在自己欠考慮的決定的基礎(chǔ)上得出錯(cuò)誤結(jié)論，但是無(wú)法正確認(rèn)識(shí)到自身的不足，辨別錯(cuò)誤行為。這些能力欠缺者們沉浸在自我營(yíng)造的虛幻的優(yōu)勢(shì)之中，常常高估自己的能力水平，卻無(wú)法客觀評(píng)價(jià)他人的能力。

[[261538]]

今天，我們看到了互聯(lián)網(wǎng)、區(qū)塊鏈和云計(jì)算等技術(shù)的興起，可謂是人類近期歷史上的三大科技熱潮。但是，在這些技術(shù)的應(yīng)用中，我們不幸又看了這一效應(yīng)的出現(xiàn)，大量自身實(shí)力并不足夠的廠商借了這些新興的詞語(yǔ)進(jìn)行炒作與夸大。那么，人工智能(AI)與機(jī)器學(xué)習(xí)(ML)到底是忽悠還是希望呢?

這里有一點(diǎn)肯定的是，未來(lái)的AI將會(huì)進(jìn)行更多彼此間的互動(dòng)，比如許多網(wǎng)絡(luò)安全工作將由它們來(lái)進(jìn)行管理，不過(guò)這不是在今天。技術(shù)有一種與預(yù)測(cè)相悖的地方，其實(shí)現(xiàn)要么比預(yù)期早得多，要么比預(yù)期晚得多。在AI技術(shù)的遠(yuǎn)古早期，人們希望它能“很快解決問(wèn)題”，但這個(gè)已經(jīng)是50年前的事了。

事實(shí)上，我們還沒(méi)有解決圖靈測(cè)試問(wèn)題:對(duì)于智人來(lái)說(shuō)，還沒(méi)有另一種智能可以與之對(duì)話(至少自從其他的人屬物種如尼安德特人、能人、直立人等滅絕之后就沒(méi)有了)。如果有一天我們能創(chuàng)造出這些會(huì)思考的機(jī)器，恐怕我們會(huì)完全放棄“人工”這個(gè)詞。

最重要的語(yǔ)義區(qū)別在于，AI是對(duì)智能連續(xù)統(tǒng)一體的認(rèn)知的追求，而不是“愚蠢”與“哈爾9000”(2001太空漫游中的殺人機(jī)器人)的二元對(duì)立。這里有一個(gè)簡(jiǎn)單的類比:房子是用很多工具建造的，其中木工工具是一組工具。但這并不意味著擁有木工工具就可以被稱為房子。推而廣之，稱ML應(yīng)用程序?yàn)锳I是不正確的，但這卻發(fā)生在安全領(lǐng)域中。有人成功的偷換了概念，并植入了AI的標(biāo)識(shí)，其實(shí)這是一個(gè)很大的錯(cuò)誤。

今天，ML正在復(fù)興并且正在蓬勃發(fā)展，盡管它其實(shí)是一系列舊工具，在任何方面都不是非常神奇。 但鑒于計(jì)算和數(shù)據(jù)無(wú)處不在，我們看到了機(jī)器學(xué)習(xí)所謂的真正華麗，實(shí)用，智能應(yīng)用的爆炸以及許多安全性，這當(dāng)是個(gè)好消息。 但壞消息是我們?nèi)匀豢吹組L在商業(yè)計(jì)劃，技術(shù)文檔和營(yíng)銷中被用作魔術(shù)語(yǔ)言。每當(dāng)使用該術(shù)語(yǔ)時(shí)，人們應(yīng)該能夠首先回答使用什么類型的機(jī)器學(xué)習(xí)(例如線性回歸，邏輯回歸，決策樹(shù)，SVM，樸素貝葉斯，K-NN，K-Means，隨機(jī)森林，降維等)。 以及它如何部署和訓(xùn)練。 這不需要ML學(xué)位，但它應(yīng)該以一般人可以理解的方式回答。

這這里也有充滿希望的地方，我們正在進(jìn)入安全領(lǐng)域“人工輔助”ML應(yīng)用的黃金時(shí)代。我們?cè)跁?huì)議上發(fā)表的演講和科幻小說(shuō)的論文中依靠“超級(jí)炒作”去解決了我們所有的問(wèn)題，而現(xiàn)在在我們得到真正有用的東西之前就已經(jīng)到了結(jié)局階段。ML在自動(dòng)化和使人類更有效的工作方面最有前途，比如惡意軟件預(yù)測(cè)、事件響應(yīng)、法醫(yī)指導(dǎo)和類似的應(yīng)用程序。盡管它們并不能神奇地解決所有問(wèn)題，但它們讓我們的網(wǎng)絡(luò)安全問(wèn)題變得容易處理得多，這會(huì)便于人類工作。

總有一天ML和AI會(huì)改變進(jìn)攻和防守的安全格局，但不是今天。不過(guò)，這項(xiàng)研究并不需要產(chǎn)生那些令人興奮的結(jié)果，因?yàn)閲@認(rèn)證、周邊控制、風(fēng)險(xiǎn)分析、漏洞管理、內(nèi)部威脅檢測(cè)、捕捉、補(bǔ)救等方面的工作越來(lái)越好。用馬克·吐溫的話來(lái)說(shuō)就是:“持續(xù)的改進(jìn)要比遲來(lái)的***要好。”