[[419993]]

文/陳杰

人工智能技術一直是當前科技領域的熱點，不論是從圖像分析到自然語言理解，再到科學領域。得益于神經網絡的“深度”變革，以大量數據和算法加持的算力去處理復雜的數據已成為日常，而這在過去是無法想象的，背后則是人工智能技術突飛猛進發(fā)展的必然結果。

在刷臉、自動駕駛、智慧家庭等各種人工智能應用場景紛紛落地日常生活的當下，從消費者的視角來看，人工智能已經讓生活變得更美好了，但這一技術是否已經足夠強大了呢？學術界的答案卻恰恰相反——當前的人工智能技術在安全可靠方面其實完全不夠看！

人工智能并沒有那么可靠

在日前召開的首屆“青年科學家50²論壇”上，清華大學教授朱軍對正在高速發(fā)展的人工智能產界潑出一盆冷水：今天的人工智能遠遠算不上完美。首先是深度學習仍然面臨著魯棒性差的問題，比如很多手機都會配備人臉識別方案，但通過一副打印了特殊紋理圖案的眼鏡，就能輕松解鎖很多手機；再說到安全需求更高的自動駕駛系統(tǒng)，黑客們只需要在標識牌上加上特定圖案，就能讓系統(tǒng)將限速標識識別為停止標識，導致致命事故的發(fā)生……

這些看似非常符合人們直覺或者是常見的問題，放到很智能的系統(tǒng)面前，卻會出現錯誤的結果，背后的原因是什么？

“這里面一個關鍵的問題，是現在的人工智能技術‘不知道自己不知道’。”朱軍表示，人類都能夠遵循“知之為知之，不知為不知，是知

也”的道理，但當前的人工智能主流技術，絕大部分都欠缺這種能力。比如在一個很多貓和狗照片的比對系統(tǒng)中放一張人工智能還不知道的蘋果照片，讓人工智能來分析這是什么，結果答案要么是貓，要么是狗，而這只取決于這張?zhí)O果照片和貓、狗哪個更相似一些。

不用懷疑人工智能的學習能力，但確實缺乏“知道自己不知道”的能力。學術界認為，一個人工智能系統(tǒng)如果知道自己“不知道”，其實代表著其有更高的智能水平。“具體來說，在現實世界里存在兩種不確定性會影響到人工智能對此的認知，一種是比較直觀的環(huán)境和數據的不確定性導致的信息采集不完全；另一種則是更抽象的、更難以被感知的信息，這種模型的不確定性，讓大數據的模型存在歧義，讓人工智能在訓練時也許表現得非常好，但是測試上就會發(fā)現性能距離很大。”朱軍表示，目前的解決思路是更深入地研究貝葉斯智能理論，解決如何定量、客觀地計算這種不確定性，得到最優(yōu)的結果。推動貝葉斯智能理論研究的深化，則需要產學研界的共同努力。

安全是必須跨越的鴻溝

人工智能的概念產生最早可追溯到1956年的達特茅斯會議，但直到近十年來這一領域才真正地深刻改變了大眾生活，甚至攻克了多種人類世界的頂級挑戰(zhàn)，比如戰(zhàn)勝圍棋頂級選手、預測蛋白質結構、擊敗人類飛行員等等。但目前來看，當前的人工智能技術不僅在可靠性方面存在很大問題，安全和可信方面也開始進入瓶頸期。

8月3日，在首屆全球數字經濟大會的人工智能產業(yè)治理主題論壇上，中國科學院院士張鈸拋出了一個觀點：當前人工智能的安全治理是迫在眉睫的，隨著技術潛入到“深水區(qū)”，研究發(fā)現，人工智能的算法存在一些根本性的問題，本身就帶有不安全性，容易受到攻擊。“人工智能技術所面臨的安全問題是非常特殊的，其問題不在于設計，而是源自算法本身的不安全性。這種算法的不安全性，是由第二代人工智能所引起的。”

“學術界已經開始思考技術下一步的發(fā)展方向，新一代人工智能的發(fā)展路徑是融合第一代的知識驅動和第二代的數據驅動的人工智能，同時利用知識、數據、算法和算力等4個要素，建立新的可解釋和魯棒的人工智能理論與方法，發(fā)展安全、可信、可靠和可擴展的人工智能技術。”朱軍表示，“安全可靠”作為第三代人工智能的核心發(fā)展目標逐漸成為共識，數據與算法安全也成為學界和業(yè)界人士重點關注的研究主題之一。