人工智能的未來到底應(yīng)該是什么樣的？它應(yīng)該朝著什么方向發(fā)展？在發(fā)展的過程中應(yīng)該注意什么？這些都是每一個關(guān)注科技發(fā)展的人在思考的問題。最近，O'Reilly Media 創(chuàng)始人兼 CEO Tim O'Reilly 在 Linkedin 上發(fā)表了一篇他采訪微軟 CEO Satya Nadella 的文章。在這個文章中，他們談?wù)摿巳斯ぶ悄艿拇蠓较蚺c未來，并就人工智能發(fā)展過程中出現(xiàn)的問題，給出了自己的看法。文章由 36 氪編譯。

[[205452]]

　　我與 Satya Nadella 見面是在今年 4 月份，是為了我的新書《WTF?What’s the Future and Why It’s Up to Us》（譯者注：2017 年 10 月 10 日發(fā)售）來采訪他。但這篇文章所想討論的大部分內(nèi)容，并不是關(guān)于我的書，而是關(guān)于 Satya 的回憶錄——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》（譯者注：2017 年 9 月 26 發(fā)售）。

　　我們都對科技的發(fā)展抱有樂觀的態(tài)度，我們堅信，人工智能帶來的挑戰(zhàn)是讓我們和社會定義什么是真正的人類。未來將會是一個人工智能強化和增強人類能力的世界，而不是讓人類變得更加無用。這就是我們對話的基礎(chǔ)。

　　Tim：你在書中提到，人工智能帶來的挑戰(zhàn)將是定義一個宏大的、鼓舞人心的社會目標。你寫道：“1969 年，肯尼迪總統(tǒng)承諾美國人要登上月球，這個目標的完成，在很大程度上要歸功于，它所帶來的巨大的技術(shù)挑戰(zhàn)，以及它所要求的全球協(xié)作。同樣，我們也需要為人工智能設(shè)定一個足夠大的目標，而且要超越任何可以通過改進現(xiàn)有技術(shù)來實現(xiàn)的目標。”我很喜歡這個想法，不知道你是否可以擴展一下。

　　Satya：如果你說，“哇，一個有視力障礙的人現(xiàn)在可以看到了……或者患有閱讀障礙的人可以閱讀了。”那將是一個真正的突破！而且，我們也能說“人工智能終于成為了一個真正帶來包容性的技術(shù)”，這將是非常有意義的，尤其是在我們談?wù)撊斯ぶ悄芸赡軙ξ覀兪澜缭斐删薮笞兏锏臅r候。相反，我們可以引導(dǎo)人工智能在我們的社會中創(chuàng)造真正的包容，并全面參與到我們社會中來。

　　這其中有很多的想法來自我孩子的經(jīng)歷。因為我有一個特殊需要的孩子，他被“鎖”住了。我總是想，“要是他能說話就好了！”因此，當(dāng)有人談到“腦機連接”時，我會說，“哇，現(xiàn)在想想這能做什么！”

　　在一個我們要創(chuàng)造這種技術(shù)的世界中，我們甚至可以說：“這是終極技術(shù)”，這是通往超級智能的道路，指導(dǎo)我們的設(shè)計原則是每一件事情，指導(dǎo)我們的道德哲學(xué)也是每一件事情。在某種意義上，我們必須做出的最大的路徑依賴性決策將是“誰來設(shè)計超級智能”？

　　Tim：我自己書中的一個章節(jié)叫做“我們的天網(wǎng)時刻”。我的觀點是，人工智能的中一個方面我們談?wù)摰貌粔蚨?，那就是，它可能是一個集體智慧。我們正在利用搜索引擎、社交媒體和金融市場構(gòu)建集體智慧機制。而且我們已經(jīng)表明了我們所說的這些人工智能，是為了優(yōu)化人們的利益。

　　Satya:沒錯。盡管我們有各種各樣的認知偏見，但人類還是有很大的優(yōu)勢。正如 Herbert Simon 所說，我們不再優(yōu)化的時候，我們就滿足了。這實際上是有幫助的。有一種滿足是由我們共同的道德基礎(chǔ)所驅(qū)動的?，F(xiàn)在，當(dāng)你說，“這是一個應(yīng)該優(yōu)化的問題”，也就是人工智能，那么我們就有問題要去解決了。

　　Tim：你也談到了增強人類的能力、經(jīng)驗和智力。你說你想要專注于人類的天賦，比如創(chuàng)造力，同情心，情感，身體，洞察力等等，它們可以和人工智能混合在一起。

　　Satya：假設(shè)有大量的“人工智能”，那么稀缺的商品就是真正的智慧。然后你會說，“什么是真正的智慧？”

　　真正的智慧將會在最具人性的品質(zhì)中找到，那就是同情和憐憫之心，而那些將是最重要的東西。在我們真正找到如何將其嵌入某些機器之前，我們必須將其與人類結(jié)合起來。

　　我們必須思考，教育應(yīng)該對人類有什么樣的影響。有了人工智能，也許你真的不需要學(xué)習(xí)傅里葉變換。你也可以去做培養(yǎng)正念，你可能想要培養(yǎng)同情心。這就是我所說的一點。所有人都有一種強迫癥，每個人都需要接受教育，這是事實。但是，我們是不是過分強調(diào)了 STEM（Science，Technology，Engineering，Mathematics）？

　　Tim：在我的職業(yè)生涯中，有一個概念一直在發(fā)揮作用，Clayton Christenson（當(dāng)今最具影響力的商業(yè)理論家之一）曾說過一個叫做 “高利潤守恒定律”（The Law of Conservation of Attractive Profits）的東西，即當(dāng)一個原本價值很高的東西商品化之后，緊挨著它的東西突然間就會變得值價起來。我第一次聽到這個是在 2004 年左右。他和我在同一個會議上進行了交談。我在演講中談到了微軟是如何取代 IBM 的:PC 硬件成為了一種商品，軟件變得有價值。我的觀點是，開源將使軟件商品化，而其他東西將變得有價值。最終我意識到這個“其他東西”將是大數(shù)據(jù)。Clay 在談?wù)撍P(guān)于高利潤守恒定律的想法，我意識到，“我們說的是同一件事。”這項定律也完全適用于人工智能。由于人類認知的機械部分被人工智能商品化，人類獨有的部分將變得更有價值。

　　Satya：這是一個很好的說法。

　　Tim：所以在未來的經(jīng)濟中，有很多基于關(guān)懷以及創(chuàng)造力的機會。創(chuàng)意經(jīng)濟不只有藝術(shù)和文化。每當(dāng)產(chǎn)品成為一種商品的時候，我們就會找到新的方法，通過將它們與人類的創(chuàng)造力結(jié)合起來，使它們變得有價值。

　　Satya：事實上，這基本上是我們的一種癡迷，對吧？當(dāng)我在看《我的世界》這一代人時，或者你甚至可以說是 Snapchat 一代人……對我來說，這一代人最鼓舞人心的一點是，它是關(guān)于創(chuàng)造、故事的瘋狂的看法。在《我的世界》中，男孩和女孩都在創(chuàng)造一些不存在的世界，只有他們的想像力。

　　這就是我想要打造的一代。甚至在最新的 Windows 版本中。我們購買了每天有 1 億人使用的產(chǎn)品——Microsoft Paint，并說：“讓我們?yōu)?3D 創(chuàng)作做出絕對驚人的創(chuàng)意畫布”。因為，在一個現(xiàn)實增強和混合現(xiàn)實的世界里，這就會成為現(xiàn)實。

　　Tim：你也談到了對大量數(shù)據(jù)進行處理的能力，以及更快地進行模式識別。在人工智能的發(fā)展過程中，有一種創(chuàng)造力被表達出來。你如何看待人工智能增強創(chuàng)意的過程？并提出創(chuàng)造性的方法來解決問題。

　　Satya：傳統(tǒng)的寫作工具不過是在拼寫、語法和短語糾正上面提供幫助，現(xiàn)在我們在其中添加了人工智能，它們就成了完整的寫作輔助工具。我們正處于這樣的境地，你可以說，“我想寫得像 Faulkner（美國小說家，曾獲 1949 年諾貝爾文學(xué)獎）一樣，”它會開始說，“這是你可能想做的事情。”

　　我沒有上過寫作學(xué)校，我只上過工程學(xué)院，但我夢想成為一名偉大的作家，我需要這種人工智能來幫助我。

　　我之所以能做到這一點，是因為我看到了中國的小冰，也就是我們的對話機器人，包括人們對它的討論，以及在某一特定時段里的話題和問題的數(shù)量。更多的原因是人們需要交談。人們在表達他們最深刻的想法。我當(dāng)時說，“哇，這就是人工智能能夠產(chǎn)生移情作用的地方。”

　　Tim：我們之前也討論過人工智能成為第三個運行時的想法。讓我們來討論一下這個問題以及它是如何發(fā)生的。

　　Satya：我們最后一次討論的時候，我是這么說的：“PC 或手機操作系統(tǒng)是第一個運行時，第二個是瀏覽器和網(wǎng)絡(luò)，第三個是使用私人助手，它了解你，了解世界，了解環(huán)境，并在幫助你。”

　　然后我們說，“好吧，如果你同時進行思考、感知，最終采取行動，那么這三個運行時就在那里。”這個助手本質(zhì)上體現(xiàn)了你思維的擴展，你知覺的增強，語音是一個，視覺是另一個，并且可以直接采取行動。這就是終極的運行時，對吧？

　　這就是為什么在我的書中，我試著寫這三件事:

　　1）終極計算體驗是什么？最終的計算體驗是與計算結(jié)合在一起的真實世界。這是混合現(xiàn)實。

　　2）這將要求人工智能在感知、認知和行動方面取得突破。

　　3）然后我稍微有點離題了，說，“如果你想要創(chuàng)造那種計算能力，你必須打破馮諾依曼架構(gòu)和經(jīng)典計算的束縛。”

　　我們能聊聊量子計算機嗎？這就是我寫的第三件事。

　　Tim：我有點驚訝于量子計算在你的書中占了這么大的篇幅。

　　Satya：進步是真實的——我的意思是，我們已經(jīng)深陷其中。但問題是，它會以多快的速度成為現(xiàn)實。我不知道。但它不再是“哇，有可能嗎？”之類的驚嘆。

　　Tim：你書里很重要的一句話是：“我們想要的不僅僅是智能機器，還有能夠理解的機器。”這是當(dāng)前人們對人工智能的一大擔(dān)憂，我們不會真正理解他們是如何得出結(jié)論的。當(dāng)然，這也適用于人類。因為我們傾向于只關(guān)注人類思想的理性一面，所以我們沒有意識到，我們做了多少事情對我們來說，也是完全無法理解的。所以，這可以說是理性主義者的最后一聲吶喊。

　　Satya：當(dāng)然。但我有兩種方式可以規(guī)避風(fēng)險。一是問責(zé)制。“當(dāng)你是一名設(shè)計師，你創(chuàng)造了人工智能，你需要負責(zé)任的時候，會發(fā)生什么？”Tay 的整個經(jīng)歷確實對我們的思考產(chǎn)生了很大的影響。事實上，這是一種瘋狂的做法，因為好多人都針對它，并為它提供訓(xùn)練數(shù)據(jù)，這些數(shù)據(jù)可能會劫持算法。這是誰的責(zé)任？我敢說這是我們的。這是我們的責(zé)任。

　　Tim：嗯，很明顯這是 Facebook 和假新聞問題。我與安全研究人員進行了非常有趣的對話，討論如何愚弄自動駕駛汽車。你怎么能通過創(chuàng)造他們會在視覺領(lǐng)域誤解的東西來入侵他們呢？但現(xiàn)實社會中，將會有各種各樣的敵對干預(yù)。我們還需要設(shè)計更強大的人工智能。

　　Satya：當(dāng)人們說：“哦，人類，這些 DNN（深層神經(jīng)網(wǎng)絡(luò)）是神奇的。它們只是在做一些事情，我們甚至不知道“…我同意這句話背后的真相，但是關(guān)于層數(shù)和權(quán)重的選擇——在它們的學(xué)習(xí)過程中，人類是做出了很多決定的。我們不應(yīng)該這么快就放棄這些我們創(chuàng)造出來的算法，我們應(yīng)該對它們做出的決定負責(zé)。我想我會說，“好吧，在人工智能中，編程的道德標準是什么？”

　　注：訪談有刪減。