近年來(lái)，公眾對(duì)人工智能的倫理問(wèn)題討論得如火如荼，前不久剛結(jié)束的中國(guó)計(jì)算機(jī)大會(huì)(CNCC)分論壇上也開(kāi)設(shè)了“人工智能開(kāi)發(fā)的道德邊界”相關(guān)主題討論。

[[285165]]

一時(shí)之間，各種言論甚囂塵上。

大家充滿(mǎn)了各種擔(dān)憂(yōu)：“機(jī)器人會(huì)占據(jù)人類(lèi)的工作”、“電腦系統(tǒng)和人類(lèi)一樣充滿(mǎn)偏見(jiàn)”……

我們?yōu)槭裁床凰伎家幌?，為什么機(jī)器學(xué)習(xí)或者人工智能比其他技術(shù)更危險(xiǎn)呢?

的確，目前公眾對(duì)于人工智能倫理問(wèn)題的討論至關(guān)重要，且非常合乎時(shí)宜，因此有必要繼續(xù)探討下去。但是熱心市民小芯唯一希望的是，在討論技術(shù)倫理問(wèn)題時(shí)切忌隨意冠上“人工智能”的頭銜，因?yàn)橛袝r(shí)某些問(wèn)題與人工智能根本不沾邊。

目前有關(guān)人工智能倫理問(wèn)題的討論并未抓住要領(lǐng)

最近，小芯從世界經(jīng)濟(jì)論壇(World Economic Forum)上讀到一篇文章，題為《人工智能九大倫理問(wèn)題》。以下基于此文，小芯將進(jìn)行一項(xiàng)實(shí)驗(yàn)。(在此需要聲明一下，小芯對(duì)于此論壇并沒(méi)有任何批評(píng)或諷刺的意思，反而非常喜愛(ài))

公眾在探討人工智能的倫理問(wèn)題時(shí)，涉及的大多數(shù)問(wèn)題并非人工智能所獨(dú)有。實(shí)際上，廣義上的技術(shù)都存在這樣的問(wèn)題，因此并不稀奇。

在這篇文章中，選取其小標(biāo)題，然后把其中出現(xiàn)的“人工智能”、“機(jī)器人”、“機(jī)器”、“智能系統(tǒng)”和“人工”之類(lèi)的詞語(yǔ)全部換成“技術(shù)”一詞，再看看能發(fā)現(xiàn)什么。

在這“九大倫理問(wèn)題”中，有多少是人工智能所特有的?

1. 未來(lái)人類(lèi)找不到工作怎么辦?

2. 技術(shù)創(chuàng)造的財(cái)富該如何分配?

3. 技術(shù)將如何影響人類(lèi)的行為與交流?

4. 如何降低技術(shù)的失誤率?

5. 如何消除技術(shù)偏見(jiàn)?

6. 如何避免技術(shù)用于非正當(dāng)目的?

7. 如何防止技術(shù)帶來(lái)預(yù)料之外的后果?

8. 人類(lèi)如何掌控好復(fù)雜技術(shù)?

9. 如何界定技術(shù)的“人權(quán)”問(wèn)題?

很明顯，問(wèn)題1至8只涉及廣義上的技術(shù)，當(dāng)然也包括普通軟件。此文之所以使用“人工智能”一詞，其實(shí)是為了引起公眾的閱讀興趣;這也讓小芯想起了地質(zhì)學(xué)家常用的一種教學(xué)工具——寵物石(Pet Rocks)。如果寵物石只是為了增加課堂的趣味性，那么當(dāng)然可以接受。但是，如果地質(zhì)課成了“寵物石心理學(xué)”，那就完全變味了(問(wèn)題9)。

[[285166]]

在某個(gè)物體上畫(huà)一張臉，很快又開(kāi)始與其談話(huà)。實(shí)際上，這是人類(lèi)“功能失常”的一種表現(xiàn)，因?yàn)閮H有一張臉并不意味著它就有頭腦。

如果想要人類(lèi)遭受更多的不公平待遇、不斷推出無(wú)效的解決方案、擾亂勞動(dòng)市場(chǎng)的秩序、改變?nèi)祟?lèi)的交流方式、將后患無(wú)窮的事物交由惡人之手，并且創(chuàng)造出一個(gè)人類(lèi)自己都無(wú)法掌控和擺脫的復(fù)雜系統(tǒng)，想要完成這些其實(shí)根本不需要機(jī)器學(xué)習(xí)或者是人工智能(但是請(qǐng)不要這樣做)。并且，如果想要探討以上行為對(duì)人類(lèi)世界所產(chǎn)生的影響，我們也沒(méi)必要求助于“大數(shù)據(jù)”或者“神經(jīng)網(wǎng)絡(luò)”之類(lèi)的高深概念。

技術(shù)奇點(diǎn)?(這一觀(guān)點(diǎn)還有待考證，因此給其頒發(fā)星云獎(jiǎng)有點(diǎn)操之過(guò)急)

那有什么特點(diǎn)是機(jī)器學(xué)習(xí)或者人工智能所獨(dú)有的呢?的確有!是《技術(shù)奇點(diǎn)》(The Singularity)理論嗎?切莫操之過(guò)急，別這么快給《技術(shù)奇點(diǎn)》頒發(fā)星云獎(jiǎng)。目前所謂的機(jī)器學(xué)習(xí)或者人工智能其實(shí)還有許多其它的重要特點(diǎn)，而這些特點(diǎn)更加需要及時(shí)澄清。

[[285167]]

如圖所示，這其實(shí)就是另一個(gè)“寵物石”的例子。這一模擬的確更加真實(shí)，但是盡管如此，它也不過(guò)是一個(gè)畫(huà)著人臉、卻沒(méi)有生命的物體而已。

人工智能 V.S. 機(jī)器人

人工智能到底好在哪里?

答案很簡(jiǎn)單，即人工智能能夠自動(dòng)處理無(wú)法用語(yǔ)言表述的任務(wù)。

換言之，人類(lèi)不再需要親自去尋找某一問(wèn)題的解決方案，只需要使用數(shù)據(jù)中的模式即可。

你們知道這一方法有多么強(qiáng)大嗎?

這意味著人類(lèi)不再需要寫(xiě)出各種指令，也能夠讓電腦自動(dòng)完成任務(wù)。除此之外還能別有所求?想讓人工智能有“人性”?完全取代人類(lèi)?技術(shù)奇點(diǎn)?

別想太多，人工智能其實(shí)與這些沒(méi)什么關(guān)系。目前，人工智能被包裝成一個(gè)“全副武裝”的人形機(jī)器人，這完全是利用了公眾的無(wú)知，擾亂公眾視線(xiàn)，使其忽視真正的危險(xiǎn)所在。

機(jī)器人不過(guò)是又一種“寵物石”而已。比如，可以試試在自家的吸塵器上貼兩個(gè)大眼睛貼紙(我知道你挺想這么做的)，效果其實(shí)是一樣的。

因此，如果大家還在杞人憂(yōu)天，為沒(méi)必要的事情發(fā)愁，那么我們將忽略掉真正值得擔(dān)憂(yōu)的地方。千萬(wàn)別被技術(shù)詩(shī)人騙了。

神經(jīng)網(wǎng)絡(luò)不等同于人類(lèi)大腦。

目前所謂的人工智能，并不是為了開(kāi)發(fā)出具有人格的人形實(shí)體來(lái)取代人類(lèi)(其實(shí)這類(lèi)機(jī)器人有一個(gè)更加貼切的術(shù)語(yǔ)來(lái)描述，即HLI人形智能)。實(shí)際上，人工智能只是一系列的編程工具，只不過(guò)它用了一種不同的編寫(xiě)方式，即使用實(shí)例(數(shù)據(jù))而非明確指令進(jìn)行編程。

“人工智能是使用實(shí)例(數(shù)據(jù))，而非明確指令進(jìn)行編程的工具。”

想要了解人工智能的發(fā)展前景如何嗎?人工智能的潛在風(fēng)險(xiǎn)又有哪些呢?再仔細(xì)揣摩一下上一句引言，其實(shí)這兩個(gè)問(wèn)題在其中皆有體現(xiàn)。

專(zhuān)注度的轉(zhuǎn)變

假設(shè)需要對(duì)一項(xiàng)含有10000個(gè)步驟的任務(wù)進(jìn)行自動(dòng)化處理。如果使用傳統(tǒng)的編程方式，人類(lèi)必須絞盡腦汁地寫(xiě)出每一步指令。

在傳統(tǒng)的編程過(guò)程中，每一步解決方案都必須由人類(lèi)明確編寫(xiě)出來(lái)。

為此，可以把這一過(guò)程比作成人類(lèi)用雙手拼裝一萬(wàn)塊樂(lè)高積木。由于開(kāi)發(fā)者自己也沒(méi)什么耐心，因此他們會(huì)把一些部分打包在一起，如此一來(lái)下次使用時(shí)就無(wú)需重復(fù)組裝了。

于是，人們也不再需要單獨(dú)處理這一萬(wàn)個(gè)積木塊，而是從網(wǎng)上下載已創(chuàng)建好的安裝包。這時(shí)，人們就可以更加專(zhuān)心地進(jìn)行下一步工作，即再將50個(gè)分別由200個(gè)小方塊組成的構(gòu)件繼續(xù)拼裝在一起。如果人們充分信任已經(jīng)由別人提前拼裝好的樂(lè)高組件，那么就不必再費(fèi)心去檢查每一個(gè)積木塊的細(xì)節(jié)。

因此，人們只需將屋頂與墻體整個(gè)拼在一起，而無(wú)需再仔細(xì)考慮一磚一瓦。再說(shuō)了，又有誰(shuí)有這么多閑工夫來(lái)干這些瑣事呢?(或許在拼裝結(jié)束之后，也可以把這個(gè)由一萬(wàn)塊積木搭建起來(lái)的杰作打包起來(lái)，等到有人要完成十萬(wàn)塊積木搭建的創(chuàng)舉時(shí)，他們也可以隨時(shí)復(fù)制這一安裝包，從而大大地節(jié)省時(shí)間。毋庸置疑，這一切都應(yīng)該歸功于GitHub平臺(tái))

[[285168]]

但是問(wèn)題又來(lái)了：即使人們?cè)僖膊挥糜H自去完成每一步，但是要知道，這10000步中的每一個(gè)指令都曾是由人類(lèi)千辛萬(wàn)苦編寫(xiě)出來(lái)的……機(jī)器學(xué)習(xí)或者人工智能的區(qū)別就在這里。

機(jī)器學(xué)習(xí)把人類(lèi)從高度專(zhuān)注的狀態(tài)帶到疏忽的狀態(tài)。

在機(jī)器學(xué)習(xí)和人工智能工程領(lǐng)域需要處理各種各樣的問(wèn)題，但主要還是整合處理各種工具。人們可能需要為某個(gè)項(xiàng)目編寫(xiě)一萬(wàn)行的代碼，并且大部分代碼都是為了誘導(dǎo)這些笨拙的工具接受指令。隨著工具的逐步改良，最終在機(jī)器學(xué)習(xí)或者人工智能里將只有兩個(gè)真正的指令，即：

1. 優(yōu)化目標(biāo)……

2. ……基于數(shù)據(jù)集。

僅此而已?，F(xiàn)今，人類(lèi)不再需要編寫(xiě)成千上萬(wàn)行的代碼，而只需使用兩個(gè)語(yǔ)句就足以自動(dòng)完成任務(wù)。這聽(tīng)起來(lái)的確很美好，實(shí)際上卻危機(jī)四伏。

人工智能會(huì)取代哪些人的工作?

在現(xiàn)實(shí)生活中，有一些任務(wù)非?，嵥椋虼送耆梢杂脵C(jī)器來(lái)完成它們，再不必人類(lèi)費(fèi)心。于是，人類(lèi)做事的效率也會(huì)顯著提高。雖然人類(lèi)自己不知道怎么做，但在機(jī)器的幫助下他們可以高效完成任務(wù)。正是因?yàn)槿绱?，那些沒(méi)有被科幻電影中的場(chǎng)景蒙蔽雙眼的人，才會(huì)愈加推崇機(jī)器學(xué)習(xí)和人工智能。

此后，人類(lèi)將不再需要為編寫(xiě)數(shù)萬(wàn)步解決方案而殫精竭慮。通過(guò)從開(kāi)發(fā)者提供的實(shí)例中找出解決方案，機(jī)器學(xué)習(xí)和人工智能將能夠自動(dòng)生成這一萬(wàn)行代碼(或者與之類(lèi)似的事物)。

基本區(qū)別在于專(zhuān)注度的不同。

如果你從未想過(guò)機(jī)器學(xué)習(xí)或者人工智能會(huì)取代哪些人的工作，那么接下來(lái)最好扶好下巴，準(zhǔn)備迎接這一事實(shí)：

開(kāi)發(fā)者會(huì)自動(dòng)化/加速其他人的工作。

機(jī)器學(xué)習(xí)和人工智能會(huì)自動(dòng)化/加速開(kāi)發(fā)者的工作。

因此，以后再也不必費(fèi)力編寫(xiě)各種指令，比如“首先這個(gè)，然后這個(gè)，然后這個(gè)，然后……”;現(xiàn)在只需說(shuō)一句：“基于這些數(shù)據(jù)，獲得一個(gè)最優(yōu)分?jǐn)?shù)。”說(shuō)的更通俗一點(diǎn)，“這是我喜歡的東西，如果你們這些打字機(jī)上的猴子(代指開(kāi)發(fā)者)拿到了這個(gè)東西，立馬告訴我。”

[[285169]]

(不必?fù)?dān)心，算法在處理某些數(shù)據(jù)集之前，這些數(shù)據(jù)集還需要經(jīng)過(guò)大量的整合工作，因此軟件工程師們也不必為失業(yè)而擔(dān)憂(yōu)。唯一改變的是他們的工作方式，因?yàn)橹笆峭ㄟ^(guò)指令來(lái)告訴計(jì)算機(jī)如何做，現(xiàn)在則需要輸入數(shù)據(jù)。)

不可避免的人類(lèi)疏忽

現(xiàn)在，有必要引出機(jī)器學(xué)習(xí)和人工智能獨(dú)有且最緊迫的問(wèn)題：人類(lèi)不可避免的疏忽。

當(dāng)危及到人類(lèi)的生死安危時(shí)，人工智能的疏忽將是一個(gè)巨大的風(fēng)險(xiǎn)。到時(shí)候，機(jī)器學(xué)習(xí)和人工智能將會(huì)變成一個(gè)“疏忽放大器”。

在這時(shí)，雖然決策者的選擇事關(guān)緊要，但是管理這一項(xiàng)目的人真的會(huì)像編寫(xiě)那5000個(gè)指令一樣認(rèn)真仔細(xì)地組織這兩行語(yǔ)句嗎?真的會(huì)嗎?

還有哪方面沒(méi)有考慮到呢?

實(shí)例的選擇

機(jī)器學(xué)習(xí)和人工智能用實(shí)例來(lái)表達(dá)自己的意圖，因此需要將數(shù)據(jù)集輸入系統(tǒng)。然而，如果人們沒(méi)有提前對(duì)這些數(shù)據(jù)進(jìn)行核實(shí)和處理，沒(méi)有分清楚哪些是有關(guān)的，哪些是存在偏見(jiàn)的，哪些又是高質(zhì)量的實(shí)例，那么后果將不堪設(shè)想。

人工智能的偏見(jiàn)：不合適的實(shí)例，未經(jīng)核實(shí)。

[[285170]]

目標(biāo)的選擇

此外，人們也可能隨意選擇一個(gè)目標(biāo)，這個(gè)目標(biāo)聽(tīng)起來(lái)挺好，實(shí)際上卻糟糕透頂。例如，一個(gè)領(lǐng)導(dǎo)對(duì)他的開(kāi)發(fā)人員說(shuō)：“幫我攔截盡可能多的垃圾郵件，”并且期待他能夠開(kāi)發(fā)出一個(gè)靈敏可靠的過(guò)濾器。然而，如果把同樣的指令對(duì)人工智能算法說(shuō)一遍，領(lǐng)導(dǎo)可能很快就會(huì)發(fā)現(xiàn)，最近怎么都沒(méi)有收到新郵件呢?(原來(lái)是，根據(jù)給定的目標(biāo)，標(biāo)記每一封郵件都為垃圾郵件才能獲得最高分?jǐn)?shù))

傻子都能隨口說(shuō)出一個(gè)目標(biāo)。然而不幸的是，學(xué)習(xí)系統(tǒng)會(huì)堅(jiān)持完成這一目標(biāo)。

“頭腦”和“數(shù)學(xué)”這兩個(gè)詞非常模糊而隱晦，而這或?qū)⒔o人類(lèi)帶來(lái)更大的風(fēng)險(xiǎn)。因?yàn)樾⌒菊J(rèn)為，這種模糊感會(huì)使人們?cè)谶x擇目標(biāo)和實(shí)例時(shí)變得過(guò)于大意和草率。最后，不過(guò)是人類(lèi)自己的頭腦在掌控一切。所謂的數(shù)學(xué)，也就淪為了一塊三明治，人類(lèi)的主觀(guān)意識(shí)是那兩塊面包，而真正客觀(guān)的數(shù)學(xué)不過(guò)是夾在中間那薄薄的一層黃油。

數(shù)學(xué)就像一塊三明治，主觀(guān)之間夾著一點(diǎn)點(diǎn)客觀(guān)。

隨著人工智能這種工具變得越來(lái)越先進(jìn)，進(jìn)入的門(mén)檻也逐漸降低;然而即使門(mén)檻再低，人類(lèi)也不可避免地會(huì)栽一個(gè)大跟頭。技術(shù)的改善對(duì)于小型的私人項(xiàng)目來(lái)說(shuō)當(dāng)然是好事，但是如果某一人工智能項(xiàng)目的進(jìn)行將會(huì)影響到其他人，那么在這個(gè)時(shí)候，項(xiàng)目管理者必須花費(fèi)更多的心思來(lái)進(jìn)行管理。此時(shí)，必須要有一位卓越的領(lǐng)導(dǎo)者站出來(lái)，對(duì)一系列問(wèn)題作出明智的決策。比如，我們真的準(zhǔn)備好迎接風(fēng)險(xiǎn)和挑戰(zhàn)了嗎?

[[285171]]

“給我一個(gè)支點(diǎn)，我能翹起整個(gè)地球。”——阿基米德(Archimedes)

科技——一根偉大的杠桿

科技能讓世界變得更美好，開(kāi)闊人類(lèi)的視野，延長(zhǎng)人類(lèi)的壽命，并且即使在人口爆炸的時(shí)代，科技也能讓人類(lèi)豐衣足食。

然而，科技同樣會(huì)給人類(lèi)帶來(lái)恐慌、動(dòng)蕩與混亂。某一技術(shù)的影響力越大，其潛在的破壞性也越大?？萍既缤桓軛U，它能大大提高人類(lèi)的潛能。

但切記，在利用科技造福人類(lèi)時(shí)，必須要小心!因?yàn)樽约涸谙硎苣骋患夹g(shù)時(shí)，很容易就會(huì)影響到周?chē)鷦e人。

在利用某一技術(shù)(包括人工智能)時(shí)，最好把它看作是人類(lèi)的輔助工具，而非獨(dú)立自主的個(gè)體。在享受科技帶來(lái)的便利時(shí)，千萬(wàn)不要影響到其他人。

當(dāng)我們?cè)谙硎芸萍紟?lái)的便利時(shí)，很容易就會(huì)影響到其他人。

雖然許多圍繞人工智能倫理的問(wèn)題都不是人工智能所特有的，但是人工智能也可能會(huì)往傷口上撒鹽。因此，目前關(guān)于這些問(wèn)題的討論仍然熱度不減。

人類(lèi)的疏忽將被無(wú)限放大

如果有人問(wèn)我：“你害怕人工智能嗎?”我真正聽(tīng)到的其實(shí)是“你害怕人類(lèi)的疏忽嗎?”對(duì)我來(lái)說(shuō)，這才是問(wèn)題的根本所在，因?yàn)槲也幌嘈趴苹霉适轮械臋C(jī)器人，也不會(huì)去與寵物石談話(huà)。

再見(jiàn)!人工智能的倫理道德!

你好!人類(lèi)的疏忽!

回到本文開(kāi)頭的那九個(gè)小標(biāo)題，試想一下，不斷擴(kuò)大那些標(biāo)題中場(chǎng)景的影響范圍和速度。然后，再往那個(gè)天平上放一個(gè)人類(lèi)的“疏忽放大器”;很快，人類(lèi)因疏忽大意而產(chǎn)生的后果將被無(wú)限放大。

人類(lèi)應(yīng)該畏懼人工智能的地方并不是機(jī)器人，而是人類(lèi)本身。

俗話(huà)說(shuō)，能力越大，責(zé)任越大。然而，在如今這個(gè)人工智能和大數(shù)據(jù)的時(shí)代，人類(lèi)真的準(zhǔn)備好迎接挑戰(zhàn)，承擔(dān)起領(lǐng)導(dǎo)責(zé)任了嗎?毋庸置疑，人類(lèi)自己也擔(dān)心被科技反噬。

問(wèn)小芯害怕人工智能嗎?

當(dāng)然不怕!

小芯愛(ài)慘了人工智能，并且作為一個(gè)樂(lè)觀(guān)主義者，對(duì)于人工智能引領(lǐng)的未來(lái)充滿(mǎn)期待。

小芯相信，在人工智能的時(shí)代，大家都會(huì)重視責(zé)任、擔(dān)當(dāng)與領(lǐng)導(dǎo)力的價(jià)值。那時(shí)，人類(lèi)將能夠建造出安全高效的系統(tǒng)，從而為全人類(lèi)帶來(lái)科技的進(jìn)步以及更加美好的生活。

而這，也是為什么小芯(和志同道合的大家)一直在不遺余力地同大家分享有關(guān)人工智能、互聯(lián)網(wǎng)等各種技術(shù)知識(shí)和咨詢(xún)。

當(dāng)人類(lèi)摘掉了矮枝條上的果實(shí)之后(即解決了簡(jiǎn)單的問(wèn)題)，就需要利用人工智能來(lái)解決更加艱巨的問(wèn)題。

希望可以通過(guò)合理地利用人工智能，人類(lèi)能夠保護(hù)資源，甚至?xí)秤涡呛?，將?ài)傳遞，跨越山海，無(wú)知與疾病也將永遠(yuǎn)不復(fù)存在。

科技可以很美好，這取決于我們?nèi)祟?lèi)。小芯始終相信，科技的美好和溫暖，人人都是其見(jiàn)證者與創(chuàng)造者。

人類(lèi)與人工智能協(xié)作，自然與科技共生的美好未來(lái)在召喚我們!