在人工智能呈現(xiàn)一番欣欣向榮的景象之時(shí)，這項(xiàng)技術(shù)的問(wèn)題和潛在威脅也正在顯現(xiàn)。是時(shí)候認(rèn)真探討一下AI技術(shù)的“價(jià)值觀”問(wèn)題了。

很多人最近一定注意到，有關(guān)AI的負(fù)面新聞?lì)l頻上頭條，而且還帶有很強(qiáng)的魔幻色彩。

11月20號(hào)，韓國(guó)13歲的天才圍棋少女金恩持承認(rèn)了她在9月底的一場(chǎng)在線(xiàn)圍棋比賽中作弊，使用了AI推薦的棋譜，約等于斷送了自己的職業(yè)生涯。11月27日，伊朗核武器專(zhuān)家法赫里扎遭到一挺由AI控制的自動(dòng)機(jī)槍的襲擊而身亡，這意味著精準(zhǔn)的人臉識(shí)別技術(shù)作為AI武器已經(jīng)參與到人間的殺戮當(dāng)中。

說(shuō)回國(guó)內(nèi)，前一段時(shí)間有人帶頭盔去售樓處看房，就是為避免被房地產(chǎn)商進(jìn)行精準(zhǔn)的人臉識(shí)別而被，當(dāng)做“熟客”來(lái)“宰殺”，人臉識(shí)別濫用問(wèn)題已擺在我們面前。

更荒誕的是，最近曝出一個(gè)房產(chǎn)中介就利用政府機(jī)構(gòu)的在線(xiàn)服務(wù)的流程流動(dòng)，輕而易舉地讓售房者在不知情的狀況下通過(guò)人臉識(shí)別系統(tǒng)把房子過(guò)戶(hù)給了買(mǎi)家，自己套取了交易款。原本為民提供便利的AI服務(wù)成了別有用心者的幫兇。

“殺人者人也，非刀也”，這是我們?yōu)?ldquo;工具無(wú)道德價(jià)值”做辯護(hù)的古老理由，也是人類(lèi)確證自己具有獨(dú)一無(wú)二的道德價(jià)值的傲嬌說(shuō)辭。

同樣這一理由似乎也可以為上面這些AI的負(fù)面案例做解釋?zhuān)梢哉f(shuō)這里的AI技術(shù)也都只是人類(lèi)應(yīng)用的工具，真正始作俑者的還是人類(lèi)。

這樣說(shuō)似乎無(wú)可厚非，正如一切技術(shù)的發(fā)明帶給人類(lèi)巨大福祉的同時(shí)也可能帶來(lái)可能的災(zāi)禍一樣，反之亦然。比如諾貝爾發(fā)明的炸藥可以開(kāi)礦搬山也可以投入戰(zhàn)場(chǎng)屠戮生靈，核技術(shù)可以用來(lái)制造原子彈毀天滅地也可以用來(lái)做核電站造福大眾。理性樂(lè)觀派總是相信人類(lèi)可以通過(guò)技術(shù)進(jìn)步創(chuàng)造一個(gè)美麗新世界，并克服技術(shù)產(chǎn)生的種種負(fù)面效應(yīng)。

不過(guò)，我們需要注意的是，這一次人工智能技術(shù)革命的不同之處在于它將真正重塑人類(lèi)。以往的任何一場(chǎng)技術(shù)革命只是增強(qiáng)了人類(lèi)在體力、腦力等方面的專(zhuān)項(xiàng)能力，但這一次AI將直接抵達(dá)人的核心本質(zhì)——那個(gè)所謂撐起人尊嚴(yán)和價(jià)值的“自由意志”。

大多數(shù)人會(huì)將這種宏大議題當(dāng)作杞人憂(yōu)天的無(wú)稽之談，因?yàn)?ldquo;狼來(lái)了”的故事人們已經(jīng)聽(tīng)過(guò)多次。很多大人物對(duì)于人工智能威脅人類(lèi)地位的告誡，也有種“口嫌體正直”的意味，無(wú)不在自己的領(lǐng)域內(nèi)推動(dòng)AI技術(shù)的進(jìn)化和使用。

但是作為人類(lèi)社會(huì)基石的“自由意志”本身已經(jīng)從腦神經(jīng)科學(xué)和社會(huì)學(xué)上被嚴(yán)重挑戰(zhàn)，而人工智能在模擬和指導(dǎo)人類(lèi)決策的能力又在大幅提升，這樣我們就將接近這個(gè)人類(lèi)命運(yùn)改變的交匯點(diǎn)：人的自由被還原為一種可計(jì)算的生理機(jī)制，AI的計(jì)算能力又超過(guò)人類(lèi)的計(jì)算能力。

這時(shí)，我們也就如同溫水中的青蛙，只能黯然接受“被煮熟”的命運(yùn)安排。幸而在AI技術(shù)正在日漸暴露出這些無(wú)傷大雅的問(wèn)題之時(shí)，我們?nèi)匀灰幸环N對(duì)AI的警惕。

那就是AI擁有“自由意志”之時(shí)，可以做到價(jià)值中立嗎?

技術(shù)的價(jià)值中立難成立，AI亦然

在關(guān)于“技術(shù)是否價(jià)值中立”的探討中，現(xiàn)在的人們大多會(huì)傾向于“技術(shù)中立”的觀點(diǎn)。

我們通常認(rèn)為一項(xiàng)技術(shù)的道德價(jià)值在于使用它的人，比如決定一把刀是用來(lái)烹飪還是用來(lái)行兇的關(guān)鍵是手握這把刀的那個(gè)人的想法;而一項(xiàng)技術(shù)的價(jià)值大小也不在于它自身而在于使用它的人的用途。

比如在電影《上帝也瘋狂》里，非洲原始部落的人們獲得了一個(gè)完整的可樂(lè)玻璃瓶，這個(gè)在現(xiàn)代社會(huì)平平無(wú)奇的消費(fèi)品，從一開(kāi)始被當(dāng)做無(wú)所不能的神物到后面變成引發(fā)族群紛爭(zhēng)的魔鬼。這個(gè)可樂(lè)瓶的價(jià)值在土著人手里就經(jīng)歷了天壤之別的變化。

這一假設(shè)的好處就是維護(hù)了人的尊嚴(yán)，選擇什么樣的技術(shù)用來(lái)做什么樣的事情，都是我們自己的選擇，最終的后果都要由我們來(lái)負(fù)責(zé)。

但實(shí)際上真的如此嗎?

從最初的人類(lèi)開(kāi)始掌握生火和放火這一項(xiàng)最初級(jí)技術(shù)的時(shí)候，一個(gè)部落中的女性就能釋放出超出她體力數(shù)以萬(wàn)倍的能量，因?yàn)橐话鸦鹁湍軣鲆淮笃?，他們就能收獲這片土地里沒(méi)有來(lái)得及逃跑的生靈的肉類(lèi)，后面還可以開(kāi)墾出一片又一片的農(nóng)田。

想想今天的亞馬遜雨林，在全球化的消費(fèi)貿(mào)易網(wǎng)絡(luò)中，被巴西農(nóng)民幾乎燒毀殆盡來(lái)該種糧食作物?；鸨旧硎菬o(wú)目的的，但是使用火的人是知曉火的特性和威力，也能控制火的范圍和用途。人類(lèi)之火，與天然之火的不同之處在于，火本身已經(jīng)包含了人類(lèi)的意志和目的。

可以想見(jiàn)，人類(lèi)此后發(fā)明的任何一個(gè)工具或技術(shù)都或多或少包含著發(fā)明者本身的目的。一把鋒利的石刀既帶有了切割了功用，也帶有了殺戮的能力，而一把槍發(fā)明出來(lái)，自然就有著更高效地殺戮的功效在里面，不管買(mǎi)它的人是用來(lái)防身還是用來(lái)害人，都是深知這一點(diǎn)的。

一項(xiàng)技術(shù)的發(fā)明總是有原因的，而原因背后一定是有目的方向性的，暗含了其主觀價(jià)值。

隨著人類(lèi)的技術(shù)工具越來(lái)越復(fù)雜和高級(jí)，技術(shù)的目的性對(duì)于使用者的影響也就越大。而且我們已經(jīng)越發(fā)習(xí)慣這些技術(shù)，就如同我們須臾離不開(kāi)電池和網(wǎng)絡(luò)一樣，這些技術(shù)已經(jīng)在潛移默化地改變著我們的選擇和判斷。

當(dāng)我們以為自己的選擇是自由選擇的時(shí)候，其實(shí)大多數(shù)都是被工具所訓(xùn)練和改變了的。

最典型的現(xiàn)代技術(shù)莫過(guò)于各種互聯(lián)網(wǎng)應(yīng)用和游戲，以短視頻最為典型。依托沉浸式展示、無(wú)限下滑換頁(yè)和偏好推薦算法，短視頻成為手機(jī)用戶(hù)的“殺時(shí)間”神器，很多人不知不覺(jué)就會(huì)在其中花費(fèi)數(shù)十分鐘時(shí)間。如果稍加反省，我們就會(huì)發(fā)現(xiàn)這套推薦技術(shù)當(dāng)中所包含的利用人性弱點(diǎn)和上癮機(jī)制來(lái)獲取用戶(hù)時(shí)間的價(jià)值傾向。

雖然我們清楚這些公司和他們的聰明無(wú)比的工程師未必有操縱人心的惡意，而只是有取得商業(yè)成功的動(dòng)機(jī)，就會(huì)不斷地加入操縱人心的技術(shù)。而這一次，工程師們有了一個(gè)最好的助手，那就是人工智能。

AI算法的最初目標(biāo)一定是體現(xiàn)了人類(lèi)的某一目的，比如在對(duì)抗學(xué)習(xí)中拿到最高的分?jǐn)?shù)、在圖像識(shí)別中得到最高的識(shí)別率，在偏好推薦上要不斷滿(mǎn)足用戶(hù)喜好，找到盡可能多的相似內(nèi)容。人工智能不僅在某些方面表現(xiàn)不錯(cuò)，而且還有了趕超人類(lèi)決策的計(jì)算能力。

從“不夠好”的AI到“被用壞”的AI

AI威脅論，很多人已經(jīng)講了很多次，但我們這里并不是再重復(fù)這種大眾所理解的“AI統(tǒng)治人類(lèi)”、“AI取代人類(lèi)工作”的觀點(diǎn)。因?yàn)檫@種觀點(diǎn)也仿佛再說(shuō)AI會(huì)成為一個(gè)獨(dú)立于人的新的物種存在，而如今來(lái)看，這樣的AI不知要到猴年馬月才實(shí)現(xiàn)，或者根本無(wú)法實(shí)現(xiàn)。

我們這里強(qiáng)調(diào)的是，不同于以往任何力學(xué)的、化學(xué)的、生物的技術(shù)，僅僅提高人類(lèi)的局部性的能力，這一次AI技術(shù)這次要替代的是人的感知、判斷和決策能力，是對(duì)人的理性行為的一種“復(fù)刻”。

AI技術(shù)的這種“非中立”特性難免會(huì)導(dǎo)致以下結(jié)果：

一、AI算法在數(shù)據(jù)訓(xùn)練中由于模型設(shè)計(jì)和數(shù)據(jù)樣本不足等問(wèn)題會(huì)難以避免地出現(xiàn)偏見(jiàn)。

比如，2018年的一則報(bào)道中，亞馬遜的AI招聘系統(tǒng)被指出系統(tǒng)性地歧視女性，在發(fā)現(xiàn)簡(jiǎn)歷中出現(xiàn)“女性”字樣就會(huì)降低應(yīng)聘者的分?jǐn)?shù)，而且還被發(fā)現(xiàn)，標(biāo)注某兩所女子大學(xué)的簡(jiǎn)歷也會(huì)在排序上被降級(jí)。而人工智能的這一權(quán)重決策正是來(lái)自于學(xué)習(xí)了亞馬遜此前10年的簡(jiǎn)歷數(shù)據(jù)。

顯然，這十年中，大部分被錄用的候選人都是男性，人類(lèi)HR在招募技術(shù)崗位上的偏好也教會(huì)了人工智能采用同樣的策略。

而在更常見(jiàn)的人臉識(shí)別領(lǐng)域，則出現(xiàn)了明顯的性別和種族歧視的算法偏見(jiàn)。根據(jù)美國(guó)NIST(國(guó)家標(biāo)準(zhǔn)及技術(shù)研究院)在2019年12月的一份報(bào)告，在美國(guó)人臉識(shí)別系統(tǒng)中，黑人的人臉識(shí)別錯(cuò)誤率是白種人的100倍，與黃種人相比，黑人人臉的識(shí)別錯(cuò)誤率也是前者的10倍，而在執(zhí)法機(jī)關(guān)的人臉圖片庫(kù)中，識(shí)別錯(cuò)誤率最高的是美國(guó)原住民。另外，女性和老人的臉部也更難以識(shí)別。

這一研究的數(shù)據(jù)來(lái)源是美國(guó)簽證申請(qǐng)和過(guò)境數(shù)據(jù)庫(kù)中的1800萬(wàn)張人臉照片，并測(cè)試了189種人臉識(shí)別算法，研究結(jié)果代表了絕大部分商業(yè)應(yīng)用算法的結(jié)果。

今年上映的一部《編碼偏見(jiàn)》的流媒體影片正揭露了這一問(wèn)題，人工智能正在接管著關(guān)于人們的信息、安全、機(jī)會(huì)甚至自由等權(quán)力的時(shí)候，如果人們不改正這些算法中存在的偏見(jiàn)和歧視，那么AI技術(shù)會(huì)必然創(chuàng)造一個(gè)更加糟糕的世界，比如被錯(cuò)誤識(shí)別并逮捕的少數(shù)族裔青年、被算法判斷為能力不足的女性員工，被垃圾信息所包圍的少年。

當(dāng)然，這還只是AI技術(shù)不夠好的一種表現(xiàn)。很多人覺(jué)得我們可以不斷調(diào)整算法，增大數(shù)據(jù)樣本就可以解決這些低級(jí)錯(cuò)誤、算法歧視等問(wèn)題。假如偏見(jiàn)可以消除、算法可以?xún)?yōu)化，我們又將迎來(lái)一個(gè)怎樣的局面呢?

二、AI技術(shù)很可能會(huì)由于數(shù)據(jù)的規(guī)模聚集和技術(shù)競(jìng)賽的排他性中，掌握在少數(shù)技術(shù)公司和政府手中，幫助擁有技術(shù)特權(quán)的人群和組織獲得難以撼動(dòng)的權(quán)力和財(cái)富，從而鞏固這一趨勢(shì)。

我們不能說(shuō)AI技術(shù)一定會(huì)助長(zhǎng)極權(quán)和壟斷，但是我們正在看到這樣的苗頭出現(xiàn)。

普通大眾不僅通過(guò)在互聯(lián)網(wǎng)上的各種操作交出了自己的習(xí)慣偏好和消費(fèi)數(shù)據(jù)，而且現(xiàn)在還在通過(guò)可穿戴設(shè)備等信息來(lái)獲取我們的生理指標(biāo)數(shù)據(jù)。如果任何一個(gè)AI算法系統(tǒng)能夠同時(shí)擁有這兩種數(shù)據(jù)，并且對(duì)其建立起相對(duì)應(yīng)的相關(guān)性，那么，這一系統(tǒng)將真正全面獲得操縱人心的能力。

正由于我們?nèi)祟?lèi)的任何決策可以轉(zhuǎn)化為各種生理、心理和行為的各種數(shù)據(jù)，而我們又想通過(guò)AI技術(shù)來(lái)洞悉這一切背后的因果鏈條，那么AI將有極大地可能完成人類(lèi)的這一使命，如果往好處走，AI將代替人類(lèi)的智力釋放出前所未有的生產(chǎn)力，如果往壞處走，AI技術(shù)也將產(chǎn)生無(wú)法想象的破壞力。

比如，在核冬天的威懾之后，AI武器的發(fā)展將使得精準(zhǔn)殺戮成為可能，雖然在一定意義上可以避免大規(guī)模的熱武器沖突，但是每個(gè)國(guó)家都將在這種無(wú)孔不入的AI武器或殺手機(jī)器人的威脅下產(chǎn)生十足的敵意。

如果這些AI武器一旦被極端組織掌握，更有可能成為挑起事端的大殺器。再比如更有可能的一個(gè)趨勢(shì)是，AI算法只是代表了少數(shù)特權(quán)階層的意志，而大部分人淪為供AI進(jìn)化的數(shù)據(jù)源。

盡管來(lái)說(shuō)，AI直接統(tǒng)治人類(lèi)既無(wú)可能，但AI被人類(lèi)用壞，成為塑造人類(lèi)不平等的幫兇是極有可能的。

現(xiàn)在，我們更重要的是，放棄對(duì)AI技術(shù)客觀中立性的幻想，也要警惕AI算法對(duì)于我們決策的強(qiáng)大操縱力，同時(shí)又得致力于推動(dòng)人工智能的普惠，才是接下來(lái)要做的事情。

對(duì)AI的自由意志保留拒絕的權(quán)利

我們這里只是指明了一個(gè)問(wèn)題：人工智能是存在價(jià)值觀的，其價(jià)值觀的來(lái)源并非來(lái)自于突然的“自我覺(jué)醒”，而是從人這里繼承了相應(yīng)的價(jià)值觀，“復(fù)刻”了人的所謂“自由意志”。

當(dāng)AI算法不夠強(qiáng)大的時(shí)候，其可能繼承人類(lèi)的認(rèn)知錯(cuò)誤和偏見(jiàn)，但當(dāng)AI算法足夠強(qiáng)大的時(shí)候，其也并不會(huì)變得“客觀中立”，而是體現(xiàn)了人類(lèi)工具理性推向極致的價(jià)值觀，那就是更集中的權(quán)力、更多的財(cái)富、不斷自我強(qiáng)化和升級(jí)。

這一價(jià)值觀反作用到普通的人類(lèi)個(gè)體身上，可能有兩個(gè)結(jié)果，一種是與AI算法協(xié)同進(jìn)化，在智識(shí)上甚至生理上不斷升級(jí)自己，成為掌控AI的發(fā)展趨向的超級(jí)人類(lèi);一種是無(wú)法理解AI技術(shù)運(yùn)行邏輯，也沒(méi)有辦法參與自主決策的大眾，將自己的生活決策交給算法。

因?yàn)槿说纳飳W(xué)的進(jìn)化速度實(shí)在難以趕上AI計(jì)算能力的增長(zhǎng)，人類(lèi)的知識(shí)只能以線(xiàn)性循環(huán)的方式一代又一代傳授，而AI則是以指數(shù)級(jí)方式累計(jì)增長(zhǎng)，這就決定了大多數(shù)人只能交付出自己的決策機(jī)制，而由AI來(lái)判斷我們的各種想法的成功概率。

而在今天，這一問(wèn)題已以種很隱蔽的方式呈現(xiàn)著。正如很多人認(rèn)為自己要聽(tīng)從自己內(nèi)心的聲音，但是我們卻并不知道這些內(nèi)心的需求哪些是我們的“自由意志”想要的，哪些是被各種價(jià)值體系所塑造的。而我們知道AI算法已經(jīng)開(kāi)始從每一個(gè)廣告推薦、每一個(gè)內(nèi)容篩選、每一次自拍美顏、每一次你的行為追蹤下，就已經(jīng)開(kāi)始為你進(jìn)行需求的植入了。

在人工智能狂飆突進(jìn)的這幾年當(dāng)中，我們其實(shí)已經(jīng)過(guò)分站在“AI將造福人類(lèi)”的宏大敘事當(dāng)中，畢竟我們對(duì)于這一新型技術(shù)產(chǎn)業(yè)寄予了太多的希望。但是我們看到現(xiàn)在針對(duì)個(gè)人隱私領(lǐng)域上馬的AI應(yīng)用，正在竭盡所能地掌握人們的全方位數(shù)據(jù)，但其實(shí)我們并未對(duì)這一趨勢(shì)做好準(zhǔn)備。

最近我們也注意到，由于一些行業(yè)和場(chǎng)景中人臉識(shí)別技術(shù)被大量濫用，一些地方的相關(guān)部門(mén)開(kāi)始推出整治規(guī)范，要求拆除這些AI設(shè)備。未來(lái)，這場(chǎng)關(guān)于人工智能的應(yīng)用邊界博弈的拉鋸戰(zhàn)還將一直持續(xù)下去。

但未來(lái)的長(zhǎng)期博弈中，我們哪怕?tīng)奚稽c(diǎn)便利性，也要在讓度自己的選擇權(quán)，交給人工智能來(lái)處理的時(shí)候，保持足夠的冷靜，同時(shí)對(duì)AI有擁有“Say No”的力量。