我們是如何被人工智能控制的?
1970年11月,在接受《生活》雜志采訪時,明斯基警告說:“一旦計算機獲得了控制權(quán),我們可能永遠都無法奪回它。我們將在他們的苦難中生存?!痹谒囊粋€著名預(yù)言中,他假設(shè):“如果我們幸運的話,機器可能會決定把我們當寵物養(yǎng)。”
人類經(jīng)驗的隨機性在現(xiàn)代受到了很大的限制。騰訊會推薦一部你肯定會喜歡的新劇,抖音會讓你刷個不停,淘寶會推薦你最喜歡的物件,但代價是什么呢?你再也不會在音像店偶遇,發(fā)現(xiàn)一部很棒的音樂,或者在書店撿到一本被人放錯地方的書。每次點外賣都是找評分最高,人氣最旺的餐廳,除非有算法推薦,否則你肯定不會去嘗試一家新餐廳。那些提供娛樂消遣或使我們的生活更輕松的產(chǎn)品也許伴隨著隱性成本。在日常上網(wǎng)中,我們一步一行都會被記錄,網(wǎng)絡(luò)購物時提供大量信息數(shù)據(jù),你猜那些數(shù)據(jù)最終會到誰的手里。很快,自動汽車將決定誰應(yīng)該在事故中生存和死亡,如果你能活下來,那就太好了。也許在未來的某一天,我們就知道我們什么時候會死,迫使我們只要上網(wǎng)絡(luò)交友平臺就能尋找配偶或在58同城上換工作。
在專門討論科學(xué)、技術(shù)和哲學(xué)的網(wǎng)站Edge上發(fā)表的一篇新年專欄文章中,科學(xué)歷史學(xué)家和作家喬治·戴森(George Dyson)認為,我們已經(jīng)到達了一個拐點。戴森寫道:“曾經(jīng)很簡單:程序員編寫提供給機器的指令。既然機器是由這些指令控制的,那么寫指令的人就控制了機器?!苯裉?,代碼本身已經(jīng)變得活躍起來:算法通過我們的搜索歷史、信用卡購買記錄和地理位置來模擬我們的個性并預(yù)測我們的欲望。因此,馬克·扎克伯格、馬云、馬化騰等一小部分人變得富有得難以想象。
我們應(yīng)該對這些目前控制著世界的大公司感到恐懼?;蛟S最有先見之明的是戴森給予我們的警告?!拔覀冋J為,個人或個人算法仍在幕后的某個地方控制著局面。我們在欺騙自己,”他寫道?!巴ㄟ^控制信息流,新的守門人統(tǒng)治著世界上一個不斷增長的領(lǐng)域?!比欢切┱嬲y(tǒng)治世界的公司已經(jīng)不再能控制由它們制造的機器和數(shù)十萬工程師接觸過的算法,他們再也不能控制平臺上的任何一個輸入或輸出。
谷歌、亞馬遜、蘋果和微軟有超過100萬人在工作。當他們中的許多人在倉庫里儲存東西或幫助你修理你的iPhone時,成千上萬的工程師正在重寫代碼,以回答我們所有的問題和愿望。沒有一個工程師,甚至成千上萬的工程師,能夠從各個角度看到這些平臺如何成為我們自己思維的主宰,以及它們可能被用來做什么。然而現(xiàn)在,它們卻被用于一切。
很快,我們生活的方方面面,從外面的汽車到客廳的燈光,都將被算法主宰。京東淘寶的下一個版本不僅會建議你下次應(yīng)該買哪本書,它還會自動把你的冰箱里裝滿它的產(chǎn)品,這些產(chǎn)品都是由算法決定你會喜歡或需要的。當然,網(wǎng)上購物聽起來像是一個烏托邦,但它聽起來也更像明斯基在1970年的預(yù)測,我們即將成為電腦的“寵物”。它能被阻止嗎?如果我們真的想要的話,最明顯的邏輯是拔掉電腦插頭,意識到我們這次要把一切都搞砸了,然后重新開始。但正如歷史一再證明的那樣,人類仿佛并不理智,我們已經(jīng)離不開手機電腦的使用,我們有多久沒有看過這個世界,只是把頭埋在手機里。
我們需要新鮮的空氣,我們可以把它掌握在自己手中,盡可能多地減少對網(wǎng)絡(luò)巨頭的使用,并嘗試尋找替代品來實現(xiàn)。或者更好的是,停止像我們一樣頻繁地使用技術(shù),回歸我們的模擬生活,迷失方向,嘗試新事物,而不是聽從算法的命令。但是,我們可能不會,希望我們的新霸主能好好待我們,等他們完全接管后,讓我們蜷縮在床尾睡覺。