全球權(quán)威調(diào)查機(jī)構(gòu)皮尤研究所日前發(fā)布報(bào)告《算法時(shí)代》，采訪千余專家，分7大主題探討算法對(duì)生活各方各面的影響。報(bào)告的目標(biāo)是客觀全面反映當(dāng)前人們對(duì)即將到來(lái)的算法時(shí)代的看法，結(jié)果僅38%的特定受訪者預(yù)測(cè)算法的積極影響將超過(guò)其負(fù)面影響，而37%的人認(rèn)為負(fù)面性超過(guò)積極性;25%表示算法的整體影響將保持在50%-50%左右。算法勢(shì)必?zé)o處不在，對(duì)于未來(lái)，你抱有希望嗎?

[[184024]]

算法是解決問(wèn)題或完成任務(wù)的指示說(shuō)明。配方是算法，數(shù)學(xué)公式也是算法。計(jì)算機(jī)代碼還是算法?；ヂ?lián)網(wǎng)依靠算法運(yùn)行，所有的在線搜索都通過(guò)算法完成。有了算法，電子郵件才知道發(fā)去哪里。智能手機(jī)的應(yīng)用程序不是別的，就是算法。計(jì)算機(jī)和視頻游戲是算法寫就的故事。如果沒(méi)有了算法，在線約會(huì)、薦書系統(tǒng)和旅行網(wǎng)站將無(wú)法運(yùn)行。GPS地圖系統(tǒng)通過(guò)算法讓人從A移動(dòng)到B。人工智能(AI)也是算法。人們?cè)谏缃幻襟w上看到的東西是通過(guò)算法被呈現(xiàn)于他們眼前。實(shí)際上，人們?cè)诰W(wǎng)絡(luò)上所見(jiàn)的和所做的一切都是算法的產(chǎn)物。電子表格每做一次排序，都需要用到算法，如今大多數(shù)金融交易都通過(guò)算法完成。是算法幫助各種設(shè)備響應(yīng)語(yǔ)音命令、識(shí)別面部、排序照片，創(chuàng)造并且駕駛汽車。算法會(huì)遭遇黑客襲擊、網(wǎng)絡(luò)攻擊和破解加密代碼的侵襲。自學(xué)習(xí)算法和自編程算法正在興起，在未來(lái)很多算法將由算法編寫完成。

算法通常是你完成任務(wù)時(shí)會(huì)用到的優(yōu)雅而極其有用的工具。算法大多是看不見(jiàn)的，它們以不可思議的方式在增強(qiáng)人類的生活。然而，有時(shí)候好意開發(fā)的算法制作的應(yīng)用程序卻會(huì)導(dǎo)致意想不到的后果。最近的一些例子包括：

2016年10月7日，英鎊價(jià)值下跌6.1%，部分是因?yàn)樗惴ㄓ|發(fā)的貨幣交易。

去年春天，微軟開發(fā)了Twitter機(jī)器人“Tay”與千禧一代聊天，但不出幾個(gè)小時(shí)，Tay便頻頻爆出種族主義、性別歧視、否認(rèn)納粹大屠殺的推文，原因是它根據(jù)算法“學(xué)習(xí)”那些發(fā)送給它的內(nèi)容，并以此回復(fù)他人。

Facebook想要推出一個(gè)根據(jù)信息流突出流行話題的功能。他們先是請(qǐng)人來(lái)編輯，但有人指出人類編輯針對(duì)保守派觀點(diǎn)存在偏見(jiàn)后，F(xiàn)acebook就讓算法來(lái)完成這項(xiàng)工作，結(jié)果發(fā)現(xiàn)無(wú)法辨別假新聞。

《數(shù)學(xué)破壞性武器：大數(shù)據(jù)如何增加不平等和威脅民主》一書作者CathyO’Neil指出，基于算法的預(yù)測(cè)分析往往會(huì)剝削窮人，在書中她以算法招聘為例討論了這一點(diǎn)。

善意的算法可能遭到惡人破壞。DNS是互聯(lián)網(wǎng)流量處理程序，2016年10月21日，黑客轟炸DynDNS使其信息過(guò)載，美國(guó)東海岸地區(qū)互聯(lián)網(wǎng)網(wǎng)速全面減緩，由此開啟了使用聯(lián)網(wǎng)設(shè)備進(jìn)行互聯(lián)網(wǎng)攻擊的全新時(shí)代?；ヂ?lián)網(wǎng)安全專家BruceSchneier在同年9月警告說(shuō)，“有人在學(xué)習(xí)如何弄垮整個(gè)互聯(lián)網(wǎng)”。在2016年美國(guó)總統(tǒng)選舉期間，濫Facebook的新聞流算法和一般的在線假新聞算法引發(fā)了巨大的爭(zhēng)議。

研究員AndrewTutt呼吁成立“算法FDA”，Tutt指出：“越來(lái)越復(fù)雜的算法的出現(xiàn)，使我們需要就如何最好地預(yù)防、阻止和補(bǔ)償它們?cè)斐傻奈：M(jìn)行批判性的思考……制定與算法相關(guān)的法規(guī)將需要采取聯(lián)邦統(tǒng)一手段、專家的判斷、政治獨(dú)立性和前期市場(chǎng)審查，在不扼殺創(chuàng)新的前提下，防止將危險(xiǎn)算法引入市場(chǎng)。

白宮于2016年10月發(fā)布了兩份報(bào)告，詳細(xì)介紹了算法和人工智能的發(fā)展以及解決與之相關(guān)的問(wèn)題的計(jì)劃，并在12月還發(fā)布了一份報(bào)告，概述了AI驅(qū)動(dòng)自動(dòng)化對(duì)美國(guó)就業(yè)市場(chǎng)和經(jīng)濟(jì)的潛在影響

2017年1月17日，F(xiàn)utureofLifeInstitute發(fā)布了有益人工智能原則的23條軍規(guī)，包括霍金、馬斯克、庫(kù)茲韋爾等數(shù)百名世界上最重要的人工智能研究人員在內(nèi)的1600多人簽署了這份文件。

企業(yè)和政府正在創(chuàng)造、抓取和分析大量的數(shù)據(jù)，算法的使用也愈發(fā)普及。有些人將這稱之為算法時(shí)代(AgeofAlgorithms)，并預(yù)測(cè)這一與機(jī)器學(xué)習(xí)和深度學(xué)習(xí)相關(guān)的算法未來(lái)，將以前所未有的速度實(shí)現(xiàn)社會(huì)的進(jìn)步。

在2016年美國(guó)總統(tǒng)大選結(jié)束后，鑒于網(wǎng)絡(luò)工具在這場(chǎng)選舉中所發(fā)揮的重大作用，有很多分析都指出這些工具將對(duì)未來(lái)產(chǎn)生革命性的影響。但是，XPrize基金會(huì)首席執(zhí)行官PeterDiamandis預(yù)測(cè)，技術(shù)的發(fā)展將令這次選舉在技術(shù)含量上黯然失色。Diamandis表示，計(jì)算以及嵌入在物聯(lián)網(wǎng)系統(tǒng)和設(shè)備中的AI和AI代理的快速演變，將帶來(lái)對(duì)選民的超級(jí)跟蹤、影響和塑造，以及超級(jí)個(gè)性化的廣告，并將創(chuàng)造出全新的方式歪曲現(xiàn)實(shí)，將虛假信息固定為永恒。

算法時(shí)代七大主題

主題1：算法將無(wú)處不在

可見(jiàn)和不可見(jiàn)的好處將加深人類對(duì)世界的認(rèn)知

很多算法帶來(lái)的好處將伴隨著挑戰(zhàn)

主題2：算法時(shí)代的益處

由數(shù)據(jù)驅(qū)動(dòng)的問(wèn)題解決方式將得到普及

代碼過(guò)程將得到優(yōu)化;道德倫理問(wèn)題得到解決

“代碼無(wú)需完美，只要比人類優(yōu)秀即可”

未來(lái)，世界可能由仁慈的AI(benevolentAI)管理

主題3：當(dāng)數(shù)據(jù)和預(yù)測(cè)建模的重要性成為第一，人性和人類判斷將消失

主要為了利益和效率進(jìn)行的編程活動(dòng)將帶來(lái)威脅

算法將操縱人類、操縱結(jié)果，甚至“讀心”

所有這些都將促成一個(gè)有缺陷但卻無(wú)法避免的、由邏輯驅(qū)動(dòng)的社會(huì)

有人擔(dān)心人類將失去決策能力，不再擁有智能

有人擔(dān)心復(fù)雜系統(tǒng)由代碼接管，人類將被拋在一邊

主題4：算法組織的系統(tǒng)中將存在偏見(jiàn)

算法反映出編程者和數(shù)據(jù)的偏見(jiàn)

算法依靠數(shù)據(jù)，而數(shù)據(jù)往往是有限、不足或者是錯(cuò)誤的

主題5：由算法進(jìn)行分類將加深各種群體之間的差異

由此到來(lái)的不平等將加深

算法將創(chuàng)造出過(guò)濾器，將人限制在自己的圈子里，限制人們接觸更多外界信息

主題6：失業(yè)率將上升

更加智能、高效的算法將取代很多人類工作崗位

有些人試圖重構(gòu)全球經(jīng)濟(jì)以維持人類生存

主題7：需要普及算法知識(shí)，加強(qiáng)算法透明度和監(jiān)管

從普及算法知識(shí)做起，不僅僅是基本的數(shù)字化信息

對(duì)算法過(guò)程進(jìn)行責(zé)任劃分、監(jiān)管和透明糾察

很多人對(duì)算法監(jiān)管持消極看法

斯坦福大學(xué)的AneeshAneesh這樣的分析師預(yù)見(jiàn)，在未來(lái)，現(xiàn)在的“官僚等級(jí)制度”將成為全新“等級(jí)治理”(algocraticgovernance)補(bǔ)充，算法將掌管公共和私人活動(dòng)。哈佛大學(xué)的ShoshanaZuboff等人則描述了未來(lái)的“信息文明”，在信息文明里將出現(xiàn)一種“監(jiān)督資本主義”(surveillancecapitalism)，組織人類的經(jīng)濟(jì)行為。

為了闡明當(dāng)前人們對(duì)算法在未來(lái)十年的潛在影響抱有什么態(tài)度，皮尤研究中心和伊隆大學(xué)對(duì)技術(shù)專家、學(xué)者、企業(yè)從業(yè)者和政府領(lǐng)導(dǎo)人進(jìn)行了大規(guī)模的調(diào)查。有1302人回答了這個(gè)問(wèn)題：

未來(lái)十年，算法對(duì)個(gè)人和社會(huì)的凈整體影響是積極的還是消極的?

結(jié)果發(fā)現(xiàn)，38%的特定受訪者預(yù)測(cè)算法的積極影響將超過(guò)其負(fù)面影響，而37%的人認(rèn)為負(fù)面性超過(guò)積極性;25%表示算法的整體影響將保持在50%-50%左右。

我們要求參與者解釋他們的答案，大多數(shù)人都寫了詳細(xì)的闡述，并且提供了針對(duì)有關(guān)趨勢(shì)的洞察。我們?cè)试S受訪者采用匿名回復(fù);在回復(fù)中也是匿名占多數(shù)。這些發(fā)現(xiàn)并不代表所有可能出現(xiàn)的問(wèn)題的觀點(diǎn)，但它們都是根據(jù)當(dāng)前的趨勢(shì)揭示了有價(jià)值的觀察。

下面，我們將簡(jiǎn)要闡述回答中出現(xiàn)的七大關(guān)鍵主題。在介紹部分后，我們將援引部分受訪者的觀點(diǎn)，深入論述他們對(duì)每個(gè)主題的看法。

積極影響

主題1：算法勢(shì)必?zé)o處不在受訪者之間存在相當(dāng)統(tǒng)一的看法，那就是算法對(duì)于公眾的影響通常是不可見(jiàn)的，并且這種影響將在未來(lái)十年中呈指數(shù)上升。

這一觀點(diǎn)的代表人物是SertainResearch和StreamFuzion公司的創(chuàng)始人和總裁BarryChudakov。他回答說(shuō)：

“如果每個(gè)算法突然停止工作，我們現(xiàn)在所知的世界就全完了。”事實(shí)是，我們已經(jīng)把世界交給了機(jī)器學(xué)習(xí)和算法?，F(xiàn)在的問(wèn)題是，如何更好地了解和管理這些算法。

“算法是人類決策的新決定者，幾乎在我們可以想象的任何領(lǐng)域，從觀看電影(Affectiva情感識(shí)別)到購(gòu)買房子(Zillow.com)到自動(dòng)駕駛汽車(谷歌)。德勤全球預(yù)測(cè)，全球100家最大的企業(yè)軟件公司中，有80家將在2016年年底前將通過(guò)算法將認(rèn)知技術(shù)集成到他們的產(chǎn)品中。”

算法提供了“一個(gè)更好的標(biāo)準(zhǔn)，用來(lái)與人類的認(rèn)知本身形成對(duì)比”，它們還促進(jìn)了對(duì)另一種相同認(rèn)知的思考：我們是如何思考的?通過(guò)算法來(lái)思考，進(jìn)而改變世界，這件事到底意味著什么?

“這個(gè)主要的積極結(jié)果是更好地理解如何做出理性的決定，并以此更好地了解自己。畢竟，算法是通過(guò)反復(fù)試驗(yàn)，通過(guò)測(cè)試和觀察，根據(jù)數(shù)學(xué)公式得出的，這可以用于很難判斷的選擇和問(wèn)題，特別是在直覺(jué)上很難得出結(jié)論的。

“其次，算法能帶來(lái)的積極結(jié)果是連通性。一切都是或可以與其他一切相連的。利用算法的連通性，以前需要人類操縱和思考的基本過(guò)程，現(xiàn)在都可以得到管理、監(jiān)測(cè)和計(jì)量。我們的車可以告訴我們放慢速度。我們的電視可以向我們推薦電影觀。雜貨店可以為我們建議使用健康的肉類和蔬菜的組合做晚餐。

“主要的負(fù)面影響可以歸結(jié)為一個(gè)簡(jiǎn)單、但現(xiàn)在還沒(méi)有很好解決方案的問(wèn)題：我們?nèi)绾慰创氐桌斫膺@些編程到日常行動(dòng)和決策中的算法的含義?我們不僅需要?jiǎng)?chuàng)造技術(shù)解決方案，而且在構(gòu)建商業(yè)模式、公司和市場(chǎng)之前，更要看到這些方案的后果，特別是它們的局限性。”

Chudakov補(bǔ)充說(shuō)，在未來(lái)十年及以后，“通過(guò)擴(kuò)展數(shù)據(jù)的收集和分析以及由此產(chǎn)生的信息應(yīng)用，一個(gè)智能或思維操作的層(alayerofintelligenceorthinkingmanipulation)將被創(chuàng)造出來(lái)，添加到以往的操作過(guò)程或者對(duì)象當(dāng)中。由此帶來(lái)的結(jié)果是，隨著信息工具和預(yù)測(cè)動(dòng)力學(xué)被更廣泛地采用，我們的生活將越來(lái)越受其固有結(jié)論和過(guò)程的影響。”

主題2：前景光明許多受訪者指出，算法能幫助理解大量數(shù)據(jù)，指出這將在日常生活中激發(fā)科學(xué)突破、新的便捷方式和人類在日常生活中的能力，以及更好的將人們與所需信息聯(lián)接的能力。它們執(zhí)行了在人類看來(lái)神乎其神的任務(wù)，而且將繼續(xù)大大增強(qiáng)人類的智力，協(xié)助完成偉大的事情。持這種觀點(diǎn)的代表是加拿大國(guó)家研究委員會(huì)的研究員斯蒂芬·唐斯，他列出了以下積極變化：

一些例子：

銀行。今天，銀行基于非常不完整的數(shù)據(jù)提供貸款。的確，許多今天有資格獲得貸款的人在未來(lái)是無(wú)法得到的。然而，許多人–可以說(shuō)是多得多的人–在未來(lái)將能夠獲得貸款，因?yàn)殂y行拒絕使用諸如種族、社會(huì)經(jīng)濟(jì)背景、郵政編碼等因素來(lái)評(píng)估適合度。此外，隨著更多的數(shù)據(jù)(以及銀行和客戶之間更具互動(dòng)關(guān)系)，銀行可以降低風(fēng)險(xiǎn)，從而提供更多貸款，同時(shí)提供一系列服務(wù)，單獨(dú)指導(dǎo)，切實(shí)幫助個(gè)人的財(cái)務(wù)狀況。

醫(yī)療保健機(jī)構(gòu)。醫(yī)療保健是一個(gè)重要的和不斷增長(zhǎng)的開銷，不是因?yàn)槿藗兊慕】禒顩r越來(lái)越差(事實(shí)上，從整個(gè)社會(huì)來(lái)說(shuō)，事實(shí)恰恰相反)，而是由于需要支持越來(lái)越復(fù)雜的系統(tǒng)，包括開處方、保險(xiǎn)、醫(yī)療設(shè)施等，需要大量的開銷。新技術(shù)將使醫(yī)療機(jī)構(gòu)能夠?qū)⒋蟛糠重?fù)荷轉(zhuǎn)移給個(gè)人，將(在個(gè)人支持系統(tǒng)的幫助下)更好地管理人類的健康，協(xié)調(diào)和管理自己的個(gè)人保健，減少系統(tǒng)負(fù)擔(dān)。隨著醫(yī)療保健總體成本的下降，為整個(gè)人口提供單一付費(fèi)人健康保險(xiǎn)變得越來(lái)越可行，我們已經(jīng)知道這會(huì)對(duì)人民健康產(chǎn)生有益有效的影響。

政府。政府的相當(dāng)一部分職能是基于監(jiān)管和監(jiān)測(cè)，隨著自動(dòng)化生產(chǎn)和運(yùn)輸系統(tǒng)以及傳感器網(wǎng)絡(luò)的部署，這將不再需要。這包括許多我們今天與政府的日常(而且是常常令人不快的)互動(dòng)，從交通違法、民事糾紛到商業(yè)和法律過(guò)程中的不公平待遇等等。一個(gè)簡(jiǎn)單的例子：美國(guó)最持久的政治問(wèn)題之一是為了對(duì)任職者有利，造成了選區(qū)劃分的不公正。通過(guò)算法創(chuàng)建的選舉分類在很大程度上可以消除這種不公正(且當(dāng)選取劃分公開并存有爭(zhēng)議時(shí)，可以修改完善該結(jié)果)。

來(lái)自其他匿名受訪者的其他回答：

“算法以自動(dòng)化的方式發(fā)現(xiàn)知識(shí)，比傳統(tǒng)的方法更快。”

“算法可以足夠快地壓縮數(shù)據(jù)庫(kù)，以緩解目前拖慢進(jìn)度的一些繁文縟節(jié)和官僚作風(fēng)。”

“我們將看到更少的污染，改善人體健康，減少經(jīng)濟(jì)浪費(fèi)。”

“算法具有平等獲取信息的可能性。”

“算法的效率將引領(lǐng)更多的創(chuàng)造力和自我表達(dá)。

“算法可以減少交通問(wèn)題;它們可以識(shí)別堵車，規(guī)劃替代路徑。”

“無(wú)人駕駛汽車可以大大減少每年的事故數(shù)量，以及提高大多數(shù)人的生活質(zhì)量。”

“更有針對(duì)性地提供新聞、服務(wù)和廣告。”

“使用算法從社交媒體收集數(shù)據(jù)和點(diǎn)擊蹤跡，出現(xiàn)更多基于證據(jù)的社會(huì)科學(xué)。”

“定位可以防止犯罪的地區(qū)，改善并更主動(dòng)地進(jìn)行警務(wù)工作。”

“欠發(fā)達(dá)地區(qū)減少，國(guó)際商業(yè)交流增多。”

“算法減少了決策、采購(gòu)、運(yùn)輸和大量其他行為中的消耗。”

“機(jī)器人會(huì)根據(jù)你的指令購(gòu)買股票。數(shù)字經(jīng)紀(jì)人將找到你需要的材料。”

“任何錯(cuò)誤都可以糾正。這意味著算法只會(huì)隨著時(shí)間的推移變得更能滿足人類的需求。”

擔(dān)憂與挑戰(zhàn)

這項(xiàng)研究的參與者都嚴(yán)重同意：加速代碼依賴帶來(lái)的大量積極影響將繼續(xù)推動(dòng)算法的傳播，然而，與所有偉大的技術(shù)革命一樣，這種趨勢(shì)有一個(gè)黑暗面。大多數(shù)參與者指出了自己的擔(dān)憂。主要的擔(dān)憂集中體現(xiàn)在報(bào)告接下來(lái)的這5個(gè)主題中，每一個(gè)主題都包含子主題。

主題3：當(dāng)數(shù)據(jù)和預(yù)測(cè)模型占據(jù)統(tǒng)治地位，人性和人類的判斷將喪失算法的進(jìn)步能夠讓技術(shù)企業(yè)和政府搜集、存儲(chǔ)、分類和分析海量的數(shù)據(jù)集。

專家在這項(xiàng)調(diào)查中指出，這些算法主要是為了優(yōu)化效率和提高盈利能力而寫，對(duì)數(shù)據(jù)建模和分析潛在的社會(huì)影響并沒(méi)有作過(guò)多的考慮。這些受訪者認(rèn)為，在這個(gè)過(guò)程中，人類被看出是一種“輸入”，而不是真實(shí)的，會(huì)思考的，有感覺(jué)，隨時(shí)都在變化的生命。

他們說(shuō)，這是在創(chuàng)造一個(gè)有缺陷的，僅憑邏輯驅(qū)動(dòng)的社會(huì)，隨著這一過(guò)程不斷演化，也就是說(shuō)，隨著算法開始編寫算法，人類可能在社會(huì)的循環(huán)中被遺棄，從而把決定權(quán)交給機(jī)器。

代表觀點(diǎn)：

Clemson大學(xué)人本計(jì)算(human-centeredcomputing)專業(yè)的助理教授BartKnijnenburg回答說(shuō)：“算法將會(huì)把便利和利潤(rùn)放在首要位置，從而造成對(duì)特定人群的歧視，并破壞另一些人積累起來(lái)的經(jīng)驗(yàn)。算法的目標(biāo)是滿足一些人的偏好，而不一定是所有人的偏好。從本質(zhì)上看，算法呈現(xiàn)的是我們的口味和偏好。我最大的擔(dān)憂是，除非我們讓算法可以做到“自我實(shí)現(xiàn)”(self-actualization)，否則，人們遵循一個(gè)算法的建議變得過(guò)于容易，也過(guò)于簡(jiǎn)單了(也就是說(shuō)，人類將很難超越這些算法提供的建議)，同時(shí)，人們也會(huì)漸漸把這些算法變成一個(gè)能自圓其說(shuō)的哲學(xué)家，用戶則會(huì)成為專門消費(fèi)易于消費(fèi)項(xiàng)目的“僵尸”。

這將是很方便的人們遵循一個(gè)算法的建議(或太難以超越這樣的建議)，把這些算法變成自我實(shí)現(xiàn)預(yù)言和用戶進(jìn)入僵尸誰(shuí)專門消費(fèi)易于消費(fèi)的項(xiàng)目。

一個(gè)匿名的未來(lái)主義者說(shuō)，“從工業(yè)革命開始以來(lái)，這樣的事一直在發(fā)生。每當(dāng)你設(shè)計(jì)一個(gè)針對(duì)效率或盈利能力進(jìn)行優(yōu)化的人力系統(tǒng)時(shí)，你就是在將勞動(dòng)力非人性化。這種非人性化現(xiàn)在已經(jīng)蔓延到我們的醫(yī)療和社會(huì)服務(wù)上。當(dāng)你從包含人類的系統(tǒng)中移除人性時(shí)，人類就成為了受害者。

另一個(gè)匿名回答者寫道：“我們根本不能捕捉到用于代表一個(gè)人和他的需要，愿望，希望和渴望的每一個(gè)數(shù)據(jù)元素。數(shù)據(jù)由誰(shuí)來(lái)收集?收集什么?數(shù)據(jù)點(diǎn)所代表的那個(gè)人，他是否知道或者說(shuō)同意服務(wù)條款，又或者是因?yàn)樗麄兏緵](méi)有選擇?

誰(shuí)從數(shù)據(jù)賺錢?任普通人如何知道他/她的數(shù)據(jù)如何被使用?用于什么目的?在這個(gè)過(guò)程中，沒(méi)有透明性，監(jiān)督也成為一場(chǎng)鬧劇。所有的一切都被隱藏起來(lái)。我將始終堅(jiān)信數(shù)據(jù)應(yīng)該用于豐富和/或保護(hù)眾人，而不是個(gè)人。這是我們所處的經(jīng)濟(jì)制度的基本性質(zhì)。

其他受訪者對(duì)這一主題的反饋：

• 潛力是巨大的，但誤用和濫用的可能性，不管是故意的或無(wú)意的，可能性更大。
• 公司尋求的是將利潤(rùn)最大化，而不是將社會(huì)利益最大化。更糟糕的是，他們將對(duì)利潤(rùn)的追逐重新包裝為對(duì)社會(huì)利益的努力。我們正在接近波浪的波峰，波谷的一邊是一種新的操縱，營(yíng)銷，幾乎完全缺乏隱私的倫理。
• 我們今天看到的是，實(shí)際上，像“差別定價(jià)”這樣的東西并不能幫助消費(fèi)者，它只是幫助銷售東西的公司。
• 隨著法治、社會(huì)正義和經(jīng)濟(jì)遭受可預(yù)見(jiàn)的破壞，個(gè)體人類將像牛一樣被圈養(yǎng)起來(lái)。
• 算法正在放大數(shù)據(jù)代溝和隔離帶來(lái)的消極影響。

主題4：算法組織的系統(tǒng)存在偏見(jiàn)兩個(gè)思路在這里連在一起。一個(gè)是算法創(chuàng)建者(代碼編寫者)，即使他們努力做到包容，客觀和中立，但是他們也還是在創(chuàng)造中建立了自己的觀點(diǎn)和價(jià)值觀。另一個(gè)是，算法所采用的數(shù)據(jù)集有自己的局限和缺陷。即使是包含了數(shù)十億條信息的數(shù)據(jù)集，也難以完全捕捉到人們生活的豐富性和經(jīng)驗(yàn)的多樣性。此外，數(shù)據(jù)集本身并不完美，因?yàn)樗鼈儾话總€(gè)人的輸入或每個(gè)人的代表性樣本。這兩個(gè)主題在這些答案中得到體現(xiàn)：

麻省理工學(xué)院教學(xué)系統(tǒng)實(shí)驗(yàn)室執(zhí)行主管JustinReich指出：“算法將主要由白人和亞洲人設(shè)計(jì)，數(shù)據(jù)也由這些掌握特權(quán)的人來(lái)選擇，他們的出發(fā)點(diǎn)將是和自己一樣的消費(fèi)者的利益。大多數(shù)處于特權(quán)地位的人會(huì)發(fā)現(xiàn)這些新工具更方便、安全和有用。新技術(shù)的危害將成為已經(jīng)在社會(huì)中處于不利地位的人最多的經(jīng)歷，比如，廣告算法提供保釋債券人廣告，這里面會(huì)假定接收到廣告的讀者是罪犯;貸款申請(qǐng)廣告會(huì)投放給那些正在尋找代理人的人，這些都與人類族群相關(guān)。

軟件工程師DudleyIrish說(shuō)：“所有，讓我重復(fù)一遍，是所有的訓(xùn)練數(shù)據(jù)都包含偏見(jiàn)。其中大部分是種族或階級(jí)相關(guān)的。套用伊曼努爾·康德的話，就是，從這些數(shù)據(jù)集的彎曲的木材中，從來(lái)沒(méi)有出現(xiàn)過(guò)直線的東西。

其他受訪者對(duì)這一主題的反饋：

• 根據(jù)定義，算法是非人性的，并且基于總數(shù)據(jù)和一般假設(shè)。人們編寫的算法，甚至那些基于數(shù)據(jù)的算法，只是人口的一個(gè)非代表性的子集。
• 如果你從一個(gè)不平等的地方開始，并且使用算法來(lái)尋找一個(gè)人/系統(tǒng)的可能結(jié)果，你一定會(huì)帶來(lái)不平等。
• 我們都會(huì)被視為一種同質(zhì)化的物種，這顯然是一種錯(cuò)誤。
• 結(jié)果可能會(huì)成為偏見(jiàn)和有害的決定的制度化借口，他們會(huì)說(shuō)：計(jì)算機(jī)做出決定，所以我們必須接受。
• 算法將反映人們帶有偏見(jiàn)的思維。垃圾進(jìn)垃圾出(Garbagein,garbageout)。生活的許多方面將受到影響，但很少有人會(huì)得到幫助。監(jiān)督將是非常困難或不可能的。

主題5：算法分類將深化分歧許多受訪者的答案中提出了兩個(gè)關(guān)于社會(huì)分裂的相關(guān)觀點(diǎn)。首先，他們預(yù)測(cè)，算法輔助的未來(lái)將擴(kuò)大數(shù)字精英(主要是最富裕的，新信息生態(tài)系統(tǒng)中最想要得到的人群)和那些幾乎沒(méi)有連接或能夠參與的人之間的差距。第二，他們說(shuō)社會(huì)和政治分裂將被算法所推動(dòng)，因?yàn)樗惴?qū)動(dòng)的分類會(huì)引導(dǎo)人們重復(fù)和強(qiáng)化媒體上和政治上的內(nèi)容。兩個(gè)說(shuō)明性答案：

FittoTweet的所有者RyanHayes評(píng)論說(shuō)：“二十年前，我們談到了”數(shù)字鴻溝“，即在家里有計(jì)算機(jī)的人VS家里沒(méi)有計(jì)算機(jī)的人，或者可以訪問(wèn)互聯(lián)網(wǎng)的人VS不可以訪問(wèn)互聯(lián)網(wǎng)的人。但是，從現(xiàn)在開始的未來(lái)十年，一個(gè)由帶有傳感器和處理能力的強(qiáng)大AI以及與大量的數(shù)據(jù)相聯(lián)網(wǎng)所增強(qiáng)的人類，他的能力和對(duì)世界的認(rèn)知，將與那些無(wú)法擁有這些工具或者不知道如何使用這些工具的人迥異。

人與人之間的這種鴻溝將是自我永恒的，那些能力較弱的人在許多方面將更容易受到更多的傷害。

波士頓學(xué)院的訪問(wèn)學(xué)者AdamGismondi寫道：“我擔(dān)心，隨著用戶被隔離到不同的意識(shí)形態(tài)領(lǐng)域時(shí)，人類的同理心可能會(huì)受損。面對(duì)對(duì)立的觀點(diǎn)，如果我們能夠(主動(dòng)地或被動(dòng)地)以不同的角度避免與他人產(chǎn)生沖突，這將對(duì)我們的社會(huì)產(chǎn)生負(fù)面影響。

關(guān)注主要社交媒體公司在未來(lái)幾年會(huì)增加什么功能是比較有說(shuō)服力的，因?yàn)樵谛畔⒘鞯慕Y(jié)構(gòu)中，他們有巨大的權(quán)力。

其他受訪者對(duì)這一主題的反饋(詳情請(qǐng)參閱完整報(bào)告中的更全面的版本)：

• 如果當(dāng)前的經(jīng)濟(jì)秩序繼續(xù)下去，那么我看不到數(shù)據(jù)驅(qū)動(dòng)算法的增長(zhǎng)除了對(duì)社會(huì)上最富有的人以外，還會(huì)對(duì)其他人有任何好處。
• 社會(huì)不平等大概會(huì)變得更加豐富。
• 主要風(fēng)險(xiǎn)是，不太規(guī)律的用戶，特別是那些集中在一個(gè)或兩個(gè)站點(diǎn)或平臺(tái)上的用戶，將不會(huì)開發(fā)這種導(dǎo)航和選擇的設(shè)備，他們自己也將處于不利地位。
• 算法使得選擇更有效。積極的影響將是增加利潤(rùn)，組織能夠避免風(fēng)險(xiǎn)和降低成本。負(fù)面影響將被所有算法所認(rèn)為具有風(fēng)險(xiǎn)或利潤(rùn)較低承擔(dān)。
• 效率和命令帶來(lái)的好處被高估了。在我們的生活中保持一些混亂是很重要的。

主題6：失業(yè)率將上升

人工智能的普及可能造成大面積失業(yè)以及由此帶來(lái)的各種不良后果。

一個(gè)匿名的CEO說(shuō)，“如果工作可以由算法有效表達(dá)，那么這個(gè)工作很容易由機(jī)器完成。我所看到的負(fù)面趨勢(shì)是——隨著算法的崛起，人類會(huì)在很多職位和工作上被機(jī)器/計(jì)算機(jī)取代。那么人類的命運(yùn)往何處去?”

其他受訪者對(duì)這一主題的反饋：

• AI和機(jī)器人很可能瓦解勞動(dòng)力市場(chǎng)導(dǎo)致人類百分百的失業(yè)。它們更聰明、更有效率、更高產(chǎn)、成本更少，所以企業(yè)和商業(yè)應(yīng)該會(huì)往這個(gè)方向發(fā)展。
• 自動(dòng)化引發(fā)產(chǎn)能大爆發(fā)，這將會(huì)加大從業(yè)者和資本方的不對(duì)等。
• 現(xiàn)代西方社會(huì)建立在一種社會(huì)模式上，資本被交換為勞動(dòng)力來(lái)提供經(jīng)濟(jì)增長(zhǎng)。如果勞動(dòng)力不再是交換的一部分，那么影響是巨大的。
• 沒(méi)有工作，人口不斷增長(zhǎng)，對(duì)普通人自主運(yùn)作需求減少。這算什么溫暖?
• 我預(yù)測(cè)算法幾乎全面取代工作人員，被替代的人類毫無(wú)選擇。
• 長(zhǎng)期看來(lái)，這可能對(duì)人類是件好事，不再需要做低價(jià)值、重復(fù)性的工作，可以激勵(lì)他們創(chuàng)造更高的價(jià)值。
• 但愿各國(guó)會(huì)以實(shí)施最低保障生活工資和K-12以上的免費(fèi)教育，以應(yīng)對(duì)這樣的形勢(shì)。否則最聰明的人將利用在線資源快速超過(guò)平均個(gè)人水平，最富有的人將利用他們的經(jīng)濟(jì)力量獲得更多的政治優(yōu)勢(shì)。

主題7：普及算法知識(shí)，加強(qiáng)算法透明度和監(jiān)管這次調(diào)查的受訪者對(duì)個(gè)人及社會(huì)應(yīng)該如何應(yīng)對(duì)生活的算法化(algorithmization)提出了許多不同想法。他們主張?jiān)诠步逃屑尤胗嘘P(guān)算法在公眾生活中的作用的知識(shí)，他們還指出，那些創(chuàng)造和發(fā)展算法的人目前沒(méi)有對(duì)社會(huì)解釋，并認(rèn)為他們應(yīng)該以某些方式負(fù)責(zé)。

代表意見(jiàn)如下：

SusanEtlinger，Altimeter集團(tuán)行業(yè)分析師，她說(shuō)：“就像我們想知道一件商品，例如食品或服裝，它們是在什么地方、以何種方式生產(chǎn)出來(lái)的，我們也應(yīng)該質(zhì)疑我們的數(shù)據(jù)和決策是如何得出的。這些信息的供應(yīng)鏈?zhǔn)窃鯓拥?有明確的管理和審計(jì)跟蹤嗎?所得的假設(shè)是基于部分信息，有缺陷的來(lái)源還是不相關(guān)的基準(zhǔn)?數(shù)據(jù)是否得到了充分的訓(xùn)練?是否有合適的利益相關(guān)者參與，是否從錯(cuò)誤的經(jīng)驗(yàn)中學(xué)習(xí)?所有這一切的要點(diǎn)是，在未來(lái)十年內(nèi)，我們的管理組織的整個(gè)管理方式都需要改變。創(chuàng)造及改變現(xiàn)實(shí)的力量將存在于只有少數(shù)人理解的技術(shù)中。因此，為了確保我們能正確地使用算法，無(wú)論是為了賺錢還是為了人類福利，還是兩者兼具，我們都需要有管理和問(wèn)責(zé)的機(jī)構(gòu)。說(shuō)起來(lái)容易做起來(lái)難，但假如說(shuō)工業(yè)上和學(xué)術(shù)界最聰明的頭腦需要聚在一起解決這個(gè)問(wèn)題，現(xiàn)在正是應(yīng)該這樣做的時(shí)候。”

ChrisKutarna是《發(fā)現(xiàn)的時(shí)代》(AgeofDiscovery)的作者，同時(shí)也是牛津大學(xué)馬丁學(xué)院院士，他寫道：“算法是一種明確的啟發(fā)式形式，是一種規(guī)律化的進(jìn)行選擇和決策的方式，所以我們不需不斷地處理知覺(jué)輸入。這種應(yīng)對(duì)策略一直與人類，以及與我們的整個(gè)社會(huì)系統(tǒng)和數(shù)據(jù)環(huán)境的復(fù)雜性共同演變。明確地意識(shí)到我們的簡(jiǎn)化的假設(shè)和啟發(fā)法是我們的智力和影響力變得成熟的重要位點(diǎn)?，F(xiàn)在的不同之處是，明確地對(duì)這些啟發(fā)式方法進(jìn)行編程的能力日益增強(qiáng)，在人類心智之外，在機(jī)器和平臺(tái)之上執(zhí)行這種簡(jiǎn)化的能力也日益增強(qiáng)。我們需要一些時(shí)間來(lái)發(fā)展智慧和道德以理解并指導(dǎo)這種能力。在此期間，我們確實(shí)不知道應(yīng)用這種能力的安全程度如何。最重要的一點(diǎn)是提高社會(huì)對(duì)它的認(rèn)識(shí)，即誰(shuí)，怎樣，在哪里應(yīng)用這些能力。”

其他受訪者對(duì)這一主題的反饋：

• “資本無(wú)利不起早，不愿意去打擊filterbubbles,profiling以及相關(guān)的負(fù)面影響。政府/國(guó)際組織也幾乎無(wú)能為力。“
• “監(jiān)督機(jī)制可能包括更嚴(yán)格的訪問(wèn)協(xié)議;簽署數(shù)字管理倫理守則后才能被任命為信息管理員;個(gè)人對(duì)信息調(diào)用的在線追蹤;選擇退出功能;設(shè)置訪問(wèn)時(shí)間;未經(jīng)同意禁止第三方出售。”
• “除非更努力地讓真正的讀寫信息的能力成為基礎(chǔ)教育的一部分，否則將會(huì)出現(xiàn)兩個(gè)階級(jí)，一個(gè)能夠使用算法，一個(gè)被算法使用。”
• “電腦用戶需要更多了解和掌握電腦的使用，他們的使用習(xí)慣也需要被關(guān)注，這應(yīng)該是21世紀(jì)電腦素質(zhì)教育的核心。”
• “找到一個(gè)框架，以允許透明度和評(píng)估結(jié)果將是至關(guān)重要的。還需要對(duì)算法‘價(jià)值鏈’有廣泛的理解，并且理解數(shù)據(jù)是關(guān)鍵的驅(qū)動(dòng)因素，并且與其訓(xùn)練的算法一樣有價(jià)值。”
• “算法問(wèn)責(zé)制是一個(gè)大項(xiàng)目，需要理論家、實(shí)踐者、律師，社會(huì)科學(xué)家、記者和其他人的智慧。這是一個(gè)緊急的、全球性的事業(yè)，投身其中的專家們也需要支持。”
• “最終，軟件責(zé)任法將被面臨改革，因?yàn)閺默F(xiàn)在開始，程序員真的可以從謀殺中脫罪。
• “TheLawofUnintendedConsequences表明，算法中越來(lái)越多的社會(huì)層面和技術(shù)層面的復(fù)雜性肯定會(huì)造成不可預(yù)見(jiàn)的災(zāi)難性事件的發(fā)生–可能完全出乎我們的意料。
• “最終，我們將發(fā)展現(xiàn)有的機(jī)制，給消費(fèi)者更大的控制權(quán)，這應(yīng)該導(dǎo)致更多的理解和信任……這種推動(dòng)是不可避免的而且非常必要的，從長(zhǎng)遠(yuǎn)來(lái)看，會(huì)讓我們每個(gè)人都受益。“
• “我們需要某種彩虹聯(lián)盟來(lái)制定規(guī)則，以避免出現(xiàn)先入為主的偏見(jiàn)和群體思維影響結(jié)果。”
• “算法太復(fù)雜，無(wú)法完全透明或永遠(yuǎn)徹底安全。這些因素將持續(xù)影響我們文化的方向。”
• “我期望元算法的研發(fā)，以努力抵消算法的負(fù)面影響。“

一些匿名回答者針對(duì)這一主題說(shuō)：

• “黃金法則：擁有黃金的人會(huì)制定法則。“
• “壞人似乎遠(yuǎn)遠(yuǎn)超過(guò)好人了。”
• “抵抗是徒勞的。“
• “算法是由想要向你銷售東西(商品、服務(wù)、意識(shí)形態(tài))的人們定義的，并且會(huì)扭曲結(jié)果以利于此。”
• “算法肯定有幫助，但除非結(jié)合人類的知識(shí)和政治意愿，否則可能不夠。”

最后，我們以這位自匿名參與者的預(yù)測(cè)結(jié)尾，他/她看到可能的是兩個(gè)極端之一：“總體的影響將是烏托邦的誕生或人類的滅亡;沒(méi)有可預(yù)見(jiàn)的中間路線。我懷疑是烏托邦，鑒于我們已經(jīng)從一次生存危機(jī)中挺了過(guò)來(lái)(核戰(zhàn)爭(zhēng))，我們邁向和平的腳步盡管緩慢，卻也依然堅(jiān)定。”