2013年，美國有一起充滿爭議的案子，一個(gè)因?yàn)橥蹈`罪被判刑的男人把威斯康星法院告了。原因是他被判整整8年有期徒刑，不是因?yàn)樗淖镄?，也不是因?yàn)榉ü俚呐袛?，而是因?yàn)橐粋€(gè)AI(人工智能)認(rèn)為，他對(duì)社會(huì)具有“高危險(xiǎn)性”。大數(shù)據(jù)時(shí)代，我們關(guān)注最多的是數(shù)據(jù)的安全和隱私，然而，數(shù)據(jù)加上算法所帶來的問題，或許要比安全和隱私重要得多。

大數(shù)據(jù)讓算法***的強(qiáng)大

機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)，克服了算法設(shè)計(jì)中人的局限;只要有數(shù)據(jù)，只要數(shù)據(jù)中有統(tǒng)計(jì)規(guī)律，算法就能找到這些規(guī)律。人工智能技術(shù)近幾年的火熱，主要得益于機(jī)器學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò)方面的技術(shù)突破，以及大數(shù)據(jù)技術(shù)的成熟。這些技術(shù)的突破使得從前很多被認(rèn)為機(jī)器不可能解決的問題，變得可以解決。過去技術(shù)人員開發(fā)信息系統(tǒng)，需要將領(lǐng)域知識(shí)在頭腦中轉(zhuǎn)換為算法和程序。這些技術(shù)突破改變了這一現(xiàn)狀，消除了對(duì)領(lǐng)域知識(shí)的依賴。算法可以通過機(jī)器學(xué)習(xí)的方法，從大量數(shù)據(jù)中自動(dòng)提取出來，不再需要人來編寫。這不僅減少了錯(cuò)誤遺漏、降低了開發(fā)成本，并且可以隨著數(shù)據(jù)的變化自動(dòng)更新，而不會(huì)因?yàn)楝F(xiàn)實(shí)的變化而落伍。

算法存在的問題

算法沒有價(jià)值判斷，最終是人給計(jì)算結(jié)果加上了價(jià)值判斷。但是一旦人們把算法給出的結(jié)果，用在處理社會(huì)關(guān)系上，這些結(jié)果就對(duì)相關(guān)的每個(gè)人產(chǎn)生了意義。

算法讓一部分人掌握了過大的權(quán)力。雖然技術(shù)突破和大數(shù)據(jù)讓算法開發(fā)變得容易，但是獲取到足夠的數(shù)據(jù)和計(jì)算資源，開發(fā)并利用算法，仍然是一件具有相當(dāng)門檻的事情。能夠掌握利用算法的仍限于少數(shù)人，這就使得這些少數(shù)人在社會(huì)生活中相對(duì)于其他人占有了極大的優(yōu)勢。為了社會(huì)公平，我們對(duì)擁有財(cái)產(chǎn)優(yōu)勢的人征收更多的稅負(fù)，對(duì)掌握權(quán)力的人施加種種制衡，但是我們對(duì)擁有算法優(yōu)勢的人如何限制，仍然沒有可行的思路。

對(duì)算法的迷信。技術(shù)突破讓算法不需要人編寫，雖然減輕了人開發(fā)算法的負(fù)擔(dān)，但也讓人更難以理解算法。大多數(shù)深度學(xué)習(xí)產(chǎn)生的算法都讓人無法理解，但是由于大多數(shù)情況下算法是有效的，人們即使不理解，也樂于利用算法。這就產(chǎn)生了一個(gè)風(fēng)險(xiǎn)：沒人知道算法的邊界和失效條件，因此也就不能判斷算法何時(shí)會(huì)出錯(cuò)。由于不理解，使用者往往傾向于忽視這種風(fēng)險(xiǎn)，于是形成了對(duì)算法的迷信。威斯康星州的判案系統(tǒng)就是這種情況。

相應(yīng)的社會(huì)約束機(jī)制難以跟上。新技術(shù)只要有效，很快就會(huì)在社會(huì)生活中廣泛應(yīng)用，但是新技術(shù)往往深刻地改變了人們的生活方式，而與這些改變相適應(yīng)的社會(huì)約束機(jī)制，只能在新技術(shù)的社會(huì)影響日益明確之后，才能逐漸建立起來。社會(huì)規(guī)范總是滯后于社會(huì)現(xiàn)實(shí)，在技術(shù)快速發(fā)展的當(dāng)今，這種滯后造成的問題尤為顯著。今天人工智能對(duì)人們?nèi)粘Ｉ畹挠绊?，恰如一百年前汽車普及造成的影響。?dāng)美國普通家庭開始擁有汽車很多年之后，道路信號(hào)、交通規(guī)則、駕照考試等設(shè)施和機(jī)制才逐漸完善，跟上技術(shù)變革的腳步。

在變化中探索秩序。人工智能技術(shù)仍在快速發(fā)展過程中，對(duì)社會(huì)生活的種種影響才剛剛開始顯現(xiàn)。對(duì)此我們既不能因噎廢食，阻礙技術(shù)發(fā)展，也不能放任自流，任由叢林法則支配，而是必須因應(yīng)技術(shù)發(fā)展的潮流和社會(huì)現(xiàn)實(shí)的變化，不斷探索調(diào)整，興利除弊，讓技術(shù)發(fā)展始終作為推動(dòng)社會(huì)進(jìn)步的動(dòng)力。