本文轉載自公眾號“讀芯術”(ID：AI_Discovery)

技術倫理是個永恒的話題。筆者常常思考這樣的問題，計算機科學家是如何將倫理內容與價值觀編碼到機器學習算法中的，機器學習設計師又該怎樣更好地了解自己的設計會給社會帶來的影響。

[[327098]]

如果一位機器學習工程師設計了更加公平公正的決策系統(tǒng)，那他們對公平公正的定義是什么?他們會選擇什么評估指標對其進行優(yōu)化?選擇另一種指標或定義會造成什么樣的社會影響?筆者認為，研究算法嵌入式社會問題的潛在危害是必要的，比如價值權衡、設計機器學習系統(tǒng)時發(fā)生價值沖突的應對方法。

這也正是筆者九個月前申請美國國家自然基金會(GRPF)博士時提出的研究倡議，但很遺憾，申請被拒絕了。

問題出在哪兒?從院士們的回復來看，一切都挺好的，但除了一點“這更像社會學研究而非計算機科學(CS)。”或許申請人類學領域要比CS更合適，這又牽扯到了另一件事，社會科學與計算機科學的互不關聯(lián)，是計算機領域的標志性歷史遺留問題。

反復讀回信后，我開始考慮這些話的含意。腦中浮現(xiàn)了幾個問題：

• 社會科學和計算機科學之間的關系為何?
• 計算機科學在社會中應扮演什么樣的角色?
• 如果繼續(xù)將二者分開看待，未來可能會發(fā)生什么?

技術的真正目的是什么，技術在我們生活中到底扮演著怎樣的角色，作為計算機科學家是如何改變并塑造社會的?讓我們一點點掀起技術的面紗，探索技術與社會的終極奧義。

1.社會科學和計算機科學的區(qū)別

技術滲透著社會的各個角落，并且應用比以往更加頻繁。當下，社會是以線上形式運轉的。所有聯(lián)系都會借助寬帶。群體之間是通過0 和1聯(lián)系起來，它們構建起通向未來之路。

所以社會科學和計算機科學的關系是什么?

“技術不僅會幫助人類活動，也是重塑活動及意義的重要力量。”——Langdon Winner

數(shù)百萬年來，人類憑借技術登上食物鏈頂端。發(fā)現(xiàn)問題的時候技術便會誕生，比如我們需要食物維持生命時，就會想到火。這些技術性工具在社會上會變得越來越普遍，人們會改變它們，以意想不到的方式重塑它們。

21世紀屬于計算技術的時代，我們有了解決問題的新方式，互聯(lián)網(wǎng)讓我們獲得更多信息，智能手機帶給我們更多的出行機會，社交媒體以一種從未有過的方式將我們與世界聯(lián)系起來。社會進程也因此發(fā)生了永久性的變化。

全世界目前因計算技術聚到了一起，而互聯(lián)網(wǎng)、智能手機和社交媒體只是其中的一小部分，但它們已經讓人類文化發(fā)生了翻天覆地的改變。事實上，社交媒體正是人類社會學研究下的科學分支，個體與個體間的關系也存在于這樣的社會當中。

在這種情況下，如果說計算機科學和社會科學毫無聯(lián)系根本是胡扯，而我們也很難想象一個這兩者無根本聯(lián)系的世界。技術不斷創(chuàng)造，讓世界根據(jù)我們的需求不斷改變。計算機科學占領主要地位，就比如機器學習和人工智能，而隨之而來的社會性變革的可能是你根本無法想象的。

2.計算機科學在社會中扮演什么樣的角色?

“全面分析社會技術體系必須從方方面面來看，這樣才能綜合性地分辨當下存在的問題。”——《計算機在社會變革中的角色》

昨天下午我被安排去給畢業(yè)班講75分鐘的課，內容是計算機技術在處理社會問題時的角色。班上的大部分都是計算機科學的博士生，主題是以人為本的機器學習。

在讀完“計算機在社會變革中的角色”一文之后，我問他們是否覺得計算機技術需要擔負解決社會問題的責任。他們的見解和有趣：

一名同學提到技術本身不需要一定給社會帶來積極改變，起作用的在于人，人們既然要創(chuàng)造技術，就要一直創(chuàng)造，而且是抱著為社會造福的態(tài)度;另一位同學問技術是否應該用于解決社會問題，他覺得技術不應讓歧視和不公平這種社會問題一直存在，但也無需為解決這種潛在問題負責。

我們一致認為計算機技術不應是為解決社會問題，相反，應作為社會的一部分。其實就是計算機科學會讓問題一直存在但同時也能解決它們。

我們討論了計算機科學，特別是機器學習系統(tǒng)會如何在發(fā)展中改變社會。為得到評估成功的指標，我們選用數(shù)據(jù)來訓練模型，從這些數(shù)據(jù)來看，機器學習的設計決策是基于社會科學的。

回到開頭那封信，讀回信并沒有耗費一整天的時間，我咨詢了一些新興的計算機科學專家，想看他們是如何理解社會科學與計算機科學之間的關系。他們的回應一致，都認為二者是存在根本聯(lián)系的。

3.假如依舊將社會科學與計算機科學分開對待，會發(fā)生什么?

獲得軟件工程的本科學位后，我需要學習計算機倫理道德課程，這個課程叫做“職業(yè)責任”。

這門課讓我第一次懂得技術對社會的幫助與危害，它改變了我對技術在自己生活中角色的認知，同樣也改變了職業(yè)軌道。

在聽課之前，我從沒想過道德、公平、公正和不平等這樣的社會問題是與計算機科學息息相關的。我上過很多專業(yè)課，但從未聽到有關職業(yè)道德的一個字。我會花上百個小時設計算法，可從來不會想界限在哪里。在我的計算機課程中，社會科學不是主題。

盡管處于一個被計算決策塑造越來越多的世界，但多年來被教導的就是社會科學與計算機科學是分開的。

當我決定開始修機器學習倫理的博士學位時，我告訴自己，這兩者具有非常大的關聯(lián)，少哪個都會非常危險。

這也是令我擔憂的地方：如果兩個領域依舊被視為彼此獨立，“倫理道德”就會成為技術體系的一直都存在的問題，CS課程會繼續(xù)只擁有一門“道德/職業(yè)責任”課程，有的甚至沒有，技術也會一如既往地不斷給社會帶來負面影響。

這就是為什么計算機科學家必須學習帶著為社會負責的態(tài)度編碼。申請被拒絕的經歷讓我更進一步認清楚這件事，計算機科學不應且離不開人類指導的熱情，是那些不認可的人提醒了我，我的工作有多么重要。