偏見(jiàn)是機(jī)器學(xué)習(xí)中的一個(gè)重大問(wèn)題，必須加以解決或緩解。企業(yè)需要采取重要步驟，幫助減輕未來(lái)的壓力。

[[429512]]

無(wú)論人們認(rèn)為自己的文化、社會(huì)或環(huán)境意識(shí)有多強(qiáng)，偏見(jiàn)通常是每個(gè)人與生俱來(lái)的特質(zhì)。人們很自然地被那些能證實(shí)自己信念的事實(shí)所吸引。例如，大多數(shù)人認(rèn)為年輕人會(huì)比年長(zhǎng)的同事更好地完成某些任務(wù)，反之亦然。很多研究表明，相貌良好的求職者比相貌普通的求職者更容易被錄用。這樣的例子不勝枚舉。

作為人類(lèi)，不能自信地說(shuō)自己的決策是沒(méi)有偏見(jiàn)的。這個(gè)問(wèn)題的根本原因是偏見(jiàn)在不知不覺(jué)中滋生和蔓延，使人們無(wú)法判斷自己所做的決定是否存在偏見(jiàn)。

這就是有偏見(jiàn)的人工智能算法的概念不應(yīng)該令人驚訝的原因，因?yàn)槿斯ぶ悄芟到y(tǒng)的全部意義就是復(fù)制人類(lèi)的決策模式。為了構(gòu)建一個(gè)功能性的人工智能系統(tǒng)，開(kāi)發(fā)人員用大量解決特定問(wèn)題的真實(shí)例子進(jìn)行訓(xùn)練。

例如，為了構(gòu)建一個(gè)可以幫助分類(lèi)求職申請(qǐng)的人工智能系統(tǒng)，開(kāi)發(fā)工程師會(huì)向算法展示許多被錄用和被拒絕的簡(jiǎn)歷。然后人工智能系統(tǒng)將找出影響決策的主要因素，開(kāi)發(fā)者將測(cè)試系統(tǒng)的準(zhǔn)確性并進(jìn)行部署它。在這個(gè)簡(jiǎn)單的例子中會(huì)出現(xiàn)兩個(gè)問(wèn)題：一是人力資源專(zhuān)家的決策一開(kāi)始就存在偏見(jiàn)，二是訓(xùn)練數(shù)據(jù)集可能不代表特定的性別、年齡、種族等數(shù)據(jù)。例如，從歷史上看，一家企業(yè)可能在無(wú)意中只雇傭男性應(yīng)聘者擔(dān)任前臺(tái)開(kāi)發(fā)人員，這導(dǎo)致人工智能將女性應(yīng)聘者排除在外，甚至不給她們面試的機(jī)會(huì)。這就引出了消除人工智能偏見(jiàn)的第一種方法。

1.數(shù)據(jù)公平

人工智能在克服許多挑戰(zhàn)方面發(fā)揮了重要作用。然而，人工智能系統(tǒng)采用的數(shù)據(jù)必須結(jié)構(gòu)良好，并且盡可能不帶偏見(jiàn)。

在大多數(shù)情況下，人工智能出現(xiàn)偏見(jiàn)的最主要原因在于訓(xùn)練數(shù)據(jù)，尤其是對(duì)于缺乏經(jīng)驗(yàn)的開(kāi)發(fā)人員或小公司來(lái)說(shuō)。獲得一個(gè)足夠多樣化的數(shù)據(jù)集，需要將每個(gè)人口統(tǒng)計(jì)或任何其他關(guān)鍵屬性考慮在內(nèi)，這是數(shù)據(jù)科學(xué)家夢(mèng)寐以求的事情。這就是企業(yè)在開(kāi)發(fā)人工智能時(shí)應(yīng)該盡力消除訓(xùn)練數(shù)據(jù)中的偏見(jiàn)的原因，并在開(kāi)發(fā)過(guò)程的每個(gè)階段都考慮到這一點(diǎn)。

艾倫·圖靈研究所介紹了一種方法，旨在揭示數(shù)據(jù)集問(wèn)題。例如，一家企業(yè)雇傭使用人工智能系統(tǒng)的前端開(kāi)發(fā)人員。在這種情況下，為了確保算法是公平的，開(kāi)發(fā)人員需要進(jìn)行一個(gè)簡(jiǎn)單的測(cè)試，讓人工智能系統(tǒng)評(píng)估兩個(gè)擁有相同技能和經(jīng)驗(yàn)的應(yīng)聘者，唯一的區(qū)別是性別或其他非必要的變量。公正的人工智能系統(tǒng)將會(huì)給這兩名應(yīng)聘者相同的評(píng)分，而不公正的人工智能會(huì)給男性應(yīng)聘者打出更高的分?jǐn)?shù)，這表明該系統(tǒng)需要做出調(diào)整。

該研究所制定了一套指導(dǎo)方針，以幫助人工智能開(kāi)發(fā)者確保模型的公平性。這些舉措將在解決人工智能的偏見(jiàn)問(wèn)題方面發(fā)揮越來(lái)越重要的作用。

2.對(duì)抗性學(xué)習(xí)

除了有缺陷的數(shù)據(jù)集，在模型學(xué)習(xí)階段也會(huì)出現(xiàn)偏見(jiàn)。為了應(yīng)對(duì)這種情況，許多開(kāi)發(fā)人員現(xiàn)在采用了對(duì)抗性學(xué)習(xí)方法。這意味著除了采用主模型(例如對(duì)應(yīng)用程序進(jìn)行排序的模型)之外，還需要采用另一個(gè)模型，該模型試圖根據(jù)主模型的結(jié)果找出敏感變量(年齡、性別、種族等)。如果主模型是無(wú)偏置的，對(duì)抗性模型將無(wú)法確定敏感屬性。數(shù)據(jù)科學(xué)家認(rèn)為這種技術(shù)是最有效、最容易使用的方法之一，因?yàn)榕c傳統(tǒng)的重新權(quán)衡方法不同，對(duì)抗性學(xué)習(xí)可以應(yīng)用于大多數(shù)建模方法。

3.基于拒絕選項(xiàng)的分類(lèi)

最后，還有一些后處理技術(shù)可以幫助消除偏見(jiàn)。這種方法的吸引力在于，工程師和數(shù)據(jù)科學(xué)家不需要為調(diào)整模型或更改數(shù)據(jù)集而煩惱，因?yàn)橹恍枰薷哪Ｐ洼敵黾纯伞?/p>

拒絕基于選項(xiàng)的分類(lèi)是最流行的后處理技術(shù)之一。本質(zhì)上，通過(guò)拒絕模型最不可信的預(yù)測(cè)來(lái)減少偏差。例如，可以將置信閾值設(shè)置為0.4。如果預(yù)測(cè)確定性為0.39或更低，人工智能系統(tǒng)將標(biāo)記輸出為具有偏見(jiàn)。

4.團(tuán)隊(duì)的多樣性

在人工智能領(lǐng)域的導(dǎo)航更多地依賴(lài)于對(duì)業(yè)務(wù)環(huán)境的理解，而不是人們通常認(rèn)為的那樣。毫無(wú)疑問(wèn)，數(shù)據(jù)科學(xué)與數(shù)據(jù)處理密切相關(guān)，但了解這些數(shù)據(jù)背后的內(nèi)容也同樣重要。即便如此，數(shù)據(jù)科學(xué)家無(wú)意識(shí)的偏見(jiàn)在影響他們的算法方面也發(fā)揮了關(guān)鍵作用。這就是消除人工智能中的偏見(jiàn)往往與雇用不同種族、性別和背景的人員密切相關(guān)的原因。

為了使招聘更加公平合理，企業(yè)需要采用更客觀的面試技巧。尤其是在大企業(yè)，很多面試都局限于傳統(tǒng)的簡(jiǎn)歷篩選。有遠(yuǎn)見(jiàn)和創(chuàng)新精神的企業(yè)需要將現(xiàn)實(shí)世界的基于項(xiàng)目的數(shù)據(jù)分析作為他們面試過(guò)程的核心部分。他們不僅會(huì)評(píng)估應(yīng)聘者在數(shù)據(jù)分析方面的科學(xué)表現(xiàn)，還會(huì)確保他們能夠在商業(yè)環(huán)境中解釋研究結(jié)果。

隨著人工智能成為許多商業(yè)轉(zhuǎn)型背后的驅(qū)動(dòng)力，必須建立明確的框架來(lái)解決人工智能中的偏見(jiàn)。人們需要認(rèn)識(shí)到無(wú)論采取什么措施，并不能完全減少偏見(jiàn)。然而，控制算法中的偏見(jiàn)要比控制人類(lèi)的偏見(jiàn)要容易得多。