[[385470]]

大數(shù)據(jù)文摘出品

來源：Wired

編譯：周熙

為Uber Eats和Uber工作的BAME(非白人種：黑人，亞裔和少數(shù)族裔)快遞員聲稱，該公司有缺陷的識(shí)別技術(shù)讓他們失去了生計(jì)。

Uber Eats的快遞員表示，他們被解雇了，因?yàn)樵摴镜?"種族歧視 "面部識(shí)別軟件無法識(shí)別他們的臉。Uber將該系統(tǒng)描述為 "照片比對(duì) "工具，提示快遞員和司機(jī)拍攝一張自己的照片，并與公司數(shù)據(jù)庫(kù)中的照片進(jìn)行比對(duì)。

14名Uber Eats快遞員與WIRED分享了證據(jù)，顯示了該技術(shù)無法識(shí)別他們的臉。在他們所拍的自拍未能通過公司的 "實(shí)時(shí)身份檢查 "后，他們受到了被解雇的威脅，賬戶被凍結(jié)或被永久解雇。另一位因自拍功能無法工作而被解雇。工會(huì)稱，這個(gè)問題已經(jīng)影響到全國(guó)各地?zé)o數(shù)的Uber Eats快遞員以及私人雇傭司機(jī)。

進(jìn)行了數(shù)千次配送并擁有100%滿意率的派送員說，他們突然被從平臺(tái)上刪除，他們聲稱這個(gè)過程是自動(dòng)的，沒有任何上訴的權(quán)利。在給公司的留言中，許多人懇求要回自己的工作。他們每個(gè)人都收到了同樣的回復(fù)，稱他們的解聘是 "永久的、最終的"，Uber希望他們能 "理解這個(gè)決定的原因"。

William平均每天工作16個(gè)小時(shí)，每周六到七天為Sheffield(謝菲爾德)的Uber Eats送餐，直到2020年10月他在自拍檢查后被阻止訪問他的賬戶。他說："我整天都在嘗試給他們發(fā)信息，但他們每次都只是給我同樣的復(fù)制答案。"

他說："我只從Uber Eats賺錢。我用這些錢來支付我的賬單，我的房租，我的汽車保險(xiǎn)，我的食物，我的手機(jī)，一切的一切。"。他說他被迫借了1000英鎊來支付當(dāng)月的賬單。在他聯(lián)系了英國(guó)獨(dú)立工人工會(huì)(IWGB)，隨后該工會(huì)給Uber發(fā)信威脅要公開其行為后，該公司才肯撤回其軟件的裁決。

Uber表示，快遞員在提交實(shí)時(shí)自拍時(shí)，可以在人工智能和人工驗(yàn)證之間進(jìn)行選擇，但快遞員表示，如果他們選擇后者，沒有人可以推翻軟件可能犯下的錯(cuò)誤。David登錄該應(yīng)用時(shí)，為了準(zhǔn)備面試刮了胡子。當(dāng)他提交自拍時(shí)，應(yīng)用程序表示照片不是他的，并要求大衛(wèi)在24小時(shí)內(nèi)提供替代他的快遞員的信息，否則有可能被解雇。

David說："我試著通過官方路線，但它顯示的都是提供替補(bǔ)人員的信息選項(xiàng)。沒有辦法告知他們有問題。"雖然記者給Uber的新聞團(tuán)隊(duì)打了一個(gè)電話，阻止了他的賬戶被永久關(guān)閉，但很多人就沒有那么幸運(yùn)了。

William和David和其他受影響的快遞員一樣，被指控將他們的班次非法轉(zhuǎn)包給他人。雖然他們作為獨(dú)立承包商的身份允許Uber Eats快遞員轉(zhuǎn)包工作，但有人擔(dān)心將工作交給那些沒有經(jīng)過背景調(diào)查或不能合法工作的人。為了阻止這種情況的發(fā)生，去年4月，Uber在人們打開應(yīng)用時(shí)增加了一個(gè)信息驗(yàn)證步驟?？爝f員和司機(jī)需要自拍一張照片，以證明他們是當(dāng)前登錄的用戶。

當(dāng)快遞員提交自己的臉部照片時(shí)，Uber會(huì)使用微軟的人臉匹配軟件來驗(yàn)證他們的身份。但是這類軟件在識(shí)別皮膚較黑的人時(shí)有失敗的記錄。2018年，Uber使用的類似版本的軟件被發(fā)現(xiàn)，對(duì)于皮膚較深的女性面孔，失敗率為20.8%。對(duì)于深色皮膚的男性面孔，Uber Eats的絕大多數(shù)司機(jī)都是男性，而且很多都是來自BAME，占比達(dá)6%。對(duì)于白人男性來說，這個(gè)數(shù)字是0%。

一項(xiàng)對(duì)189種不同的面部識(shí)別系統(tǒng)的研究發(fā)現(xiàn)，所有這些系統(tǒng)在識(shí)別非白人面孔時(shí)的表現(xiàn)都明顯差了很多，有時(shí)差了十倍甚至一百倍。還有就是，在實(shí)驗(yàn)室里能用的東西，在現(xiàn)實(shí)世界中并不總能表現(xiàn)如期。Uber司機(jī)拍攝的自拍會(huì)是質(zhì)量較低的圖像，使用較舊的手機(jī)，通常是在光線不好的地方，這些條件與這些程序所訓(xùn)練的專業(yè)工作室圖像相差萬里。

"沒有一種面部識(shí)別軟件能在不同種族間表現(xiàn)相同。這種技術(shù)并不存在。" University of Essex專門研究面部識(shí)別軟件的社會(huì)學(xué)家Peter Fussey教授解釋道。"如果你把這種技術(shù)引入到一個(gè)已經(jīng)不平等的環(huán)境中，只會(huì)加劇這種情況，放大種族不平等。"

Uber的一位發(fā)言人強(qiáng)調(diào)，公司需要驗(yàn)證檢查以防止 "潛在的欺詐行為"。該發(fā)言人稱，任何將合作伙伴從平臺(tái)上刪除的決定 "總是涉及人工審查"，"任何被刪除的人都可以聯(lián)系我們，對(duì)該決定提出上訴"。該發(fā)言人沒有評(píng)論Uber是否曾經(jīng)做過任何審計(jì)，研究其驗(yàn)證系統(tǒng)的準(zhǔn)確性。微軟沒有回應(yīng)關(guān)于其技術(shù)失敗率做出評(píng)論的請(qǐng)求。

IWGB(大不列顛獨(dú)立工作者聯(lián)合會(huì))的主席Alex Marshall說："這是這些工人最擔(dān)心的上班問題，而且我們肯定會(huì)看到更多數(shù)量的BAME社區(qū)受到影響。這絕對(duì)是間接的種族主義。" 他說，司機(jī)們正在轉(zhuǎn)向食物銀行和收容所，因?yàn)樗麄冊(cè)谑?yīng)用上的工作權(quán)后，無力支付房租和賬單。他說，一名司機(jī)甚至不得不 "在墓地搭帳篷"。

IWGB表示，由于gig economy(零工經(jīng)濟(jì)：市場(chǎng)特點(diǎn)是短期合同或自由職業(yè)者占主導(dǎo)地位，而不是長(zhǎng)期工作)中的從業(yè)快遞員缺乏不被解雇的法律框架，法院很難立案，但它正在爭(zhēng)取在個(gè)案基礎(chǔ)上扭轉(zhuǎn)解雇，并推動(dòng)向議會(huì)提交Early Day Motion(早日動(dòng)議：在英國(guó)議會(huì)提前結(jié)束工作的某天正式提出供今后討論的議會(huì)動(dòng)議。其主要目的是提請(qǐng)議會(huì)注意某一特定議題)。

Uber已經(jīng)因?yàn)槭褂妹娌孔R(shí)別技術(shù)而被起訴。2019年，美國(guó)一名黑人司機(jī)發(fā)起索賠，稱在 "漆黑 "的環(huán)境下，自拍軟件無法識(shí)別他，而被解雇，這迫使他手動(dòng)提高他所有照片的亮度。

WIRED采訪的所有Uber Eats司機(jī)都表示，他們和他們認(rèn)識(shí)的人都沒有找人代過班，而且他們的收入太少，這樣做沒有意義。"我們大多數(shù)因代班而被解雇的成員每周工作60小時(shí)，但仍然入不敷出，" Marshall說。"他們何德何能會(huì)把自己的賬戶借給別人?"

非法轉(zhuǎn)包作為此類問題的一個(gè)結(jié)癥是因?yàn)橼厙?yán)的法規(guī)。作為恢復(fù)優(yōu)步(Uber)在倫敦運(yùn)營(yíng)的私家出租車牌照的交易的一部分，倫敦交通局(TfL)向該公司施加壓力，要求其打擊非法轉(zhuǎn)包，以保護(hù)人們免受無證駕駛員的傷害。

Uber的面部識(shí)別系統(tǒng)不僅適用于Uber的工人，也適用于子公司Uber Eats。TfL的發(fā)言人強(qiáng)調(diào)，2018年底至2019年初，倫敦有43名未經(jīng)授權(quán)的Uber司機(jī)進(jìn)行了1.4萬次出行，同時(shí)強(qiáng)調(diào)其對(duì)欺詐行為的擔(dān)憂得到了首席治安官的支持。該決定的批評(píng)者指出，這43名司機(jī)占當(dāng)時(shí)在倫敦運(yùn)營(yíng)的4.5萬名持證Uber司機(jī)的一小部分。

Uber并不是唯一一家向這一領(lǐng)域擴(kuò)張的公司。去年12月，同為打車公司的Bolt在新一輪融資中籌集了1.5億歐元，以實(shí)現(xiàn)類似Uber使用的人工智能和司機(jī)面部識(shí)別檢查。

相關(guān)報(bào)道：https://www.wired.co.uk/article/uber-eats-couriers-facial-recognition

【本文是51CTO專欄機(jī)構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號(hào)“大數(shù)據(jù)文摘（ id: BigDataDigest）”】

戳這里，看該作者更多好文