禁用人臉識別之后，舊金山卻用 AI 幫助檢察官辦案
日前，據(jù)外媒報道，舊金山宣布了一個“減少偏見的工具”，計劃于 7 月 1 日開始實施，這個工具使用基本的人工智能技術(shù)，能夠自動修改警方報告中能夠識別出嫌疑人種族的信息。
之所以設(shè)計出這個工具，是為了防止檢察官在決定某人是否被控犯罪時受到種族偏見的影響。
舊金山地區(qū)檢察官 George Gascón 在新聞發(fā)布會上表示，在美國被監(jiān)禁的人中，有色人種是不成比例的。此外，他還指出，當(dāng)看到像 Hernandez 這樣的名字時，檢察官立即就會知道這個人是拉美裔，而這可能會影響結(jié)果。
此前，舊金山就已致力于不讓檢察官看到報告中與種族相關(guān)的信息，但只是移除報告的前兩頁內(nèi)容，剩下的部分檢察官還是會看到，因此才想利用機器學(xué)習(xí)來減少偏見。
據(jù)舊金山地區(qū)檢察官辦公室的說法，該工具不僅可以刪除種族描述，還可以刪除眼睛顏色和頭發(fā)顏色等描述。那些可能有意或無意地向檢察官透露嫌疑人有某種種族背景的人名、地點和社區(qū)也會被刪除。不僅如此，這個工具還會刪除警察的詳細(xì)信息，包括他們的警徽號碼，以防檢察官碰巧認(rèn)識，可能對他們的報告有偏見。
另外，值得一提的是，地方檢察官辦公室稱這是“全國第一次”使用這項技術(shù)，之前沒有任何機構(gòu)使用人工智能來做這件事。
這個將被美國首次應(yīng)用的工具是 Alex Chohlas-Wood 和斯坦福計算政策實驗室的團(tuán)隊開發(fā)的。Wood 說，這個新工具基本上只是一個輕量級的 web 應(yīng)用程序，它使用幾種算法來自動編輯警察報告，使用計算機視覺識別報告中的單詞，并將其替換為通用版本，如位置、一號警官等。
此外，Wood 還表示這個工具已經(jīng)進(jìn)入了最后階段，是由舊金山科技公司免費開發(fā)的，將在幾周內(nèi)開放源代碼，供其他公司采用。
目前，由于沒有看到這個系統(tǒng)在警察報告上運行，所以還不清楚效果如何。不過，當(dāng)記者詢問如果男扮女裝，或者女扮男裝，這個工具是否還能夠修改這些信息時，Gascón 只是表示今天是個起點，這個工具會不斷發(fā)展的。
另外，這個工具也只是用于逮捕后的第一次審查，檢察官的最終決定仍基于完整的未修訂的報告。并且，如果最初的指控證據(jù)是視頻資料，還是會很明顯地揭示出嫌疑人的種族。
盡管這個工具是否能產(chǎn)生幫助尚未可知，但值得注意的是，在上個月，舊金山才剛剛發(fā)出 AI 人臉識別的禁令，是全球首個發(fā)布此項禁令的城市;而發(fā)出禁令的原因之一，就是人臉識別技術(shù)存在種族偏見。
說到底，AI 是具有偏見還是能夠消除偏見，最終還是取決于 AI 技術(shù)，而就目前 AI 頻繁處于爭議中的情況看來，雷鋒網(wǎng)認(rèn)為，AI 技術(shù)的發(fā)展還有很長的路要走。
本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請至雷鋒網(wǎng)官網(wǎng)申請授權(quán)。
