AI提供假證！65歲老人含冤入獄近一年，兩次患上新冠險些自殺
含冤入獄近一年！
一名65歲的黑人男性被控槍殺25歲男廚師。
案發(fā)現(xiàn)場沒有目擊者，沒有兇器，也沒有殺人動機。
唯一的入獄證據(jù)就只有AI識別出的槍聲。
不到一年的時間，他在獄中兩次感染新冠肺炎，留下了雙手顫抖的后遺癥。
從每天能給妻子打三個電話，到每周只有幾小時的通話時間，險些就打算在獄中服藥了結(jié)自己的生命。
但幸好，他在上個月因證據(jù)不足而釋放，以自由人的身份重回高墻之外。
大難不死，未必有福
據(jù)受害人家屬稱，受害者Safarian Herring是一位有著雄心壯志的廚師，希望日后能夠做出一番成就。
但事情總是來得那么突然。
去年8月，「黑命貴」事件引發(fā)了很多社區(qū)騷亂事件。
就在某個深夜，邁克爾·威廉姆斯打算在當(dāng)?shù)氐囊患壹佑驼举I煙，加油站卻在騷亂中遭到洗劫。正打算直接開車回家，威廉姆斯在路上卻遇到了希望搭便車的受害者Herring。
兩人的悲劇就此發(fā)生。
涉事加油站
根據(jù)威廉姆斯的證供，在開車途中，兩人在十字路口遭到另一輛車的槍擊，Herring中槍流血，威廉姆斯馬上送他去附近的醫(yī)院。
但可惜，Herring沒能扛過去，不治身亡。
很幸運，威廉姆斯沒有被子彈擊中，但他的不幸才剛剛開始。
邁克爾·威廉姆斯
當(dāng)?shù)厣鐓^(qū)安裝了ShotSpotter系統(tǒng)，這個系統(tǒng)提供的證據(jù)稱，威廉姆斯就是殺害Herring的兇手。
ShotSpotter取證報告
這是一個能夠使用聲學(xué)傳感器和AI算法來幫助警方檢測目標(biāo)地理區(qū)域槍聲的系統(tǒng)。
ShotSpotter公司在大約25年前成立，自稱是「精確警務(wù)技術(shù)解決方案的領(lǐng)導(dǎo)者，使執(zhí)法部門能夠更有效地應(yīng)對、調(diào)查和威懾犯罪」。
ShotSpotter官網(wǎng)首頁
但諷刺的是，ShotSpotter將案發(fā)現(xiàn)場的這個巨大聲響識別為煙花爆竹，置信度還高達98%。并且將地址定位到5700 S 湖濱大道。
然而不到一分鐘，一名員工推翻了系統(tǒng)的判斷，將聲音重新分類為一聲槍響。
隨后，經(jīng)過「后期處理分析」，聲音的定位被轉(zhuǎn)移到了威廉姆斯正在行駛的區(qū)域，芝加哥南石島大道和東63街的十字路口。
（1）AI最初識別位置；（2）人工分析之后修正位置
就這樣，警方依據(jù)ShotSpotter的「證供」，將威廉姆斯拘捕入獄。
位于事發(fā)十字路口的ShotSpotter設(shè)備
AI提供的入獄證據(jù)，可信嗎？
對于此次事件，ShotSpotter公司認(rèn)為，它曾警告檢察官不要依靠其技術(shù)來檢測車輛或建筑物內(nèi)的槍聲。
但ShotSpotter拒絕透露，在威廉姆斯近一年的監(jiān)禁期間，公司是在什么時候與檢察官取得聯(lián)系的。
也拒絕透露，鑒于該系統(tǒng)難以識別封閉空間內(nèi)的槍聲，ShotSpotter為什么要為據(jù)稱是在威廉姆斯的車內(nèi)發(fā)射的槍聲準(zhǔn)備一份法證報告。
該報告本身包含矛盾的信息，表明該技術(shù)事實上在汽車內(nèi)是有效的。
ShotSpotter首席執(zhí)行官Clark拒絕對此案發(fā)表評論，但在一份后續(xù)聲明中，該公司含糊其辭地表示：在 「某些條件下」，該系統(tǒng)實際上可以識別車內(nèi)槍聲。
威廉姆斯的律師Max說，檢察官從未向他透露過這些信息，而是在他傳喚ShotSpotter公司與州檢察官的通信兩個月后撤銷了指控。
芝加哥警察局在使用預(yù)測和跟蹤ShotSpotter技術(shù)工作
今年4月，一篇研究考察了1999年至2016年68個縣的ShotSpotter系統(tǒng)，這也是迄今為止最大的一次調(diào)查。
ShotSpotter聲稱可以利用傳感器、算法和人工智能，將其專有數(shù)據(jù)庫中的1400萬個聲音分類為槍聲或其他聲音，以減少槍支暴力。
但研究結(jié)果卻發(fā)現(xiàn)，這項技術(shù)并沒有減少槍支暴力，也沒有提高社區(qū)安全。
垃圾箱、卡車、摩托車、直升機、煙花、垃圾收集，甚至是教堂的鐘聲，都會讓ShotSpotter誤以為這些聲音是槍聲。
但面對真正的槍聲，ShotSpotter卻沒法識別出來。
在2016年的案件中，一名紐約男子Silvon Simmons在羅切斯特警察攔下他所乘坐的車輛后被槍殺。
警察聲稱Simmons先向他們開槍，現(xiàn)場卻沒有實物證據(jù)證明這一說法。
而ShotSpotter最初并沒有報告在現(xiàn)場發(fā)現(xiàn)任何槍聲，它將槍聲歸類為「直升機旋翼」。
當(dāng)警方找到該公司時，該公司的一名分析師最終認(rèn)定，這些旋翼的聲音實際上是四聲槍響——也就是警方向Simmons開槍的次數(shù)。
警察要求分析師識別有沒有其它槍聲。這時，他發(fā)現(xiàn)了第五個槍聲。
Simmons針對ShotSpotter和警察局的民事訴訟摘錄
最終，陪審團宣告Simmons謀殺未遂，法官推翻了他持有槍支的定罪，理由是ShotSpotter不可靠。
而在今年3月29日凌晨2點30分左右，21歲的魯本·羅曼開槍射擊，ShotSpotter卻將該槍聲定位在13歲亞當(dāng)·托萊多 (Adam Toledo) 所在的位置。
警方對托萊多進行追捕，最終開槍擊斃了這個手無寸鐵的13歲男孩。
視頻顯示警方命令托萊多停下來并舉高雙手
此外，在2017年舊金山的一起謀殺案審判中，一名分析師將其最初的警報地點移到了一個街區(qū)之外，突然就與犯罪現(xiàn)場相匹配了。
游戲規(guī)則的改變者
這項技術(shù)已經(jīng)在美國大大小小約120個城市安裝，每年每平方英里的成本高達95,000美元。
ShotSpotter數(shù)據(jù)越來越多地用于法庭案件，檢測嫌疑人是否在犯罪現(xiàn)場或現(xiàn)場附近，該公司聲稱其證據(jù)已用于近200起法庭案件。
該系統(tǒng)通常是應(yīng)當(dāng)?shù)毓賳T的要求安裝在被認(rèn)為是槍支暴力風(fēng)險最高的社區(qū)，而這些社區(qū)往往聚集了許多黑人和拉丁裔。
ShotSpotter系統(tǒng)的聲學(xué)傳感器會被安裝在建筑物、電線桿和路燈上。其工作原理如下：
- 當(dāng)槍聲爆發(fā)時，聲音會向外輻射。多個傳感器對聲音進行檢測和時間標(biāo)記，并對其位置進行三角定位。
- ShotSpotter的算法對其傳感器接收到的聲音類型進行分類，如槍聲或鞭炮聲。
- 一旦警報生成，就會發(fā)送給審查中心的工作人員，他們會分析每一個警報，判斷該聲音是否是槍聲。
- 之后，警報被發(fā)送到警方，警方派遣警察到現(xiàn)場。
ShotSpotter的工作原理示意圖
不過，公司表示不會公布ShotSpotter的算法和傳感器的位置。
此外，公司還屏蔽了系統(tǒng)的內(nèi)部數(shù)據(jù)和記錄，使其他人無法了解其工作原理的具體細(xì)節(jié)。
近年來，ShotSpotter公司的知名度不斷提高。
美國政府在包括ShotSpotter在內(nèi)的槍擊檢測系統(tǒng)上花費了超過690萬美元的可支配撥款和專項資金。
各州和地方政府還花費了數(shù)百萬美元，從聯(lián)邦稅收的單獨資金中購買該系統(tǒng)。
ShotSpotter官網(wǎng)描述
執(zhí)法官員說，ShotSpotter能讓警察更快到達犯罪現(xiàn)場，并幫助現(xiàn)金緊張的公共安全機構(gòu)更好地部署資源。
俄亥俄州托萊多市警察局長在芝加哥舉行的2019年國際警察局長協(xié)會會議上說：「ShotSpotter已成為我們解決槍支暴力問題的最重要工具之一」。
潛在問題
ShotSpotter公司說，他們在不斷地微調(diào)其機器學(xué)習(xí)模型，通過讓偵探和調(diào)查員向其系統(tǒng)添加犯罪現(xiàn)場的觀察結(jié)果來識別什么是槍聲和什么不是槍聲。
作為這一過程的一部分，他們稱之為「基準(zhǔn)真相」，ShotSpotter要求巡邏人員使用其軟件添加和記錄彈殼、彈孔，收集證人證詞和其他「槍聲證據(jù)」。
ShotSpotter公司首席執(zhí)行官Ralph Clark
Clark表示：「我們有機會使機器分類越來越好，因為我們從人類那里得到了真實世界的反饋?！?/p>
然而，有多位專家警告說：「如果警察有意或者無意中，提交了不完整或不正確的數(shù)據(jù)，那么由此就會訓(xùn)練出錯誤的模型?！?/p>
喬治敦法學(xué)院隱私與技術(shù)中心的Clare Garvie說：「ShotSpotter在該系統(tǒng)中建立了一個固有的不確定性，而且還告訴系統(tǒng)這些數(shù)據(jù)沒有問題，因此污染了系統(tǒng)的可靠性?！?/p>
