摘要

人工智能(AI)在刑事司法領(lǐng)域中扮演著越來(lái)越重要的角色，典型應(yīng)用案例如風(fēng)險(xiǎn)評(píng)估系統(tǒng)(RAI)的部署在美國(guó)引發(fā)爭(zhēng)議—— RAI在提高效率的同時(shí)也帶來(lái)了偏見(jiàn)與不公平的可能性。隨著中國(guó)在司法領(lǐng)域中引入AI，RAI的已有經(jīng)驗(yàn)可以提供什么教訓(xùn)?

[[376311]]

人工智能(AI)正在全面性地滲透到社會(huì)的不同領(lǐng)域。隨著科技的發(fā)展，智能技術(shù)也為包括公共安全在內(nèi)的社會(huì)問(wèn)題提供了越來(lái)越多的解決方案。特別是在刑事司法中，人工智能具有多種用途，包括收集和分析證據(jù)、預(yù)測(cè)和預(yù)防犯罪以及指導(dǎo)司法決策和量刑。在中國(guó)，法院的數(shù)字化也已經(jīng)起飛。最高人民法院首席法官兼最高法院院長(zhǎng)周強(qiáng)表示，中國(guó)法院致力于將現(xiàn)代技術(shù)與司法程序相結(jié)合。我國(guó)的司法體系將在智能化中越發(fā)依靠算法輔助，這也表明人工智能將能夠更直接、更實(shí)質(zhì)地參與司法決策。因此，必須充分了解算法工具的優(yōu)點(diǎn)和潛在危險(xiǎn)，以確保與刑事司法原則的兼容。

一、司法決策中的典型AI應(yīng)用：美國(guó)風(fēng)險(xiǎn)評(píng)估系統(tǒng)(RAI)

美國(guó)的監(jiān)禁率比世界上任何其他國(guó)家都要高——截至2016年，每38個(gè)美國(guó)成年人中就有一個(gè)正在教養(yǎng)所。降低監(jiān)禁率和改革刑事司法的壓力促使美國(guó)轉(zhuǎn)向智能工具。風(fēng)險(xiǎn)評(píng)估系統(tǒng)(RAI)使用被告人的個(gè)人資料來(lái)預(yù)估累犯評(píng)分。該分?jǐn)?shù)將助力于法官?zèng)Q定能否釋放被告以及該罪名。例如，在肯塔基州，早在1976年就使用了風(fēng)險(xiǎn)評(píng)分，以出庭的概率來(lái)分配評(píng)分。次風(fēng)險(xiǎn)框架將每個(gè)被告標(biāo)記為低，中或高風(fēng)險(xiǎn)，從而使法官能夠做出更加透明和客觀的決定。

從理論上講，RAI旨在為刑事司法帶來(lái)眾多好處。一方面，如上所述，該算法工具在風(fēng)險(xiǎn)評(píng)分中采用了清晰的清單式標(biāo)準(zhǔn)?？纤菰?011年通過(guò)了HB 463立法，要求審前使用風(fēng)險(xiǎn)評(píng)分，以降低監(jiān)禁率。如果法官能夠更科學(xué)地判斷在審判前將哪些被告送進(jìn)監(jiān)獄，監(jiān)獄人口過(guò)多的經(jīng)濟(jì)負(fù)擔(dān)就可以得到減輕。此外，研究表明，與人類決策相比，RAI的統(tǒng)計(jì)模型表現(xiàn)更為一致。由于算法的評(píng)估標(biāo)準(zhǔn)具有透明性，法院能夠更好地解釋決策背后的理由。因此，越來(lái)越多的州，包括處于刑事司法改革前沿的加利福尼亞，已經(jīng)轉(zhuǎn)向了RAI來(lái)滿足其刑事司法的需求。

但是，RAI的普及也帶來(lái)了激烈的辯論。其中， RAI主要有三個(gè)令人擔(dān)憂的原因。

首先，與機(jī)器學(xué)習(xí)的核心一樣，RAI能夠找到數(shù)據(jù)中的趨勢(shì)。但是，算法是通過(guò)使用歷史犯罪數(shù)據(jù)進(jìn)行訓(xùn)練的，而歷史犯罪數(shù)據(jù)通常會(huì)因帶有偏見(jiàn)的警務(wù)和不完整的數(shù)據(jù)收集(“dark figures”)而歪曲。正如美國(guó)數(shù)學(xué)家Cathy O'Neil在她書中所說(shuō)道，當(dāng)機(jī)器學(xué)習(xí)算法使用有偏見(jiàn)的統(tǒng)計(jì)數(shù)據(jù)時(shí)，就會(huì)進(jìn)一步對(duì)貧困和有色人種造成傷害，產(chǎn)生一個(gè)惡性循環(huán)。因此，使用RAI可能會(huì)復(fù)制和放大偏見(jiàn)，從而破壞公平公正的司法體系的原則。

第二，RAI的機(jī)制提出了一個(gè)群體和個(gè)人之分的問(wèn)題。正如在2016年威斯康星州最高法院的著名案件Loomis v Wisconsin中提到，RAI并未提供了準(zhǔn)確的個(gè)人風(fēng)險(xiǎn)評(píng)分。相反，風(fēng)險(xiǎn)預(yù)測(cè)基于與集體數(shù)據(jù)的相似性及其歷史趨勢(shì)比較。梅利莎·漢密爾頓(Melissa Hamilton)指出，將基于群體的數(shù)據(jù)轉(zhuǎn)換為個(gè)人評(píng)估很容易“漏洞百出”。當(dāng)不清楚算法輸出會(huì)如何被使用者理解時(shí)，RAI的風(fēng)險(xiǎn)評(píng)分很容易被錯(cuò)誤理解。因此，找到與司法體系人員正確溝通風(fēng)險(xiǎn)的形式至關(guān)重要。

最后，盡管RAI能夠識(shí)別出再犯可能性，這種識(shí)別仍然只是一個(gè)未證實(shí)的相關(guān)性。RAI無(wú)法證明相關(guān)性是否對(duì)應(yīng)真實(shí)的因果關(guān)系。例如，如果低收入人群與高累犯相關(guān)，這種相關(guān)性并不能作為確定低收入會(huì)引起犯罪的證據(jù)。RAI并非旨在識(shí)別犯罪的社會(huì)經(jīng)濟(jì)因素，但如果不仔細(xì)的解釋，其輸出很可能會(huì)導(dǎo)致因果關(guān)系存在的假象。同樣，相關(guān)性也必須由人類使用者來(lái)理解并給予意義，但人類可能會(huì)帶入個(gè)人政治取向和價(jià)值觀并施加認(rèn)知偏見(jiàn)。為了使RAI評(píng)估更具參考價(jià)值，可以使用貝葉斯優(yōu)化(Bayesian Optimization)來(lái)指示風(fēng)險(xiǎn)評(píng)分的確定性。然而，確定性因素在RAI評(píng)估結(jié)果中的重要性仍然是一個(gè)模糊點(diǎn)。

二、中國(guó)司法系統(tǒng)中的AI

盡管RAI遠(yuǎn)非刑事司法的靈丹妙藥，此類工具確實(shí)為AI對(duì)司法體系的影響提供了重要見(jiàn)解。雖然我國(guó)目前還未使用像RAI一樣的風(fēng)險(xiǎn)評(píng)估系統(tǒng)，AI已經(jīng)應(yīng)用于許多公共安全相關(guān)領(lǐng)域，包括面部識(shí)別、DNA分析和檔案數(shù)字化。自2017年以來(lái)，貴陽(yáng)市通過(guò)大數(shù)據(jù)辦案系統(tǒng)處理了419起刑事案件和480人。同時(shí)，與去年相比，辦案時(shí)間減少了30%，因證據(jù)不足的不批捕率也下降了28.8%。顯然，大數(shù)據(jù)和人工智能為司法體系做出了一定的貢獻(xiàn)。但是，我國(guó)司法智能化仍在起步階段并存在著不足。例如，一線辦案人員指出了“簡(jiǎn)易案件不需要，復(fù)雜案件不敢用”的問(wèn)題。

正如最高人民法院院長(zhǎng)周強(qiáng)所說(shuō)，智能化司法體系的雄心可以體現(xiàn)出我國(guó)刑事司法的未來(lái)規(guī)劃。參考第十八屆四中全會(huì)的旨意，人工智能可以助力于“統(tǒng)一證據(jù)標(biāo)準(zhǔn)”和 “防范冤假錯(cuò)案”的目標(biāo)。而在預(yù)測(cè)性AI提高客觀性和效率的同時(shí)，算法偏見(jiàn)，數(shù)據(jù)差錯(cuò)和不明確的相關(guān)性都可能造成負(fù)面影響。因此，需要找到緩解算法工具缺陷的策略。這些策略可以指導(dǎo)所有司法體系和政策制定者找到適當(dāng)?shù)耐緩礁玫脑谛淌滤痉I(lǐng)域使用AI。在這方面，RAI的已有經(jīng)驗(yàn)可以提供相關(guān)洞見(jiàn)。

三、如何應(yīng)對(duì)算法工具帶來(lái)的隱患

首先，需要建立一個(gè)在法官，算法程序和研發(fā)人員之間分配責(zé)任的框架。AI責(zé)任一直是各個(gè)領(lǐng)域長(zhǎng)期存在的疑問(wèn)。如今，隨著AI對(duì)司法決策影響的增大，明確地界定審判責(zé)任變得尤為重要。在Loomis v Wisconsin一案中，COMPAS 評(píng)估系統(tǒng)使用了被視為商業(yè)秘密的算法，因此無(wú)法披露。這將加劇為評(píng)估錯(cuò)誤或技術(shù)漏洞分配責(zé)任的難度。為了司法領(lǐng)域公平公正的原則，任何司法體系都必須能夠?qū)﹀e(cuò)誤的案件判決有明確的責(zé)任承擔(dān)，在研發(fā)人員和使用者之間有清晰的責(zé)任劃分。此外，隨著人工智能在未來(lái)獲得法律實(shí)體的可能性，還必須對(duì)智能系統(tǒng)建立適當(dāng)?shù)膽土P措施，以確保人工智能在刑事司法中的責(zé)任性。

第二，根據(jù)自然公正(natural justice)的核心原則，任何一個(gè)案件都需要能用充分的理由解答其決策邏輯。因此，RAI和類似的工具必須具有一定的透明度，以確保所有相關(guān)方充分了解風(fēng)險(xiǎn)評(píng)估的前因后果。這也意味著需要對(duì)訓(xùn)練RAI的數(shù)據(jù)進(jìn)行評(píng)估，以確定訓(xùn)練數(shù)據(jù)和當(dāng)前案件的兼容性，以及算法輸出是否會(huì)不公平地對(duì)待一些社會(huì)群體。而這樣的全面評(píng)估也將需要數(shù)據(jù)科學(xué)家與特定領(lǐng)域的專家合作來(lái)更好的解釋RAI的輸出。

此外，除了減輕RAI算法偏見(jiàn)的措施外，人類的認(rèn)知偏見(jiàn)也可能會(huì)帶來(lái)負(fù)面影響。Alex Albright對(duì)肯塔基州RAI數(shù)據(jù)的研究揭示了令人擔(dān)憂的趨勢(shì)——法官更傾向于否決建議免除黑人被告保證金的算法輸出。因此，有必要了解不同的司法人員如何理解RAI的輸出。如果要負(fù)責(zé)任地將AI工具部署到刑事司法中，不僅需要克服算法偏見(jiàn)，而且還必須消除隱性的人為偏見(jiàn)。法官可能需要進(jìn)行更好的培訓(xùn)，以了解如何最好地理解RAI的意義。同時(shí)，可以要求法官為否決RAI建議提供詳細(xì)的解釋。結(jié)合消除算法偏見(jiàn)的措施，識(shí)別人為偏見(jiàn)對(duì)于AI在司法體系中的應(yīng)用也至關(guān)重要。

最后，政策制定者應(yīng)持續(xù)監(jiān)控智能工具的使用結(jié)果，評(píng)估其性能并將結(jié)果公開(kāi)發(fā)布。不同的司法體系和參與者對(duì)人工智能在司法決策中的應(yīng)用可能會(huì)顯出不一致而且出乎意料的反應(yīng)。為了預(yù)測(cè)和管理這些可能性，決策者應(yīng)該與研究機(jī)構(gòu)和市場(chǎng)人員合作，以更好地理解司法行為因AI而產(chǎn)生的變化以及算法對(duì)刑事司法的長(zhǎng)期影響。

四、余論與總結(jié)

盡管RAI等工具提供了各種好處，但其缺點(diǎn)也表明人類決策仍不可或缺。特別是在重要及復(fù)雜的案件中，應(yīng)仔細(xì)評(píng)估智能工具所使用的數(shù)據(jù)，識(shí)別是否存在算法或人為偏見(jiàn)，并保留每個(gè)案件不同的相關(guān)要素。AI可以會(huì)在未來(lái)更實(shí)質(zhì)性地影響司法決策并甚至代替人類決策，但法律制度的演進(jìn)性，例如不斷變化的法律和社會(huì)規(guī)范，將始終需要人類的深度參與。因此，算法輔助決策的目的，不應(yīng)過(guò)于集中于一勞永逸的解決方案。相反，重點(diǎn)應(yīng)該是通過(guò)有效的人類與人工智能的協(xié)作來(lái)最大幅度地發(fā)揮人工智能的正面功能性，從而創(chuàng)建一個(gè)更高效、更公平的刑事司法體系。