上周，加州州長(zhǎng)簽署通過(guò)一項(xiàng)具有顛覆性的保釋金改革法案 ——取消保釋金制度，使用算法評(píng)估是否拘押。加州將成為全美第一個(gè)禁止等待審判的嫌疑人用現(xiàn)金保釋的州，而算法是否公平的問(wèn)題也再次引發(fā)討論。

從2019年10月開(kāi)始，加州將取消保釋金制度，在加州被控犯罪的人將使用一種算法進(jìn)行打分評(píng)估，而不再使用巨額保釋金作為自由的抵押品。然后，縣官員將根據(jù)算法的打分決定被告是應(yīng)該釋放，還是應(yīng)該關(guān)進(jìn)監(jiān)獄。

上周，加州州長(zhǎng)Jerry Brown簽署了一項(xiàng)顛覆性的保釋金改革法案SB 10，該法案要求使用一個(gè)算法系統(tǒng)取代現(xiàn)金保釋。每個(gè)縣都必須建立一套系統(tǒng)，以確定嫌疑人在審判過(guò)程中逃跑或犯下另一項(xiàng)罪行的風(fēng)險(xiǎn)。該系統(tǒng)可以自行開(kāi)發(fā)，或使用第三方承包商提供的系統(tǒng)，但必須在2019年10月的截止日期之前完成。

多年來(lái)，現(xiàn)金保釋制度一直被一些活動(dòng)人士強(qiáng)烈抗議，這項(xiàng)立法讓民權(quán)組織大獲全勝。他們的論點(diǎn)是，現(xiàn)金保釋使司法處于一種不公平的競(jìng)爭(zhēng)環(huán)境，將窮人關(guān)進(jìn)監(jiān)獄，同時(shí)允許有錢人或有資產(chǎn)的人避免坐牢。

但算法風(fēng)險(xiǎn)評(píng)估使得這項(xiàng)新立法的實(shí)施細(xì)節(jié)變得更加重要——一些活動(dòng)人士表示，現(xiàn)金保釋創(chuàng)造了一個(gè)掠奪性的保釋債券產(chǎn)業(yè)，另一些人則指出以往使用的算法風(fēng)險(xiǎn)評(píng)估工具存在對(duì)有色人種的偏見(jiàn)。

保釋金制度催生了保釋金保險(xiǎn)業(yè)（Bail Bonds）

“這是一個(gè)巨大的挫折，”民權(quán)活動(dòng)組織“Silicon Valley Debug”的協(xié)調(diào)員Raj Jayadev說(shuō)：“根據(jù)我們的分析，這將導(dǎo)致審前拘留增加?！?/p>

這是因?yàn)樵谡麄€(gè)刑事司法系統(tǒng)中用來(lái)評(píng)估風(fēng)險(xiǎn)分?jǐn)?shù)的機(jī)器學(xué)習(xí)系統(tǒng)已經(jīng)被證明存在嚴(yán)重的種族偏見(jiàn)，其評(píng)分認(rèn)為有色人種更有可能再次犯罪。此外，由于私營(yíng)公司通常簽約提供這些服務(wù)，機(jī)器學(xué)習(xí)算法推導(dǎo)出的用于計(jì)算這些分?jǐn)?shù)的公式通常被作為智力財(cái)產(chǎn)保留下來(lái)，這會(huì)讓競(jìng)爭(zhēng)對(duì)手傾向于該公司的技術(shù)。

有研究證明用于評(píng)估再犯罪的算法存在偏見(jiàn)（來(lái)源：propublica.org）

該法案的共同發(fā)起人和政策倡導(dǎo)者、西方法律與貧困中心（Western Center Law on Law & Poverty）的Jessica Bartholow表示，自該法案啟動(dòng)以來(lái)，算法風(fēng)險(xiǎn)評(píng)估的問(wèn)題就一直在討論中，民權(quán)組織壓倒性地支持取消現(xiàn)金保釋。她認(rèn)為，與Jayadev的預(yù)測(cè)相反，被審前拘留的人將會(huì)更少，以前被迫支付保釋金或相關(guān)法庭費(fèi)用否則就被拘留的窮人，在新政策下或許不用支付也不用被拘留了。

Bartholow說(shuō)，既然該法案已經(jīng)通過(guò)，那么就需要與政策制定者合作，確保風(fēng)險(xiǎn)評(píng)估的數(shù)據(jù)和方法是公平而且透明的。例如，在2023年將會(huì)實(shí)施一項(xiàng)審查，檢查新系統(tǒng)的偏見(jiàn)——但審判前在監(jiān)獄中關(guān)上四年仍然是很長(zhǎng)的時(shí)間。

加州議員辦公室證實(shí)仍有細(xì)節(jié)需要解決：州參議員Robert Hertzberg已經(jīng)承諾將推動(dòng)新的立法，以確保風(fēng)險(xiǎn)評(píng)估工具的透明度。在8月舉行的州議會(huì)聽(tīng)證會(huì)上，參議院預(yù)算委員會(huì)主席Holly Mitchell 同意共同起草該法案。

專注于研究人工智能社會(huì)影響的非營(yíng)利智庫(kù)AI Now的政策主管Rashida Richardson表示，她疑慮這個(gè)系統(tǒng)會(huì)比以前的系統(tǒng)更加偏見(jiàn)。

“很多基于算法的刑事司法系統(tǒng)都依賴于通過(guò)刑事司法系統(tǒng)收集的數(shù)據(jù)。警官、緩刑犯監(jiān)督官、法官等等，刑事司法系統(tǒng)的所有參與者都不是數(shù)據(jù)科學(xué)家，”Richardson說(shuō)?！耙虼耍闶占臄?shù)據(jù)就存在缺陷，存在許多與刑事司法系統(tǒng)相同的偏見(jiàn)。”

但是在數(shù)據(jù)和所采用因素的開(kāi)放性方面有一些變化：Jayadev表示，活動(dòng)人士已經(jīng)迫使一些公司在計(jì)算風(fēng)險(xiǎn)評(píng)分時(shí)披露有哪些影響因素，例如嫌疑人之前的犯罪記錄和所犯罪行的嚴(yán)重程度，但沒(méi)有公開(kāi)每個(gè)因素對(duì)最終風(fēng)險(xiǎn)評(píng)分的影響程度。當(dāng)風(fēng)險(xiǎn)評(píng)估算法有超過(guò)100個(gè)影響因素時(shí)，缺乏透明度會(huì)導(dǎo)致很難判斷算法認(rèn)為有影響的因素是否與種族、性別或任何其他受保護(hù)的人口統(tǒng)計(jì)學(xué)特征有關(guān)。

在2023年進(jìn)行審查之前，很難確定這一法案的實(shí)際影響。

Bartholow說(shuō)：“如果我們最終得到的是一個(gè)黑盒子一樣的評(píng)估工具，而無(wú)法運(yùn)行數(shù)據(jù)，不能迅速地對(duì)計(jì)算機(jī)系統(tǒng)進(jìn)行修改，那么我們就會(huì)屈服于算法，這個(gè)算法我們無(wú)法改變，也無(wú)法真正理解。”