算法在我們生活中發(fā)揮著越來(lái)越重要的作用，它們往往出自硅谷，但對(duì)它們進(jìn)行問(wèn)責(zé)的努力則可能來(lái)自另一個(gè)中心：紐約市。上周，紐約市議會(huì)一致通過(guò)一項(xiàng)法案，以解決算法歧視問(wèn)題。這是美國(guó)首次對(duì)算法制定措施。

　　這個(gè)正在等待紐約市長(zhǎng)Bill de Blasio將其簽署為法律的算法問(wèn)責(zé)法案成立了一個(gè)專門工作組，以研究城市機(jī)構(gòu)如何使用算法來(lái)做出影響紐約人生活的決策，以及這些算法是否對(duì)人有年齡、種族、宗教、性別、性取向或國(guó)籍方面的歧視。工作組的報(bào)告也將探討如何使這些決策制定過(guò)程變得讓公眾可以理解。

　　紐約非盈利公司ProPublica調(diào)查了有種族偏見(jiàn)的算法，它們被用來(lái)評(píng)估被告的犯罪風(fēng)險(xiǎn)。上述法案的發(fā)起人、紐約市議員James Vacca說(shuō)他受到了該調(diào)查的啟發(fā)。

　　“我的目的在于透明化和問(wèn)責(zé)。”Vacca說(shuō)

　　之前，該法案有一個(gè)更徹底的版本，規(guī)定市政機(jī)構(gòu)要公布所有用于“追蹤服務(wù)”(targeting services)或“對(duì)人施加懲罰或維護(hù)治安”的算法的源代碼，并讓它們接受公眾的“自我測(cè)試”。在10月份舉行的一次市政廳聽(tīng)證會(huì)上，市長(zhǎng)辦公室的代表表示擔(dān)心這種規(guī)定將威脅紐約人的隱私和政府的網(wǎng)絡(luò)安全。

　　該法案是市議會(huì)在上周就算法提出的兩項(xiàng)舉措之一。上周四，衛(wèi)生和公共安全委員會(huì)就紐約市的取證方法舉行了一場(chǎng)聽(tīng)證會(huì)，包括首席法醫(yī)辦公室的犯罪實(shí)驗(yàn)室針對(duì)難以分析的DNA樣本開(kāi)發(fā)的有爭(zhēng)議的工具。

　　在9月份詳細(xì)披露的ProPublica/紐約時(shí)報(bào)調(diào)查中，科學(xué)專家和前犯罪實(shí)驗(yàn)室員工質(zhì)疑該實(shí)驗(yàn)室針對(duì)復(fù)雜的DNA樣本創(chuàng)建的一個(gè)算法。

　　這款軟件名為“司法統(tǒng)計(jì)工具”(FST)，美國(guó)其他實(shí)驗(yàn)室從未采用過(guò)它。

　　紐約市議員、健康委員會(huì)主席Corey Johnson引用了ProPublica調(diào)查的兩個(gè)主要結(jié)果：FST的開(kāi)發(fā)者已經(jīng)承認(rèn)該程序的一個(gè)關(guān)鍵輸入的誤差范圍為30%，以及該程序不考慮家庭成員可能會(huì)共享DNA。

　　紐約市不再在新案件中使用這個(gè)工具。但出席聽(tīng)證會(huì)的官員說(shuō)，他們認(rèn)為沒(méi)必要重審過(guò)去數(shù)年里依賴這項(xiàng)技術(shù)的數(shù)千起刑事案件。

　　“你是否愿意審查那些涉及測(cè)試非常小的混合物的案件，或者是否對(duì)在每個(gè)分配到實(shí)驗(yàn)室的案件中所使用的所有方法和科學(xué)都充滿信心?”Johnson問(wèn)官員。

　　“我們完全有信心，”紐約市首席驗(yàn)尸官Barbara Sampson博士回答。

　　多年來(lái)，該算法的源代碼一直處于保密狀態(tài)。為此，ProPublica提交了一份申請(qǐng)，以解除對(duì)該算法的保護(hù)令。10月，一名聯(lián)邦法官批準(zhǔn)了該申請(qǐng)，然后ProPublica公布了源代碼。

　　辯護(hù)律師在聽(tīng)證會(huì)上作證，批評(píng)首席法醫(yī)辦公室，認(rèn)為他們DNA工具的開(kāi)發(fā)過(guò)程不透明，而這很危險(xiǎn)。

　　9月，一些人聯(lián)合寫(xiě)信給紐約州檢察長(zhǎng)，要求調(diào)查犯罪實(shí)驗(yàn)室和審查之前的案件。檢察長(zhǎng)Catherine Leahy Scott尚未表示是否會(huì)進(jìn)行追究。與此同時(shí)，紐約州法醫(yī)科學(xué)委員會(huì)(它負(fù)責(zé)監(jiān)督州內(nèi)實(shí)驗(yàn)室的取證方法)在秘密會(huì)議上討論了這些批評(píng)。這些會(huì)議不對(duì)公眾開(kāi)放，委員會(huì)委員也不能談?wù)撍鼈儭?/p>

　　聽(tīng)證后，Johnson表示，法醫(yī)證詞與辯護(hù)律師證詞之間的不一致讓他感到擔(dān)憂，他打算進(jìn)行進(jìn)一步的探索。

　　“這是一個(gè)非常非常重要的問(wèn)題，我們必須確保所使用的方法具有科學(xué)上的合理性，用適當(dāng)?shù)姆绞綄?duì)其加以驗(yàn)證，讓它們對(duì)公眾和辯護(hù)律師保持透明，確保民眾對(duì)司法系統(tǒng)更加信任，”Johnson說(shuō)，“通過(guò)提出更多的問(wèn)題，我們有望做到這些，并可能考慮在未來(lái)立法。”

　　編譯：鄧桂華。本文來(lái)自propublica