10月18日消息，據(jù)國外媒體報道，一位自稱亞馬遜員工的作者在medium.com發(fā)表了一封公開信，表示反對亞馬遜將其面部識別系統(tǒng)Rekognition出售給美國的執(zhí)法機構(gòu)。

　　該信部分內(nèi)容如下：

　　當(dāng)一家公司將新技術(shù)推向世界時，它有責(zé)任考慮其后果。我所在的亞馬遜目前允許全國各地的警察部門購買其面部識別產(chǎn)品Rekognition，我和其他員工要求公司立即停止這項業(yè)務(wù)。

　　幾周前，我的同事就這事的影響給杰夫·貝索斯(Jeff Bezos，亞馬遜CEO，譯者注)和其他高管寫了一封信，這封信獲得了亞馬遜450多名員工的簽名。信中還要求亞馬遜將軟件公司Palantir踢出其云服務(wù)AWS，因為該公司為美國移民與海關(guān)執(zhí)法局(ICE)的驅(qū)逐與跟蹤系統(tǒng)提供了大部分的技術(shù)支持，并建立員工對公司決策進(jìn)行道德監(jiān)督的機制。

　　我們知道貝佐斯意識到了員工的這些擔(dān)憂，同時圍繞這一話題正與整個行業(yè)對話。在公開演講中，他承認(rèn)大型科技產(chǎn)品可能被執(zhí)法部門利用，甚至是濫用。但是，貝佐斯并沒有解釋亞馬遜將如何采取行動來防止其自身技術(shù)被不當(dāng)使用，而是建議我們等待社會產(chǎn)生“免疫反應(yīng)”。

　　如果亞馬遜繼續(xù)等待，我們認(rèn)為這種損害將難以消除。

　　畢竟，我們關(guān)注的不是其它公司將來可能造成的危害，而是亞馬遜目前正在設(shè)計、營銷和銷售的一套用于危險、大規(guī)模監(jiān)控的系統(tǒng)：Rekognition。亞馬遜網(wǎng)站吹噓說，該系統(tǒng)可以一次性存儲和搜索數(shù)千萬張人臉。執(zhí)法部門已經(jīng)開始使用亞馬遜的這項面部識別技術(shù)，但幾乎沒有任何公眾監(jiān)督，也沒有對此進(jìn)行公開辯論，或有所限制。佛羅里達(dá)州奧蘭多市正在通過遍布全市的監(jiān)控攝像頭的實時視頻信號來測試Rekognition。俄勒岡州的一個警察部門目前正在利用Rekognition，讓現(xiàn)場的警官將照片與數(shù)據(jù)庫的面部照片進(jìn)行比對。這已不再是一個假設(shè)的情況。

　　我們從歷史中了解到，新型的、強大的監(jiān)控工具不受控制地掌握在執(zhí)法機構(gòu)手中，將被用于針對那些沒有做過錯事的人;在美國，由于缺乏公共問責(zé)制，已經(jīng)導(dǎo)致了對有色人種、移民和行使第一修正案權(quán)利的人進(jìn)行過度干擾和過度監(jiān)管。在向政府和執(zhí)法機構(gòu)提供強大技術(shù)的同時，忽視這些緊迫問題是危險的和不負(fù)責(zé)任的。

　　這就是為什么當(dāng)AWS全球公共部門副總裁特雷薩·卡爾森(Teresa Carlson)最近表示亞馬遜“毫不動搖地支持”執(zhí)法、國防和情報部門的客戶時，我們感到失望。他甚至還說，即使我們“不知道他們實際上在利用這個工具做什么”。亞馬遜甚至建議，為警官隨身相機提供Rekognition功能，這將把本來作為警察問責(zé)的工具變成針對公眾的移動監(jiān)控設(shè)備。我們?yōu)槭裁匆�這樣做?

　　像我們這樣的公司不應(yīng)該開展促進(jìn)政府監(jiān)控的業(yè)務(wù)�，F(xiàn)在不行，永遠(yuǎn)也不行。但Rekognition支持通過從一幀視頻中提取幾十個面部標(biāo)識，并將它們存儲起來供以后使用，或者立即將它們與有數(shù)百萬張圖片的數(shù)據(jù)庫進(jìn)行比對。

　　銷售這個系統(tǒng)違背了亞馬遜的價值觀。我們標(biāo)榜自己是一家以客戶為中心的公司，貝佐斯自己直接反對美國政府針對移民的不道德政策，比如穆斯林禁令。

　　我們不能以犧牲公眾利益為代價，從那些擁有強大權(quán)力的客戶群體中獲利;我們不能忽視我們業(yè)務(wù)對公眾利益的損害。我們銷售的Rekognition系統(tǒng)是一種有缺陷的技術(shù)，它強化了美國現(xiàn)有的偏見。研究表明，面部識別技術(shù)更容易誤認(rèn)擁有深色皮膚的人。這一點在最近對Rekognition的測試中得到了明確的證明。這項調(diào)查將美國國會議員的照片與數(shù)據(jù)庫的一些臉部照片逐一比對，結(jié)果出現(xiàn)了28項錯誤匹配，而在有色人種中不正確結(jié)果比例特別高。但即使這些錯誤被修正了，允許執(zhí)法部門使用這種軟件仍然是不負(fù)責(zé)任、危險和不道德的�，F(xiàn)在，產(chǎn)生這種偏見的根源存在于美國更廣泛的社會和司法系統(tǒng)中。面部識別技術(shù)的使用只會復(fù)制和放大美國現(xiàn)有的這種偏見。

　　美國目前的政治環(huán)境使得向政府出售面部識別產(chǎn)品的想法更加令人反感。美國警方加大了對黑人活動人士的監(jiān)視力度，特朗普政府也在繼續(xù)全力打擊移民。我們不希望以任何方式為美國政府的超級監(jiān)視系統(tǒng)做出貢獻(xiàn)。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項技術(shù)的負(fù)面使用逃避責(zé)任的方式。

　　谷歌員工公開反對公司與美國國防部的Maven合同(編者注：該合同涉及使用人工智能來分析無人機鏡頭)，微軟員工公開反對公司與美國國防部的云計算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何，任何人都不應(yīng)該從“增加軍隊的殺傷力”中獲利。

　　亞馬遜談?wù)摿撕芏嚓P(guān)于領(lǐng)導(dǎo)力的價值觀問題。如果我們想要擁有領(lǐng)導(dǎo)力，我們需要在人類利益與利潤之間做出選擇。我們可以把危險的監(jiān)視系統(tǒng)賣給執(zhí)法部門，或者我們可以維護(hù)正義。但我們不能兩者兼得。