分不出黑人?美國大城市質疑臉部辨識系統成效

出版時間:2019/08/27 08:36

臉部辨識系統作為監控社會,在中國已毫無討論空間地實行了,不過在歐美國家仍是熱議話題。美國治安最差城市之一的密西根州底特律市(Detroit),警方兩年前斥資添購強大的臉部辨識軟體,但惹來爭議,當地市議會正與警方監察委員會、州議會研議是否禁用,數周後表決。在美國,臉部辨識系統引發的爭議不僅關乎隱私權,還有精確度之下的種族歧視問題。
 
八成人口為非裔的底特律,2017年花費逾100萬美元購買臉部辨識軟體,號稱有助維護治安。據底特律警方提出的數據,當地去年共發生261件兇殺案,僅比2017年少6件,強暴案還增加約200件,整體暴力犯罪率僅減少2%。國家廣播公司(NBC)訪查警方辨識中心後發現,分析師從監視畫面取下一個頭像,與資料庫比對後,竟出現170個可能的對象,加深人們對辨識系統精確度疑慮。
 
底特律警方監察委員波爾頓(Willie Burton)質疑,底特律是全美最貧困、最多非裔人口的地方之一,若市民被臉部辨識系統誤判為罪犯、又無法找到合適的辯護律師時,該如何自救?考量辨識系統的精確度和底特律民情,不應該這麼快就開始使用臉部辨識系統執法。雖然警方強調,不會完全仰賴辨識系統追蹤嫌犯,會公正並合理審視比對結果,但人權團體表示,從經驗來看,很難相信警方的話。
 
此外,密西根州今年修改墮胎法,孕婦只能在胎兒會危及母體生命安全時墮胎,裝設在墮胎診所外的警方監視器被質疑監控路過的女性,讓臉部辨識系統在當地被推到風尖浪口。
 
事實上,美國公民自由聯盟(ACLU)去年進行實驗,用亞馬遜(Amazon)的臉部辨識系統比對國會全體議員頭像,結果有28名議員被系統誤認為有前科的罪犯,當中多人是有色人種。
 
今年5月美國眾議院舉行關於臉部辨識技術的聽證會,麻省理工學院研究員布倫維妮(Joy Buolamwini)在會上表示,演算法的主要工程師是白人男性,目前臉部辨識的演算法,辨別白人男性臉孔最為精確。她去年發表研究報告,綜合各辨識軟體數據,發現有色人種女性被誤判的機率達35%。今年她再進行測試,發現亞馬遜軟體對有色人種女性的誤判率仍有31%,專攻臉部辨識技術的Kairos公司誤判率也達22.5%。
 
在同一場聽證會內,眾議員歐加修-寇蒂茲(Alexandria Ocasio-Cortez)質詢過程中也揭露,大型企業如亞馬遜、臉書、微軟會在人們不知情的情況下蒐集頭像,再賣給政府。各地政府機構如車輛管理局(DMV),比大企業蒐集更多臉孔數據。
 
全美多個大都市的警察局都有使用臉部辨識系統,包含紐約市、波士頓、奧蘭多、聖荷西等,更高層級的則有加州司法部、科羅拉多州公安部、美國海關與邊境保護局(CBP)。佛州執法機構每月使用臉部辨識軟體搜尋的次數,平均高達8,000次;而有更多執法機構,並未密切記錄官員使用臉部辨識系統的狀況,很難藉此評估破案效能,更難防濫用。

在大都會紐約市,人們對於官方如何使用臉部辨識系統的關注度不高,但紐約州議會正討論是否禁止房東在公寓大樓內,設置臉部辨識系統。加州舊金山今年已立法禁止,各政府機構使用臉部辨識系統,創全國首例,之後奧克蘭市(Oakland)和麻州也陸續設置類似限制令。(林宜萱/綜合外電報導)

麻省理工研究員發現,有色人種女性被臉部辨識系統誤判的機率達35%。圖片來源:Microsoft
麻省理工研究員發現,有色人種女性被臉部辨識系統誤判的機率達35%。圖片來源:Microsoft

大型科技公司如臉書、亞馬遜可以輕易從網路上取得臉孔數據。翻攝flickr
大型科技公司如臉書、亞馬遜可以輕易從網路上取得臉孔數據。翻攝flickr

歐普拉(粉色衣者)曾被亞馬遜的臉部辨識系統判定為男性。翻攝推特/Oprah
歐普拉(粉色衣者)曾被亞馬遜的臉部辨識系統判定為男性。翻攝推特/Oprah

本新聞文字、照片、影片專供蘋果「升級壹會員」閱覽,版權所有,禁止任何媒體、社群網站、論壇,在紙本或網路部分引用、改寫、轉貼分享,違者必究。

下載「蘋果新聞網APP


有話要說 投稿「即時論壇」
更多

《國際》

新聞