跨國科技公司 IBM 正準備退出臉部辨識業務,因為他們擔心該技術可能會被用於大規模監視和種族特徵分析。
針對佛洛伊德(George Floyd)逝世的抗議潮,引發了人們對種族歧視現象的廣泛反思,也讓人們更仔細地去審視,警方是如何使用技術來追蹤示威者,並監視美國社區的。
在研究人員發現 IBM 、微軟、亞馬遜等公司構建的識別系統中存在種族和性別差異之後,使用 AI 辨識照片數據庫或影片中的個人的做法,受到了越來越多的審查,而 IBM 也曾試圖提高臉部掃描軟體準確性,但是新任執行長現在質疑這項技術由警察使用是否妥當。
執行長克里希納(Arvind Krishna)在週一致國會議員的一封信中寫道:「我們認為現在是時候,就國內執法機構是否應該以及如何使用臉部辨識技術一事,展開全國性對話。」
克里希納的信是寫給一群民主黨議員的,他們一直在國會針對現在的大規模抗議活動進行立法改革。而全面的改革方案,可能包括限制警察使用臉部辨識技術等措施。
克里希納的信呼籲進行警察改革,並指出:「IBM 堅決反對,也不會容忍使用任何技術(包括其他供應商提供的臉部辨識技術),來進行大規模監視、種族歧視、侵犯人權的行為。」
喬治城大學隱私與技術中心的研究人員加維(Clare Garvie)表示,許多美國執法機構都依賴不太知名的公司(例如總部位於東京的 NEC 或歐洲公司 Idemia 和 Cognitec )研發的臉部辨識軟體。
麻省理工學院針對臉部辨識偏差的的研究員布拉姆維尼(Joy Buolamwini)於週二表示,她贊同國會對警察部門進行的一系列改革方案,限制警察使用人體攝影機掃描人臉。她也建議,議員們可以採取進一步措施,保護人們免於被政府在不知情的情況下,在社交媒體貼文或公共場所掃描自己的臉。
「無論這些識別系統的準確性如何,臉部識別所導致的大規模監視,都可能導致寒蟬效應。」布拉姆維尼說。
資料來源:ABC News – IBM quits facial recognition, joins call for police reforms