IBM聯(lián)手紐約市警察局開發(fā)AI系統(tǒng):根據(jù)種族搜索人員

北京時間9月7日早間消息,美國科技媒體The Intercept和美國國家研究院非盈利調(diào)查基金的最新報告顯示,IBM與紐約市警察局合作開發(fā)了一種系統(tǒng),讓警方可以根據(jù)膚色、發(fā)色、性別、年齡和各種面部特征去搜索相關人員。
該報告引用“機密公司文件”(confidential corporate documents)以及對項目參與工程師的采訪稱,IBM大約在10年前開始與“紐約下曼哈頓安全項目”(New York’s Lower Manhattan Security Initiative)反恐中心合作開發(fā)數(shù)據(jù)分析平臺。此前IBM還與芝加哥進行過聯(lián)合試驗。當時,IBM是微軟旗下Vexcel的分包商。
利用紐約市警察局提供的來自大約50個攝像頭的數(shù)千張照片,IBM的計算機視覺系統(tǒng)從1.6萬個數(shù)據(jù)點去進行學習,識別服裝顏色等身體特征,以及其它可能的威脅因素,例如無人看管的包裹、闖入禁區(qū)的人,以及車輛在車流中的加速行駛。
報道稱,紐約市警察局官員早在2012年就對這款軟件進行了測試。
不過,警察局發(fā)言人皮特·唐納德(Peter Donald)回應稱,其過濾工具只是用于“評估目的”,警察會被告知將某些膚色的人排除在搜索范圍之外。他同時表示,紐約市警察局已經(jīng)向“民選的領導人和利益相關方”告知了這方面的工作,但沒有公開透露任何細節(jié)。
唐納德還證實,紐約市警察局最終決定不部署這個項目,并明確拒絕了一個可以根據(jù)種族進行人員搜索的改進版本。
IBM回應稱:“IBM致力于負責任地推進和使用新技術,并在促進多樣性和包容性方面得到認可。這就是為什么我們向其他公司公開提供100多萬張圖像的注釋數(shù)據(jù),以幫助解決面部識別中最大的問題之一:缺乏多樣化的數(shù)據(jù)去訓練人工智能系統(tǒng)。”