吉米戈麥斯是加州民主黨人，哈佛大學(xué)畢業(yè)生，也是少數(shù)在美國眾議院任職的西班牙裔立法者之一。
但在亞馬遜的面部識(shí)別系統(tǒng)里，他被識(shí)別為一個(gè)潛在的罪犯。
戈麥斯是28名美國國會(huì)議員中的一員，與被逮捕的人的照片完全匹配，這是去年美國公民自由聯(lián)盟對亞馬遜重新認(rèn)知計(jì)劃進(jìn)行測試的一部分。
亞馬遜被警方使用工具中將近有40％的虛假匹配，涉及有色人種。
這些發(fā)現(xiàn)被公民自由團(tuán)體，立法者甚至一些科技公司越來越多的關(guān)注，隨著技術(shù)變得更加主流，面部識(shí)別可能會(huì)傷害少數(shù)人種。iPhone和Android手機(jī)上已經(jīng)開始使用面部識(shí)別技術(shù)進(jìn)行解鎖，警察、零售商、機(jī)場和學(xué)校也在慢慢接觸它。但是研究表明，面部識(shí)別系統(tǒng)更難以識(shí)別女性和膚色較黑的人，這可能導(dǎo)致災(zāi)難性的誤報(bào)。
“這是一個(gè)例子，說明技術(shù)在執(zhí)法領(lǐng)域的應(yīng)用如何對已經(jīng)過度監(jiān)管的社區(qū)造成有害后果，”北加州ACLU的技術(shù)和公民自由律師Jacob Snow說。
面部識(shí)別有它的好處。馬里蘭州的警察利用這項(xiàng)技術(shù)在首都公報(bào)的大規(guī)模槍擊案中找出了一名嫌犯；在印度，它幫助警察在四天內(nèi)識(shí)別了近3000名失蹤兒童；Facebook使用該技術(shù)為視障人士識(shí)別照片中的人物；它已成為解鎖智能手機(jī)的便捷方式。
但這項(xiàng)技術(shù)并不完美，而且還有一些尷尬的失誤。谷歌照片曾將兩個(gè)黑人識(shí)別成大猩猩。在中國，一位女士聲稱她的同事能夠使用Face ID 解鎖她的iPhone X。當(dāng)執(zhí)法機(jī)構(gòu)使用面部識(shí)別來識(shí)別犯罪嫌疑人或在抗議中揭露人們時(shí)，被誤認(rèn)的風(fēng)險(xiǎn)就會(huì)增加。
“當(dāng)執(zhí)法部門使用這項(xiàng)技術(shù)確定某人是否因犯罪而被通緝時(shí)，那就是完全不同的情況，”戈麥斯說，“錯(cuò)誤的身份有可能會(huì)導(dǎo)致執(zhí)法部門和那個(gè)人之間發(fā)生致命的互動(dòng)?！?/p>
立法者對ACLU的調(diào)查結(jié)果并不感到震驚，并指出科技工作者通常更多地考慮如何使某些東西發(fā)揮作用，而不是關(guān)于他們構(gòu)建的工具如何影響少數(shù)人種。
科技公司通過改進(jìn)用于培訓(xùn)面部識(shí)別系統(tǒng)的數(shù)據(jù)來回應(yīng)批評，但與民權(quán)活動(dòng)家一樣，他們也呼吁更多的政府監(jiān)管，以幫助保護(hù)技術(shù)不被濫用。喬治敦大學(xué)法學(xué)院的研究人員估計(jì)，每兩名美國成年人中就有一名被用于執(zhí)法人員使用的面部識(shí)別網(wǎng)絡(luò)。
亞馬遜不贊同ACLU研究，認(rèn)為組織在測試識(shí)別系統(tǒng)時(shí)使用了錯(cuò)誤的方法。
“機(jī)器學(xué)習(xí)是一個(gè)非常有價(jià)值的工具，可以幫助執(zhí)法機(jī)構(gòu)，雖然可能存在誤判，我們不能因?yàn)樵O(shè)定了錯(cuò)誤的溫度導(dǎo)致烤焦了披薩而扔掉烤箱?！?a href="http://worldfootballweekly.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能總經(jīng)理Matt Wood在亞馬遜網(wǎng)絡(luò)服務(wù)公司的一篇博文中辯解道。
識(shí)別問題
與白人男性相比，面部識(shí)別服務(wù)可能更難以識(shí)別少數(shù)民族和女性，這有多種原因。
喬治城法學(xué)院隱私與技術(shù)中心的高級助理克萊爾加維說，科技工作者用來訓(xùn)練計(jì)算機(jī)識(shí)別面孔的公開照片可能包括比白人更多的白人。例如，如果一家公司使用名人數(shù)據(jù)庫中的照片，那么它就會(huì)傾向于白人，因?yàn)楹萌R塢的少數(shù)人種人數(shù)不足。
Garvie說，科技公司的工程師，大多是白人，也可能在不知不覺中設(shè)計(jì)面部識(shí)別系統(tǒng)，以更好地識(shí)別某些種族。研究表明，人們更難以識(shí)別另一個(gè)種族的面孔，并且“跨種族偏見”可能會(huì)滲入人工智能。她還補(bǔ)充說，對于深色皮膚缺乏色彩對比的問題，以及女性使用化妝品來掩蓋皺紋或頭發(fā)不同的問題，都存在挑戰(zhàn)。
根據(jù)麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員進(jìn)行的一項(xiàng)研究，微軟，IBM和Face ＋＋制作的面部識(shí)別系統(tǒng)很難確定像非洲裔美國人這樣的黑皮膚女性的性別。35％的黑皮膚女性的性別會(huì)被誤認(rèn)為是高加索人等1％的淺膚色男性。
麻省理工學(xué)院于1月份發(fā)布的另一項(xiàng)研究表明，亞馬遜的面部識(shí)別技術(shù)比微軟或IBM確定黑皮膚女性性別的工具更難。
12下一頁>（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
