高層速讀

1.關(guān)鍵事件：MIT和斯坦褔大學(xué)合作研究了三個(gè)商用程序，發(fā)表了關(guān)于面部辨識技術(shù)存在性別和膚色歧視的論文，并提出了一種更準(zhǔn)確的新方法來評估這種機(jī)器學(xué)習(xí)系統(tǒng)的性能；

2.關(guān)鍵數(shù)據(jù)：在面部辨識系統(tǒng)的辯識表現(xiàn)上，女性的錯(cuò)誤率比男性的高，而膚色較深受試者的錯(cuò)誤率比膚色較淺受試者的高。

MIT和斯坦褔大學(xué)合作的研究團(tuán)隊(duì)針對三種不同的面部辨識技術(shù)進(jìn)行研究，發(fā)現(xiàn)它們顯示出了性別和種族歧視。論文全文將會在本月稍后舉行的 公平、責(zé)任和透明度會議（Conference on Fairness, Accountability, and Transparency）發(fā)布。

在研究人員的實(shí)驗(yàn)中，這三個(gè)程序在確定淺膚色男性性別方面的誤差率從未超過0.8%。然而，對于膚色較深的女性，誤差率較高——在一個(gè)軟件中超過20%，在另兩個(gè)軟件中超過34%。

這一發(fā)現(xiàn)引發(fā)了人們的疑問：通過在龐大的數(shù)據(jù)集中尋找模型來學(xué)習(xí)執(zhí)行計(jì)算任務(wù)，如今的神經(jīng)網(wǎng)絡(luò)是如何訓(xùn)練和評估的？根據(jù)這篇論文，美國一家技術(shù)公司的研究人員聲稱，他們設(shè)計(jì)的人臉辨識系統(tǒng)準(zhǔn)確率超過97%，但是用來評估其性能的數(shù)據(jù)集中，男性人數(shù)超過77%，白人超過83%。

“這里真正重要的是方法，以及該方法如何應(yīng)用于其他應(yīng)用程序，”麻省理工學(xué)院媒體實(shí)驗(yàn)室(MIT Media Lab)的公民媒體組(Civic Media Group)研究員、論文的第一作者Joy Buolamwin說，“這種以數(shù)據(jù)為中心的技術(shù)，可以用來確定某人的性別，也可以識別人臉，從而幫助尋找犯罪嫌疑人，或者解鎖的手機(jī)。這不僅僅關(guān)于計(jì)算機(jī)視覺，我真的希望能有更多研究工作來關(guān)注這個(gè)問題?！?/p>

偶然的發(fā)現(xiàn)

Buolamwini和Gebru研究的三個(gè)程序是一種通用的面部辨識系統(tǒng)，可以用來匹配不同照片中的人臉，也可以用來評估性別，年齡和心情特征。這三個(gè)系統(tǒng)都將性別分類視為一個(gè)二元決策——男性還是女性——這使得他們在這項(xiàng)任務(wù)上的表現(xiàn)在統(tǒng)計(jì)上特別容易評估。

事實(shí)上，正是通過其中一個(gè)程序發(fā)現(xiàn)了面部跟蹤中的明顯歧視，才促使 Buolamwini的調(diào)查展開。

幾年前，作為媒體實(shí)驗(yàn)室的研究生，Buolamwini正在開發(fā)一個(gè)名為“樂觀墻”（Upbeat Walls）的系統(tǒng)，這是一種交互式的多媒體藝術(shù)裝置，允許用戶通過移動(dòng)頭部控制投射到反射面上的彩色圖案。為了跟蹤用戶的動(dòng)作，該系統(tǒng)使用了一個(gè)商用面部分析程序.

Buolamwini組建的團(tuán)隊(duì)在種族構(gòu)成上是多種多樣的，但是研究人員發(fā)現(xiàn)，當(dāng)該裝置面向公眾的時(shí)候，他們要依賴一群淺膚色的團(tuán)隊(duì)成員去演示。該系統(tǒng)似乎無法可靠地與膚色較深的用戶一起工作。

出于好奇，黑人Buolamwini開始將自己的照片提交給商用面部識別程序。在一些情況下，這些程序完全無法從照片上識別出人類面孔。當(dāng)他們這么做的時(shí)候，他們一直錯(cuò)誤地識別了Buolamwini的性別。

定量化標(biāo)準(zhǔn)

為了系統(tǒng)地調(diào)查那三個(gè)程序的歧視問題，Buolamwini首先收集了一組圖像，其中女性和深色皮膚的人的表現(xiàn)比用于評估面部分析系統(tǒng)的數(shù)據(jù)集中的要好得多。最終的數(shù)據(jù)集包含1,200多個(gè)圖像。

接下來，她和一位皮膚科醫(yī)生合作，根據(jù)皮膚色調(diào)的Fitzpatrick分型（將皮膚顏色根據(jù)對日光照射后的灼傷或曬黑的反應(yīng)特點(diǎn)，分為 I-VI 型）來編碼這些圖像。

然后，她將技術(shù)公司的三個(gè)商業(yè)面部分析系統(tǒng)應(yīng)用到了她新構(gòu)建的數(shù)據(jù)集上。在這三個(gè)系統(tǒng)中，性別分類的錯(cuò)誤率是一致的。女性的錯(cuò)誤率比男性的高，而膚色較深受試者的錯(cuò)誤率比膚色較淺受試者的高。

具體來說，三個(gè)面部辨識系統(tǒng)對于深膚色女性的辨識率，分別高達(dá)20.8%, 34.5 %和34.7%。其中兩個(gè)系統(tǒng)對于分類為最深膚色的女性面孔的辨識率更是高達(dá)46.5%和46.8%。所以從本質(zhì)上看，這和系統(tǒng)丟硬幣隨機(jī)選擇沒什么兩樣了。

一個(gè)被簡化為二進(jìn)制分類的任務(wù)，如果在三個(gè)商用系統(tǒng)中都有1/3的誤差率，你必須要問，這在一個(gè)不同的亞群體中是允許的嗎？”Buolamwini說，”另一大教訓(xùn)是關(guān)于我們的基準(zhǔn)，我們衡量成功的標(biāo)準(zhǔn)，它們可能給我們一種錯(cuò)誤的進(jìn)步感。”

微信搜索【AI商業(yè)報(bào)道】，獲取最新行業(yè)資訊！

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。