高層速讀

關(guān)鍵信息：微軟面部識(shí)別API更新，將深色皮膚識(shí)別錯(cuò)誤率降低20倍，將所有女性面部識(shí)別的錯(cuò)誤率降低9倍，它收集了不同膚色、性別和年齡的新數(shù)據(jù)，提高了算法性別分類(lèi)器的精確度。

關(guān)鍵意義：改善了算法模型中的偏見(jiàn)，為全球計(jì)算機(jī)視覺(jué)平臺(tái)的公平性貢獻(xiàn)了一份力。

在微軟今天發(fā)布的博客中，其宣布了一項(xiàng)面部識(shí)別API的更新，該更新將改善面部識(shí)別平臺(tái)識(shí)別不同膚色的能力，這也是計(jì)算機(jī)視覺(jué)平臺(tái)面臨的一個(gè)長(zhǎng)期挑戰(zhàn)。

隨著這些更新，它能夠?qū)?strong>深色皮膚識(shí)別錯(cuò)誤率降低20倍，將所有女性面部識(shí)別的錯(cuò)誤率降低9倍。

多年來(lái)，面部識(shí)別系統(tǒng)一直存在種族偏見(jiàn)的敏感性。一項(xiàng)研究顯示，在非裔美國(guó)人的面孔上，來(lái)自安全廠商的面部識(shí)別技術(shù)被廣泛使用，但比識(shí)別其他膚色人種的準(zhǔn)確率要低5-10%；中國(guó)、日本、韓國(guó)的算法在識(shí)別白種人上也比黃種人有優(yōu)勢(shì)；2015年谷歌曾經(jīng)將軟件工程師的一位黑人朋友認(rèn)定為大猩猩，而不得不站出來(lái)賠禮道歉。

為了解決這個(gè)問(wèn)題，微軟的研究人員修改并擴(kuò)展了臉部API的訓(xùn)練和數(shù)據(jù)集，并收集了不同膚色、性別和年齡的新數(shù)據(jù)，提高了算法性別分類(lèi)器的精確度。

微軟紐約研究實(shí)驗(yàn)室高級(jí)研究員漢娜沃勒克在一份聲明中說(shuō)：“我們討論了不同的方法來(lái)發(fā)現(xiàn)偏見(jiàn)和公平運(yùn)作；我們討論了數(shù)據(jù)收集工作的種類(lèi)，以使訓(xùn)練數(shù)據(jù)多樣化；我們與討論了在部署前對(duì)系統(tǒng)進(jìn)行內(nèi)部測(cè)試的不同策略。”

根據(jù)微軟博客文章，該公司還在人工智能系統(tǒng)開(kāi)發(fā)過(guò)程中建立了檢測(cè)和減輕不公平的試驗(yàn)。微軟Bing團(tuán)隊(duì)正與道德專(zhuān)家合作，探索如何在搜索結(jié)果中顯示“女性CEO的缺乏”。微軟指出，在《財(cái)富》500強(qiáng)中，只有不到5%的CEO是女性，而“CEO”的網(wǎng)頁(yè)搜索結(jié)果主要是男性的形象。

“如果我們正在的訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)是由有偏見(jiàn)的，那么它做出的決策必然會(huì)復(fù)制它的偏見(jiàn)。”沃勒克說(shuō)，“這是一個(gè)機(jī)會(huì)，讓我們真正思考我們?cè)谙到y(tǒng)中反映的價(jià)值觀，以及它們是否是我們想要系統(tǒng)中反映的.”

幸運(yùn)的是，微軟并不是唯一一家試圖將算法偏差最小化的公司。

今年5月，Facebook宣布了“公平流程”，該流程將自動(dòng)提醒用戶，如果一種算法基于他或她的種族、性別或年齡對(duì)一個(gè)人做出了不公平的判斷；IBM Watson團(tuán)隊(duì)最近的研究也集中在降低人工智能模型中的偏見(jiàn)方面，特別是面部識(shí)別。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。