“我們不會(huì)看到事物的本質(zhì)，我們只是以自己的方式在看待它?！彼喈?dāng)簡(jiǎn)潔地描述了伴隨我們的大腦而來的各種不幸的偏見。

在商業(yè)環(huán)境中，親和力偏差、確認(rèn)偏差、歸因偏差和光環(huán)效應(yīng)，這些推理錯(cuò)誤中的一些更為人所知的，實(shí)際上只是表面上的?？偟膩碚f，他們會(huì)留下一連串的冒犯和錯(cuò)誤。

當(dāng)然，人類最有害的偏見是那些基于年齡、種族、性別、宗教或外貌而對(duì)我們的人類同胞產(chǎn)生偏見或反對(duì)我們的偏見。盡管我們努力凈化我們自己、我們的工作環(huán)境和我們的社會(huì)，使其不受這些扭曲的影響，但它們?nèi)匀辉谖覀兊乃枷牒托袨橹袧B透，甚至包括現(xiàn)代技術(shù)，比如人工智能。

自從人工智能首次被部署在招聘、貸款審批、保險(xiǎn)費(fèi)建模、面部識(shí)別、執(zhí)法和一系列其他應(yīng)用中以來，批評(píng)人士(有相當(dāng)多的理由)指出了該技術(shù)的偏見傾向。

例如，谷歌的新版語(yǔ)言模型BERT(Bidirectional Encoder Representations from Transformers)是一個(gè)領(lǐng)先的自然語(yǔ)言處理(NLP)模型，開發(fā)人員可以使用它來構(gòu)建他們自己的AI。BERT最初是使用維基百科文本作為其主要來源構(gòu)建的。這有什么問題嗎?維基百科的貢獻(xiàn)者絕大多數(shù)是來自歐洲和北美的白人男性。因此，基于語(yǔ)言的人工智能最重要的來源之一在其誕生之初就帶有偏見的觀點(diǎn)。

在人工智能開發(fā)的另一個(gè)關(guān)鍵領(lǐng)域計(jì)算機(jī)視覺中也發(fā)現(xiàn)了類似的問題。面部識(shí)別數(shù)據(jù)集包含數(shù)十萬(wàn)張標(biāo)注的人臉，這對(duì)于開發(fā)用于網(wǎng)絡(luò)安全、執(zhí)法甚至客戶服務(wù)的面部識(shí)別應(yīng)用程序至關(guān)重要。然而，事實(shí)證明，開發(fā)人員（可能大部分是白人中年男性）在為像他們這樣的人實(shí)現(xiàn)準(zhǔn)確性方面不知不覺地做得更好。女性、兒童、老年人和有色人種的錯(cuò)誤率遠(yuǎn)高于中年白人男性。因此，IBM、亞馬遜和微軟在2020年被迫停止向執(zhí)法部門銷售其面部識(shí)別技術(shù)，因?yàn)閾?dān)心這些偏見會(huì)導(dǎo)致對(duì)嫌疑人的錯(cuò)誤識(shí)別。

要了解更多信息，可以觀看重要且有時(shí)令人不寒而栗的紀(jì)錄片《編碼偏見》Coded Bias。

然而，對(duì)人工智能偏見現(xiàn)象的更好理解表明，人工智能只是暴露和放大了已經(jīng)存在但被忽視或誤解的隱性偏見。人工智能本身不受顏色、性別、年齡和其他偏見的影響。它不易受到困擾人類的邏輯謬誤和認(rèn)知偏見的影響。我們看到人工智能存在偏見的唯一原因是人類有時(shí)會(huì)用啟發(fā)式錯(cuò)誤和有偏見的數(shù)據(jù)來訓(xùn)練它。

自從發(fā)現(xiàn)上述偏見以來，所有主要的技術(shù)公司都在努力改進(jìn)數(shù)據(jù)集并消除偏見。消除人工智能偏見的一種方法？——通過使用人工智能！如果這似乎不太可能，我們繼續(xù)探討。

經(jīng)典的例子可以在工作機(jī)會(huì)中找到。在最令人垂涎的就業(yè)機(jī)會(huì)范圍內(nèi)，眾所周知，女性和有色人種的代表性不足。這種現(xiàn)象是自我延續(xù)的，因?yàn)樾聠T工成為高級(jí)領(lǐng)導(dǎo)者，他們開始負(fù)責(zé)招聘。親和偏見確?！跋裎疫@樣的人”繼續(xù)被錄用，而歸因偏見則根據(jù)過去員工的表現(xiàn)證明這些選擇是正確的。

但當(dāng)人工智能在招聘中發(fā)揮更大作用時(shí)，這種情況可能會(huì)改變。像Textio、Gender Decoder和Ongig這樣的工具使用人工智能來仔細(xì)檢查關(guān)于性別和其他特征的隱藏偏見。Knockri、Ceridian和Gapjumpers使用人工智能刪除或忽略識(shí)別性別、國(guó)籍、膚色和年齡的特征，這樣招聘經(jīng)理就可以只關(guān)注求職者的資格和經(jīng)驗(yàn)。其中一些解決方案還通過客觀評(píng)估候選人的軟技能或改變候選人的電話聲音來掩蓋他們的性別，從而減少了面試過程中的近因偏見、親和力偏見和性別偏見。

在風(fēng)險(xiǎn)投資界也可以采取類似的做法。在風(fēng)險(xiǎn)投資界，男性占合伙人的 80% ，而女性只獲得2.2%的投資，盡管她們是40%新創(chuàng)業(yè)公司的創(chuàng)始人。例如，英國(guó)創(chuàng)業(yè)加速器Founders Factory編寫了一款軟件，根據(jù)可識(shí)別的創(chuàng)業(yè)成功特征對(duì)項(xiàng)目候選人進(jìn)行篩選。同樣，由女性運(yùn)營(yíng)的非盈利機(jī)構(gòu)F4capital開發(fā)了一套“創(chuàng)業(yè)公司 FICO 評(píng)分 ”(FICO score for Startups)，用來評(píng)估初創(chuàng)公司的成熟度、機(jī)會(huì)和風(fēng)險(xiǎn)，以消除風(fēng)險(xiǎn)決策過程中的偏見。這種方法應(yīng)該被廣泛采用，不僅因?yàn)樗且患虾醯赖碌氖虑?，還因?yàn)樗鼛砹烁玫幕貓?bào)——比沒有人工智能幫助的投資高出184% 。

人工智能還可以幫助在醫(yī)療保健方面做出更好的決策。例如，醫(yī)療診斷公司 Flow Health 致力于使用人工智能來克服醫(yī)生經(jīng)常用來診斷病人的認(rèn)知偏見。例如，“可獲得性啟發(fā) ”鼓勵(lì)醫(yī)生做出常見但有時(shí)不正確的診斷，而“錨定啟發(fā)式”導(dǎo)致他們堅(jiān)持不正確的初始診斷，即使新信息與他們相矛盾。我相信人工智能將成為快速發(fā)展的數(shù)據(jù)驅(qū)動(dòng)的個(gè)性化醫(yī)療世界的重要組成部分。

人工智能甚至可以幫助減少不那么惡性、但仍然非常強(qiáng)大的偏見，這些偏見經(jīng)常會(huì)蒙蔽我們的商業(yè)判斷。想想(在英語(yǔ)國(guó)家)對(duì)用英語(yǔ)發(fā)布的信息的偏見，創(chuàng)業(yè)公司對(duì)年紀(jì)較大的人的偏見，盡管他們的知識(shí)和經(jīng)驗(yàn)更豐富；制造業(yè)傾向于使用相同的供應(yīng)商和方法，而不是嘗試新的、可能更好的方法。別忘了，在經(jīng)濟(jì)困難時(shí)期，供應(yīng)鏈管理的高管和華爾街的投資者會(huì)出于情感因素做出短期決策。

讓人工智能在所有這些領(lǐng)域發(fā)揮作用，可以有效地檢查決策過程中未被識(shí)別的偏見。

如果犯錯(cuò)是人的本性，人工智能可能是我們所需的解決方案，以避免我們隱藏的偏見帶來的代價(jià)高昂和不道德的后果。但這些偏見對(duì)人工智能本身的干擾又如何呢？如果人工智能誤讀了有偏見的數(shù)據(jù)，并放大了有偏見的人類啟發(fā)式，它怎么可能是一個(gè)有用的解決方案?

現(xiàn)在有一些工具旨在消除隱含的人類和數(shù)據(jù)偏見，這些偏見悄悄地進(jìn)入人工智能。What-If 工具由 Google 的 People and AI Research 團(tuán)隊(duì) (PAIR) 開發(fā)，允許開發(fā)人員使用廣泛的“公平指標(biāo)”庫(kù)來探索 AI 的性能，而 PWC 的BiasAnalyzer 工具、IBM Research 的AI Fairness 360工具和 O' Reilly 的每個(gè)LIME 工具都可以幫助我們識(shí)別 AI 代碼中是否存在偏見。

如果你是一名高級(jí)管理人員或董事會(huì)成員，正在考慮人工智能可能減少你組織中的偏見的方式，我敦促您將人工智能視為武器庫(kù)中一個(gè)有希望的新武器，而不是將其視為完全解決問題的靈丹妙藥。從整體和實(shí)際角度來說，你仍然需要建立減少偏見的基準(zhǔn)，培訓(xùn)你的員工識(shí)別和避免隱藏的偏見，并從客戶、供應(yīng)商或顧問那里收集外部反饋。偏見審查不僅是一個(gè)好主意，在某些情況下，它們甚至是法律。

本文作者：Glenn Gow千家網(wǎng)編譯

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。