北京時(shí)間10月10日下午消息，亞馬遜公司的機(jī)器學(xué)習(xí)專家發(fā)現(xiàn)了一個(gè)大問題：他們的新招聘引擎不太喜歡女性。
據(jù)路透社援引五位知情人士的消息稱，從2014年開始，這支團(tuán)隊(duì)一直在開發(fā)審核求職者簡(jiǎn)歷的計(jì)算機(jī)程序，希望實(shí)現(xiàn)人才搜索的機(jī)械化。
一直以來，亞馬遜在電商市場(chǎng)稱霸的關(guān)鍵便是倉庫或定價(jià)決策的自動(dòng)化。公司的試驗(yàn)性招聘工具會(huì)利用人工智能技術(shù)為求職者打分（一星到五星不等）——一些人表示，這就像是購物者在亞馬遜上給產(chǎn)品評(píng)分。
一位知情人士說道，“他們真的希望有這樣一種引擎，那就是我扔給你100份簡(jiǎn)歷，你能區(qū)分出排名前五的求職者，然后我們就雇傭這部分人。”
但到2015年，公司意識(shí)到它的新系統(tǒng)并不能基于“性別中立”的原則來為軟件開發(fā)者崗位或是其他技術(shù)崗位的求職者進(jìn)行評(píng)級(jí)。
這也許是因?yàn)閬嗰R遜的計(jì)算機(jī)模型在接受訓(xùn)練時(shí)，觀察的是十年來投遞給公司的簡(jiǎn)歷并要從中發(fā)現(xiàn)固有模式。大多數(shù)簡(jiǎn)歷都是男性投遞的，這也反映了科技行業(yè)男性主導(dǎo)的現(xiàn)象。
事實(shí)上，亞馬遜的系統(tǒng)是自己學(xué)會(huì)優(yōu)選男性求職者的。據(jù)知情人士透露，該系統(tǒng)會(huì)給予包含“女性”這個(gè)詞的簡(jiǎn)歷以低星評(píng)級(jí)。它還會(huì)給兩所女子大學(xué)的畢業(yè)生進(jìn)行降分評(píng)級(jí)。知情人士并未透露兩所學(xué)校的名字。
亞馬遜修改了這些程序，使其對(duì)于特定的術(shù)語可以秉持中立的原則。但是，這依然無法保證機(jī)器不會(huì)想出其他的方式、以歧視性的態(tài)度對(duì)一些求職者進(jìn)行分類。
最終，這家西雅圖公司因?yàn)楦邔庸芾砣藛T對(duì)該項(xiàng)目失去了信心，在去年初解散了該團(tuán)隊(duì)。知情人士表示，在之前招聘新員工時(shí)，亞馬遜的招聘人員會(huì)查看該工具提供的建議，但絕對(duì)不會(huì)單單依賴這些排名作出決策。
亞馬遜拒絕對(duì)于該招聘引擎或面臨的挑戰(zhàn)作出評(píng)論，但是公司表示自己一直致力于保證公司的員工多樣性和平等。
公司的此次實(shí)驗(yàn)也為機(jī)器學(xué)習(xí)的限制提供了一項(xiàng)案例研究。對(duì)于越來越多想要實(shí)現(xiàn)招聘流程部分自動(dòng)化的企業(yè)來說，例如希爾頓全球控股公司和高盛集團(tuán)公司，
這也是一次經(jīng)驗(yàn)和教訓(xùn)。
根據(jù)人才軟件公司CareerBuilder 2017年進(jìn)行的一項(xiàng)調(diào)查，55％的美國人力資源經(jīng)理表示人工智能將在未來五年時(shí)間內(nèi)成為他們?nèi)粘９ぷ髦胁捎玫墓ぞ摺?/p>
雇主一直以來想要利用科技擴(kuò)大招聘網(wǎng)、減少對(duì)于招聘人員主觀看法的依賴。但是一些計(jì)算機(jī)科學(xué)家，包括在卡內(nèi)基梅隆大學(xué)教授機(jī)器學(xué)習(xí)的Nihar Shah，他們均表示這件事依然路漫漫其修遠(yuǎn)兮。
“如何確保算法的公平、如何確保算法的可理解性以及可解釋性——這還需要很長(zhǎng)一段時(shí)間來實(shí)現(xiàn)?！彼@樣說道。
男性話語
亞馬遜開始實(shí)驗(yàn)之時(shí)，正是這家全球最大在線零售商發(fā)展的關(guān)鍵時(shí)機(jī)。由于低成本計(jì)算力的激增，機(jī)器學(xué)習(xí)在科技行業(yè)內(nèi)吸引了大家越來越多的關(guān)注。而亞馬遜的人力資源部門也開始瘋狂招聘員工：根據(jù)提交給監(jiān)管機(jī)構(gòu)的文件顯示，從2015年6月開始，公司的全球員工總數(shù)已經(jīng)增加了兩倍多，人數(shù)為57．57萬人。
因此，公司在亞馬遜愛丁堡的工程中心建立了一個(gè)團(tuán)隊(duì)，團(tuán)隊(duì)人數(shù)大約在十幾人左右。據(jù)知情人士透露，他們的目標(biāo)就是開發(fā)人工智能技術(shù)，使其快速抓取網(wǎng)頁信息、發(fā)現(xiàn)值得招聘的求職者。
團(tuán)隊(duì)開發(fā)了500個(gè)專注于特定工作職能及位置的計(jì)算機(jī)模型。他們會(huì)訓(xùn)練每個(gè)模型去識(shí)別過去求職者簡(jiǎn)歷中出現(xiàn)的5萬個(gè)術(shù)語。算法會(huì)學(xué)習(xí)給IT求職者中常見的技能進(jìn)行重要級(jí)排序，比如說編寫不同程序的能力等。
事實(shí)上，這項(xiàng)技術(shù)會(huì)偏向于那些在簡(jiǎn)歷中使用動(dòng)詞來描述自己的求職者，使用動(dòng)詞這一點(diǎn)在男性工程師的簡(jiǎn)歷中常常會(huì)看到，例如“執(zhí)行”、“抓取”等。
性別歧視不是唯一出現(xiàn)的問題。支撐該模型作出判斷的數(shù)據(jù)問題還在于，不合格的候選人會(huì)被推薦到不同的崗位。知情人士表示，鑒于這項(xiàng)技術(shù)會(huì)隨機(jī)反饋結(jié)果，亞馬遜最終終止了該項(xiàng)目。
問題還是解決方法？
其他公司也在前赴后繼進(jìn)行嘗試，這也表明雇主們都迫切想要將人工智能技術(shù)用于人才招聘。
鹽湖城附近的一家創(chuàng)業(yè)公司HireVue的首席執(zhí)行官凱文·帕克（Kevin Parker）表示，自動(dòng)化可以幫助企業(yè)跳出他們以往長(zhǎng)期依賴的一成不變的招聘網(wǎng)絡(luò)。他的公司會(huì)在視頻面試中分析求職者的言語和面部表情，進(jìn)而減少對(duì)簡(jiǎn)歷的依賴。
“你不會(huì)再去采用老一套的招聘方式。你不會(huì)只顧著看求職者是不是常青藤盟校畢業(yè)的?！迸量苏f道。他公司的客戶包括聯(lián)合利華和希爾頓。
該公司表示高盛已經(jīng)開發(fā)了自己的簡(jiǎn)歷分析工具，會(huì)將求職者與“最適合”他們的部門進(jìn)行匹配。
微軟旗下的LinkedIn是全球最大的職業(yè)社交網(wǎng)絡(luò)，在這一方面，它取得的進(jìn)展較為明顯。它會(huì)根據(jù)網(wǎng)站上發(fā)布的崗位消息，利用算法為雇主提供求職者的排名。
LinkedIn Talent Solutions的副總裁約翰·杰辛（John Jersin）表示，這項(xiàng)服務(wù)并不能替代傳統(tǒng)的招聘人員。
“我當(dāng)然不會(huì)放心由任何一種人工智能系統(tǒng)自行作出招聘決策?！彼f道，“現(xiàn)在的技術(shù)還沒有發(fā)展到那個(gè)地步?！?/p>
一些活躍人士表示很擔(dān)心人工智能的透明度問題。美國公民自由聯(lián)盟（ACLU）正在爭(zhēng)取立法，允許經(jīng)研究人員和記者測(cè)試過后、對(duì)采用歧視性算法的招聘網(wǎng)站提起刑事檢控。
“我們已經(jīng)越來越關(guān)注算法的公平性問題?！盇CLU種族司法項(xiàng)目的律師瑞秋·古德曼（Rachel Goodman）說道。
但是古德曼以及其他批判人工智能技術(shù)的人士也承認(rèn)，要想就自動(dòng)化招聘問題起訴雇主，這是一件極度困難的事情：崗位求職者也許永遠(yuǎn)都不會(huì)知道企業(yè)是否采用了這種技術(shù)。
對(duì)于亞馬遜來說，公司已經(jīng)成功從失敗的人工智能項(xiàng)目中吸取到了經(jīng)驗(yàn)和教訓(xùn)。據(jù)知情人士稱，公司目前使用的是一種“淡化”版的招聘引擎，這將幫助公司處理一些基本工作，包括從數(shù)據(jù)庫中剔除重復(fù)的求職者資料。
公司在愛丁堡還成立了一個(gè)新的團(tuán)隊(duì)，將再次嘗試自動(dòng)化招聘篩選，這一次實(shí)驗(yàn)關(guān)注的是多樣性問題。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
