9月27日，“促進(jìn)人工智能算法性別平等”報(bào)告發(fā)布會(huì)與政策研討會(huì)在上海舉行。這場由馬娜數(shù)據(jù)基金會(huì)主辦的，探討如何促進(jìn)人工智能算法中的性別平等的會(huì)議，召集了聯(lián)合國婦女署駐華、上海浦東新區(qū)婦女聯(lián)合會(huì)等人員出席。信也科技集團(tuán)算法科學(xué)家王春平也參與了其中。

作為金融科技企業(yè)信也科技集團(tuán)的代表，也是在人工智能領(lǐng)域取得優(yōu)秀成就的女性從業(yè)者，王春平博士在會(huì)上闡述了其對(duì)于人工智能在研究、應(yīng)用中對(duì)于數(shù)據(jù)倫理、性別平等的觀點(diǎn)與建議。

人工智能時(shí)代加速，促進(jìn)性別平等即發(fā)展大前提

人工智能自1956年被提出以來，短短60余年的時(shí)間中，這項(xiàng)科學(xué)技術(shù)的飛速發(fā)展給人類社會(huì)帶來了不小的變化。人工智能算法是以數(shù)學(xué)方式或計(jì)算機(jī)代碼表達(dá)的意見，由算法模型和數(shù)據(jù)輸入決定著預(yù)測的后果。

隨著人工智能時(shí)代的加速到來，人類將生活在一個(gè)算法無所不在的世界，隨著算法決策開始介入并主導(dǎo)人類社會(huì)事務(wù)，算法對(duì)人類的生活和未來都將產(chǎn)生不可估量的影響?；诖?，由算法偏見可能帶來的倫理風(fēng)險(xiǎn)也開始引起人們重視。單就性別角度而言，由于目前人工智能領(lǐng)域仍處于男性主導(dǎo)的狀況，使得人工智能算法在日常應(yīng)用中不自覺就容易出現(xiàn) “性別歧視“的爭議。

據(jù)當(dāng)日發(fā)布的《促進(jìn)人工智能算法性別平等》報(bào)告(后文簡稱《報(bào)告》)介紹，目前人工智能算法的諸多應(yīng)用場景中均存在一定的性別歧視現(xiàn)象。以人工智能開放平臺(tái)為例，一張“端著水果籃的男性”圖片被AI人臉識(shí)別平臺(tái)檢測為“女性”，單獨(dú)截出頭像卻能夠被檢測為“男性”。在就業(yè)場景中，2018年亞馬遜公司的自動(dòng)招聘算法傾向于給關(guān)鍵詞含“女”字的簡歷打低分，降低了女性工作申請(qǐng)成功率，最后棄用了該招聘算法。

信也科技首席科學(xué)家王春平表示：“人工智能算法的基礎(chǔ)是數(shù)據(jù)，但在實(shí)際生活中因?yàn)榉N種原因，沉淀下來的很多數(shù)據(jù)分布是有偏的，從而可能將社會(huì)中的一些偏見滲透進(jìn)算法中。作為人工智能算法的女性從業(yè)者，我認(rèn)為需要通過多種方式去消除這些偏見。”

消除偏見與歧視，數(shù)據(jù)算法從業(yè)者新課題

2019年，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南，明確提出要在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視。該委員會(huì)近日又發(fā)布了《新一代人工智能倫理規(guī)范》，第十三條特別強(qiáng)調(diào)避免偏見歧視，在數(shù)據(jù)采集和算法開發(fā)中，加強(qiáng)倫理審查，充分考慮差異化訴求，避免可能存在的數(shù)據(jù)與算法偏見，努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。

“算法中存在性別歧視問題，主要源于訓(xùn)練AI的數(shù)據(jù)集反映了人類社會(huì)存在的性別偏見，而算法工程師對(duì)這一問題缺乏意識(shí)，未將解決性別偏見納入開發(fā)需求，從而使得算法放大了性別歧視。“瑪娜數(shù)據(jù)基金會(huì)課題組專家況琨表示。

據(jù)《報(bào)告》中專題社會(huì)調(diào)研的數(shù)據(jù)顯示，58%的人工智能算法從業(yè)者不知道算法當(dāng)中存在的性別偏見問題，73%的從業(yè)者不知道存在專門針對(duì)女性的惡意算法。從業(yè)者對(duì)算法性別平等的意識(shí)及能力亟需提升。

信也科技王春平博士表示，“對(duì)于在人工智能算法中盡可能地促進(jìn)性別平等，我們認(rèn)為首先需要從研發(fā)者的意識(shí)與環(huán)境培養(yǎng)開始。比如在信也科技集團(tuán)內(nèi)部，我們有很多公司政策都在保證并促進(jìn)不同性別員工得到平等的機(jī)會(huì)。比如說我們會(huì)有比較完善針對(duì)人工智能領(lǐng)域或數(shù)字化應(yīng)用相關(guān)的培訓(xùn)課程，這些課程包含了業(yè)務(wù)場景、算法學(xué)習(xí)、工程化落地，會(huì)開放給所有職位的員工，并且會(huì)盡可能地幫助公司內(nèi)部對(duì)于人工智能算法有興趣的員工參與一些實(shí)驗(yàn)性的創(chuàng)新項(xiàng)目，為其提供平等的崗位機(jī)會(huì)。我們認(rèn)為保障女性員工獲得公平的職業(yè)機(jī)會(huì)，為算法開發(fā)團(tuán)隊(duì)營造沒有明顯兩性區(qū)分的環(huán)境，并有意識(shí)消除算法工程師們的性別偏見，對(duì)于人工智能算法在應(yīng)用中盡可能實(shí)現(xiàn)性別平等是有益的。”

商業(yè)與倫理的平衡，價(jià)值觀在前的人工智能算法未來

人工智能算法獨(dú)特的運(yùn)行邏輯導(dǎo)致人們社會(huì)生活的結(jié)構(gòu)性場景發(fā)生了重大變化，加劇了決策者與相對(duì)人之間的“數(shù)字鴻溝”，人工智能算法獨(dú)特的運(yùn)行邏輯正在深刻地改變著以往的生產(chǎn)方式和生活方式，并與人的行為形成了支配關(guān)系。這也表示，人們的行為可以借助于數(shù)據(jù)算法來預(yù)測甚至被改變。

對(duì)于企業(yè)來說，人工智能算法的準(zhǔn)確為商業(yè)行為的執(zhí)行提供了準(zhǔn)確的預(yù)判，但同時(shí)算法發(fā)展帶來的倫理問題、性別歧視問題同樣也是企業(yè)需要考慮的問題。

信也科技王春平博士認(rèn)為，目前為止，人工智能算法在應(yīng)用中反映的依然是相關(guān)性，在開發(fā)過程中考慮的因素與得到的決策結(jié)果之間，很大程度上只是相關(guān)。在很多應(yīng)用里，性別可能是被引入的一個(gè)帶有相關(guān)性的干擾項(xiàng)，如何排除偏見，公平地看待不同的性別，但是又不會(huì)影響到最終的商業(yè)判斷準(zhǔn)確性，具有不小挑戰(zhàn)。目前這個(gè)問題已經(jīng)引起了重視，有很多從不同角度試圖解決這個(gè)問題的嘗試，比如基于因果推理理論，尋找與期望預(yù)測結(jié)果擁有直接因果關(guān)系的因素;通過創(chuàng)新性地構(gòu)造特征表征空間，抑制某些帶有偏見的因素，比如由于性別帶來差異。

“雖然很多時(shí)候，基于商業(yè)行為，我們很難判定部分情況下算法在偏好與偏見之間的界限，但是在算法的創(chuàng)新開發(fā)過程中，作為人工智能算法工程師如果擁有正確的價(jià)值觀，就能盡可能提前審視并察覺歧視偏見的存在，很好地利用對(duì)于算法的不斷更新去調(diào)整它帶來的問題，這是我們作為算法開發(fā)者的使命與責(zé)任，也是人工智能算法發(fā)展的重要前提。” 王春平如是說到。

性別平等是當(dāng)前社會(huì)發(fā)展永亙不變的方向之一，在科技應(yīng)用下的新領(lǐng)域人工智能也需加強(qiáng)意識(shí)，相關(guān)人員都有義務(wù)為促進(jìn)算法中的性別平等而努力。作為金融科技企業(yè)，信也科技也在致力推動(dòng)在內(nèi)部技術(shù)開發(fā)中的客觀認(rèn)識(shí)和理性反思，通過技術(shù)的不斷創(chuàng)新，以確立正確價(jià)值觀，助力促進(jìn)人工智能時(shí)代的性別平等。從而更好地促進(jìn)科技發(fā)展。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）