當(dāng)我們問(wèn)外行人有關(guān)人工智能的問(wèn)題時(shí)，他們可能會(huì)描繪一幅《2001：銀河漫游》或《終結(jié)者》等科幻電影中的未來(lái)景象。但是，AI Now研究所的聯(lián)合創(chuàng)始人Meredith Whittaker和Kate Crawford想要改變這種話題走向。
大約四年前，Whittaker和Crawford開始意識(shí)到，在全世界范圍內(nèi)，沒(méi)有一家人工智能研究所在研究AI對(duì)社會(huì)、政治和倫理的影響。于是，兩人在紐約大學(xué)創(chuàng)辦了這一本質(zhì)上屬于跨學(xué)科的AI Now研究所。她們認(rèn)為，光靠計(jì)算機(jī)科學(xué)和工程技術(shù)，是無(wú)法解決這一問(wèn)題的。要想構(gòu)建一個(gè)能夠產(chǎn)生社會(huì)影響的研究機(jī)構(gòu)，她們需要來(lái)自社會(huì)科學(xué)、人文學(xué)科、法律、哲學(xué)以及人類學(xué)、社會(huì)學(xué)、刑事司法等領(lǐng)域?qū)＜业膸椭?，也需要廣大社區(qū)的支持。
Whittaker已在谷歌工作了數(shù)十年。在被問(wèn)及這種雙重從屬關(guān)系時(shí)，她表示：“谷歌現(xiàn)在的確是一家?guī)缀跽瓶刂?a href="http://worldfootballweekly.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能的公司。我在谷歌從事著大規(guī)模測(cè)量系統(tǒng)的工作。多年的工作，讓我不禁疑問(wèn)，如何在全球部署服務(wù)器并創(chuàng)建有意義的數(shù)據(jù)？如何制作具有某種意義的數(shù)據(jù)？又該如何確保這一點(diǎn)呢？”
這些觸及認(rèn)知本質(zhì)的問(wèn)題，開始讓W(xué)hittaker意識(shí)到自身工作的問(wèn)題。她說(shuō)：“多年來(lái)，我一直目睹著人們獲取那些錯(cuò)誤的、易出錯(cuò)的或不完整的數(shù)據(jù)，將其輸入人工智能系統(tǒng)之中，并對(duì)我認(rèn)為不可信或不可驗(yàn)證的世界發(fā)表見解?！?/p>
在遇到Crawford之后，Whittaker發(fā)現(xiàn)兩人擁有著類似的擔(dān)心。Crawford多年來(lái)一直在從事著學(xué)術(shù)研究。Whittaker說(shuō)：“當(dāng)我與Kate相識(shí)后，我如釋重負(fù)。我們?cè)谌⒓訒?huì)議的公共汽車上相遇，我們開始討論這個(gè)問(wèn)題，發(fā)現(xiàn)了類似的擔(dān)心：如果這些技術(shù)正好存在于一些最敏感的社會(huì)機(jī)構(gòu)呢？當(dāng)我們開始根據(jù)硅谷會(huì)議室里人們的假設(shè)，自動(dòng)執(zhí)行刑事司法時(shí)，當(dāng)我們開始自動(dòng)化教育時(shí)，當(dāng)我們開始對(duì)學(xué)生進(jìn)行自動(dòng)論文評(píng)分和眼睛跟蹤來(lái)確定注意力或智力時(shí)，你如何確保不會(huì)復(fù)制歧視模式？”
這些問(wèn)題牽涉到了一個(gè)重要的因素：數(shù)據(jù)。
Crawford表示，數(shù)據(jù)實(shí)際上是研究人工智能的一個(gè)大領(lǐng)域：“現(xiàn)在，我們正在揭開人工智能系統(tǒng)的面紗，發(fā)現(xiàn)總是會(huì)有非常奇怪的訓(xùn)練數(shù)據(jù)進(jìn)入管道。于是，我開始查看這些訓(xùn)練數(shù)據(jù)是從哪里獲得的?！盋rawford以預(yù)測(cè)性警務(wù)數(shù)據(jù)為例。所謂預(yù)測(cè)性警務(wù)，即警察通過(guò)城市犯罪熱圖，來(lái)預(yù)測(cè)何時(shí)何地會(huì)發(fā)生何種犯罪。形成這些城市犯罪熱圖的正是人工智能系統(tǒng)所獲取的數(shù)據(jù)，而正是這些數(shù)據(jù)，讓警察逮捕了那些可能會(huì)犯罪的人?！斑@不禁讓我們產(chǎn)生疑問(wèn)，這些數(shù)據(jù)的來(lái)源是什么？”Crawford說(shuō)。
于是，她們調(diào)查了美國(guó)13個(gè)司法管轄區(qū)，這些司法管轄區(qū)皆因有偏見、非法或違憲的警務(wù)行為而受到法律制裁。這意味著法院已經(jīng)要求該地區(qū)改變警察行為，但是通過(guò)栽贓證據(jù)或種族偏見的警務(wù)等方式創(chuàng)造的數(shù)據(jù)卻被輸送到了預(yù)測(cè)性警務(wù)系統(tǒng)。她們?cè)谶@些地區(qū)發(fā)現(xiàn)了多個(gè)案例，尤其是芝加哥地區(qū)。在這些案例中，你可以看到，來(lái)自腐敗警察行為的數(shù)據(jù)正在為所謂中立和客觀的預(yù)測(cè)性警務(wù)平臺(tái)提供信息，而如此糟糕的監(jiān)管數(shù)據(jù)將會(huì)導(dǎo)致更多的不良信息。
“因此，如果骯臟的數(shù)據(jù)實(shí)際上構(gòu)成了我們的預(yù)測(cè)性警務(wù)系統(tǒng)，那么你就是在把我們幾十年來(lái)看到的偏見和歧視植入這些在許多方面都飽受聲譽(yù)的系統(tǒng)，”Crawford說(shuō)，“人們總是在說(shuō)，這些系統(tǒng)是中性的，所以它們一定不存在偏見。但是現(xiàn)在你可以看到，惡性循環(huán)的出現(xiàn)，正是因?yàn)檫@些訓(xùn)練數(shù)據(jù)。”
為了更加形象化地說(shuō)明這一問(wèn)題，Whittaker舉出了一個(gè)最基本和最規(guī)范的例子。Whittaker說(shuō)：“比如你正在向機(jī)器學(xué)習(xí)系統(tǒng)展示1億張貓的圖片，但是你只展示了白色貓。所以，這個(gè)系統(tǒng)雖然能夠識(shí)別貓，但可能會(huì)誤識(shí)別深色貓。”我們可以向機(jī)器學(xué)習(xí)系統(tǒng)展示任何龐大的數(shù)據(jù)語(yǔ)料庫(kù)，它也通過(guò)這些數(shù)據(jù)來(lái)模擬世界，它只反映了數(shù)據(jù)中的內(nèi)容。因此我們所提供的數(shù)據(jù)是非常重要的，我們也必須意識(shí)到它們確實(shí)存在問(wèn)題。
意識(shí)到問(wèn)題的存在，接下里就應(yīng)該給出解決方案。Crawford說(shuō)：“這正是整個(gè)行業(yè)正在爭(zhēng)論的事情，即如何創(chuàng)造所謂的公平數(shù)據(jù)修正。我們?cè)撊绾吻謇頂?shù)據(jù)？如何讓人工智能變得中立和公平？”但是Crawford表示，隨著她們所做的研究越多，就越擔(dān)心這種簡(jiǎn)單化的技術(shù)解決方案，因?yàn)榻鉀Q方案最終仍然受數(shù)據(jù)生產(chǎn)的文化影響，如果這些數(shù)據(jù)是歷史的，那么你就是在把過(guò)去的歷史偏見引入未來(lái)的工具。
所以，真正重要的是，誰(shuí)在掌握著這個(gè)世界，誰(shuí)在制造這些系統(tǒng)，他們又在試圖解決什么類型的問(wèn)題。
12下一頁(yè)>（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
