2016年3月，Microsoft在Twitter上發(fā)布了新的聊天機(jī)器人Tay.AI。根據(jù)描述，Tay是“理解對(duì)話(huà)”實(shí)驗(yàn)的一部分，語(yǔ)言風(fēng)格模仿美國(guó)中學(xué)女生，通過(guò)推文或直接消息與人們進(jìn)行對(duì)話(huà)。她熱愛(ài)E.D.M.音樂(lè)，有最喜歡的神奇寶貝，并且經(jīng)常使用網(wǎng)絡(luò)用語(yǔ)，如“滿(mǎn)滿(mǎn)的負(fù)能量”。
Tay是機(jī)器學(xué)習(xí)，自然語(yǔ)言處理和社交網(wǎng)絡(luò)的交叉學(xué)科產(chǎn)物。過(guò)去的聊天機(jī)器人(如約瑟夫·魏岑鮑姆的Eliza)都是遵循預(yù)先編程的狹窄腳本來(lái)進(jìn)行對(duì)話(huà)，而Tay則會(huì)隨著時(shí)間流逝學(xué)習(xí)更多——她可以就任何話(huà)題展開(kāi)對(duì)話(huà)。
微軟的工程師利用匿名公共數(shù)據(jù)的數(shù)據(jù)集以及專(zhuān)業(yè)喜劇演員提供的一些預(yù)先編寫(xiě)的文本，對(duì)Tay的算法進(jìn)行了培訓(xùn)，以使其掌握基本的語(yǔ)言規(guī)范。在線(xiàn)發(fā)布后，算法將通過(guò)與真人交互啟發(fā)式地學(xué)習(xí)語(yǔ)言模式。最終，程序員希望Tay的回應(yīng)就像互聯(lián)網(wǎng)本身的反饋。
上線(xiàn)16個(gè)小時(shí)內(nèi)，Tay發(fā)了超過(guò)95000條推文，而令人不安的的是，其中有大量侮辱性和令人反感的內(nèi)容。 Twitter用戶(hù)表達(dá)了他們的憤慨，微軟別無(wú)選擇，只能暫停該帳戶(hù)。該公司原本打算在“對(duì)話(huà)理解”中進(jìn)行有趣實(shí)驗(yàn)的意圖已經(jīng)變成了一場(chǎng)噩夢(mèng)，網(wǎng)友故意的挑唆和調(diào)教，使AI逐漸失控。
事實(shí)證明，在Tay發(fā)布后僅幾個(gè)小時(shí)后，就有大量的4chan用戶(hù)開(kāi)始向AI灌輸種族主義和納粹式的語(yǔ)言。如一位無(wú)辜的用戶(hù)提問(wèn)道，英國(guó)演員Tay Ricky Gervais是否為無(wú)神論者，Tay對(duì)此回答：“ Ricky Gervais從無(wú)神論者阿道夫·希特勒那里學(xué)到了極權(quán)主義。”
被玩壞的Tay甚至超出4channers的預(yù)期，并在隨后幾周內(nèi)引發(fā)了廣泛討論。一些人將實(shí)驗(yàn)的失敗視作互聯(lián)網(wǎng)使人變暴力的證據(jù)。
不過(guò)，對(duì)其他人來(lái)說(shuō)，Tay則代表著微軟在設(shè)計(jì)上不縝密的思路。
游戲開(kāi)發(fā)者兼作家Zo? Quinn認(rèn)為，微軟應(yīng)該能夠提前想到的才對(duì)。如果機(jī)器人在Twitter上學(xué)習(xí)說(shuō)話(huà)，那么它自然會(huì)學(xué)習(xí)到辱罵性的語(yǔ)言。Quinn認(rèn)為，微軟應(yīng)該為這種意外情況做好預(yù)案，并確保Tay不會(huì)學(xué)壞?！艾F(xiàn)在可是2016年啦，如果您在設(shè)計(jì)/工程過(guò)程中不問(wèn)問(wèn)自己'如何避免項(xiàng)目被用來(lái)傷害某人'，那您就太out了?！?/p>
在Tay下線(xiàn)幾個(gè)月后，微軟發(fā)布了Zo——原始AI的“政治正確”版本。Zo從2016年到2019年一直活躍在社交網(wǎng)絡(luò)上，對(duì)策是暫停有爭(zhēng)議的主題(包括政治和宗教)對(duì)話(huà)，以確保她不會(huì)冒犯到他人。(如果網(wǎng)友一直用敏感問(wèn)題糾纏它，她會(huì)完全放棄對(duì)話(huà)，并說(shuō)了一句：“我比你強(qiáng)，拜?！?
我們從微軟的失敗中學(xué)到的硬道理是，設(shè)計(jì)可以與人類(lèi)在線(xiàn)交流的智能系統(tǒng)不僅是一個(gè)技術(shù)問(wèn)題，而且是一項(xiàng)社會(huì)活動(dòng)。邀請(qǐng)機(jī)器人進(jìn)入充滿(mǎn)價(jià)值判斷的語(yǔ)言世界，需要事先考慮其部署環(huán)境，您希望它成為哪類(lèi)信息的傳播者以及您希望它體現(xiàn)什么樣的人類(lèi)價(jià)值觀。
隨著我們朝著真AI的目標(biāo)邁進(jìn)，這些問(wèn)題必須擺到設(shè)計(jì)計(jì)劃書(shū)中的開(kāi)頭幾行。否則，將會(huì)有更多學(xué)壞了的AI被釋放到世界上，它們會(huì)以語(yǔ)言的方式映照出人類(lèi)自己最糟糕的部分。
本文譯自 spectrum，由譯者 majer 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
