極客網(wǎng)·極客觀察3月17日 上個(gè)月微軟推出AI版必應(yīng)（Bing）搜索，開啟以AI搜索向搜索巨頭谷歌挑戰(zhàn)的序幕，接著更是將來(lái)自投資公司OpenAI的技術(shù)運(yùn)用到各類產(chǎn)品中。隨著GPT-4的發(fā)布，微軟進(jìn)一步加速了其AI產(chǎn)品化的步伐。

不過(guò)最新消息顯示，就在微軟AI狂飆之際，該公司卻裁掉一個(gè)負(fù)責(zé)AI倫理道德的關(guān)鍵團(tuán)隊(duì)，該團(tuán)隊(duì)確保微軟產(chǎn)品以符合倫理的方式引入AI技術(shù)。

裁員發(fā)生在微軟迎來(lái)AI幸福時(shí)刻之前

今年1月微軟曾裁員10000人，當(dāng)中AI部門的倫理和社會(huì)團(tuán)隊(duì)被砍掉。這意味著目前微軟正在向公眾推出AI工具，但微軟內(nèi)部并沒(méi)有一個(gè)專業(yè)團(tuán)隊(duì)負(fù)責(zé)將AI原則與產(chǎn)品設(shè)計(jì)結(jié)合在一起。但即便如此，微軟仍告訴外界會(huì)以負(fù)責(zé)任態(tài)度推進(jìn)AI。

當(dāng)然，微軟現(xiàn)在內(nèi)部保留了一個(gè)名叫“負(fù)責(zé)任AI辦公室”（Office of Responsible AI）的機(jī)構(gòu)，它為微軟AI項(xiàng)目設(shè)立規(guī)范和原則。但員工似乎對(duì)此并不買賬。

微軟一些員工認(rèn)為倫理和社會(huì)團(tuán)隊(duì)相當(dāng)重要，它們可以確保微軟“負(fù)責(zé)任”的AI原則在產(chǎn)品設(shè)計(jì)時(shí)真正得到體現(xiàn)。一位微軟前員工說(shuō)：“看到負(fù)責(zé)任AI辦公室提供一些原則，有人可能會(huì)說(shuō)：‘我不知道如何應(yīng)用?！鴤惱砗蜕鐣?huì)團(tuán)隊(duì)的任務(wù)就是向他們演示，給沒(méi)有規(guī)則的地方定出規(guī)則?！?/p>

在過(guò)去幾年里倫理和社會(huì)團(tuán)隊(duì)曾設(shè)計(jì)一款名叫Judgment Call的角色扮演游戲，它可以幫設(shè)計(jì)師了解AI可能造成的潛在傷害并在開發(fā)時(shí)討論。不久前，團(tuán)隊(duì)還幫微軟分析了引入OpenAI技術(shù)會(huì)有何種風(fēng)險(xiǎn)。

團(tuán)隊(duì)是逐步被“肢解”的

2020年時(shí)微軟倫理和社會(huì)團(tuán)隊(duì)的規(guī)模達(dá)到最大，不過(guò)人數(shù)并不多，只有30人，包括工程師、設(shè)計(jì)師、哲學(xué)家。去年10月，因?yàn)橹亟M團(tuán)隊(duì)人數(shù)減少，只剩下大約7人。

在一次會(huì)議上，微軟AI企業(yè)副總裁John Montgomery說(shuō)，員工們將會(huì)被快速轉(zhuǎn)移至它處?！皝?lái)自CTO和CEO的壓力非常非常大，上層要求我們將最新開發(fā)的OpenAI模型及之后的模型以最快速度交給客戶?！?/p>

會(huì)上有員工表示不滿。一位員工說(shuō)：“怒我大膽，希望你能重新考慮這個(gè)決定。我知道這一決定有業(yè)務(wù)上的考慮，我也理解……但是倫理和社會(huì)團(tuán)隊(duì)十分關(guān)心我們的工作對(duì)社會(huì)有何影響，尤其是負(fù)面影響。影響是十分巨大的?！?/p>

不過(guò)John Montgomery拒絕了員工的請(qǐng)求，他說(shuō)：“我能重新考慮嗎？我不能。很不幸，壓力還是一樣的?！碑?dāng)時(shí)John Montgomery并沒(méi)有說(shuō)團(tuán)隊(duì)會(huì)被取消。

的確，當(dāng)時(shí)只是裁減了員工，倫理和社會(huì)團(tuán)隊(duì)仍然存在，只是人少了之后想推進(jìn)宏大計(jì)劃變得有心無(wú)力。

3月6日，倫理和社會(huì)團(tuán)隊(duì)剩余員工開會(huì)，John Montgomery明確告訴員工團(tuán)隊(duì)將會(huì)完全取消。

團(tuán)隊(duì)曾預(yù)警引入OpenAI工具的風(fēng)險(xiǎn)

就在倫理和社會(huì)團(tuán)隊(duì)被砍之前，他們正在做一件十分重要的事：預(yù)測(cè)微軟OpenAI工具向全球推廣之后會(huì)發(fā)生什么？

去年該團(tuán)隊(duì)曾撰寫一份備忘錄，詳細(xì)討論必應(yīng)Image Creator的潛在風(fēng)險(xiǎn)。必應(yīng)Image Creator用到了OpenAI開發(fā)的DALL-E系統(tǒng)，它可以根據(jù)文本提示制作圖片。去年10月必應(yīng)圖片創(chuàng)作工具在多個(gè)國(guó)家發(fā)布。

必應(yīng)Image Creator相當(dāng)成功，微軟研究人員卻警告說(shuō)，由于任何人都可以輕易模擬藝術(shù)家的風(fēng)格，藝術(shù)家生計(jì)可能會(huì)受到影響。備忘錄稱：“測(cè)試必應(yīng)Image Creator發(fā)現(xiàn)，只需要給AI簡(jiǎn)單提示，比如輸入藝術(shù)家的名字和媒介（如繪畫、打印、攝影、雕塑），生成的圖片就可以與原作媲美，很難分出真假?！?/p>

報(bào)告認(rèn)為必應(yīng)Image Creator可能會(huì)損害微軟的品牌形象，藝術(shù)家以及與他聯(lián)系的利益相關(guān)方也會(huì)受到傷害，藝術(shù)家和公眾可能會(huì)抱怨。

去年OpenAI更新服務(wù)條款，用戶完全擁有DALL-E圖片的版權(quán)，當(dāng)時(shí)微軟倫理和社會(huì)團(tuán)隊(duì)十分困惑。他們認(rèn)為：“如果AI生成的圖片只是藝術(shù)作品的圖字模仿品，根據(jù)提示制作圖片的人卻擁有完整版權(quán)，這在倫理道德上是講不通的?！?/p>

怎么應(yīng)對(duì)？微軟研究人員提出一套方案，比如禁止必應(yīng)Image Creator用戶通過(guò)提示信息利用仍然在世藝術(shù)家的名字制作AI圖片，還有就是創(chuàng)建一個(gè)集市出售藝術(shù)家作品，如果搜索藝術(shù)家名字作品就會(huì)彈出來(lái)。這些建議并沒(méi)有被采納。

微軟稱在發(fā)布之前工具已經(jīng)修改過(guò)，目的是解決備忘錄中提到的問(wèn)題，而且負(fù)責(zé)任AI辦公室也做了很多工作。

那么，你真的會(huì)相信微軟在砍掉有倫理道德的AI倫理道德團(tuán)隊(duì)后，會(huì)認(rèn)真規(guī)范AI，讓它符合倫理嗎？（小刀）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。