3月14日消息，美國當?shù)貢r間周一，微軟被曝解散了其整個AI風險評估團隊。據(jù)悉，這個團隊正式名稱為AI道德與社會團隊，其主要職能在于指導微軟在AI方面的創(chuàng)新，從而產(chǎn)生符合道德標準、負責任以及可持續(xù)的結(jié)果。最近，該團隊始終在努力評估微軟將OpenAI技術(shù)整合到其產(chǎn)品中可能存在的風險。
多位微軟離職和在職員工表示，此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產(chǎn)品設(shè)計緊密結(jié)合，而目前該公司正在引領(lǐng)潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負責任AI辦公室（ORA）的團隊，其任務(wù)是制定規(guī)則來管理公司的AI計劃。微軟表示，盡管最近進行了裁員，但其在責任工作方面的整體投資始終在增加。
微軟在一份聲明中表示：“微軟致力于以安全、負責任的態(tài)度開發(fā)AI產(chǎn)品和體驗，并通過投資于優(yōu)先考慮這些因素的人員、流程和合作伙伴來實現(xiàn)該目標。在過去的六年里，我們增加了產(chǎn)品團隊和ORA的人員數(shù)量，他們與微軟的所有人一起，負責確保我們將AI原則付諸實踐。我們感謝道德與社會團隊所做的開創(chuàng)性工作，幫助我們繼續(xù)完成負責任AI之旅。”
微軟員工透露，在確保公司產(chǎn)品和服務(wù)符合負責任AI原則方面，道德和社會團隊發(fā)揮了關(guān)鍵作用。一位離職員工表示：“人們看到ORA提出的原則卻不知道如何運用，而我們的工作就是向他們展示，并在缺乏規(guī)則的領(lǐng)域制定規(guī)則。”
近年來，該團隊設(shè)計了名為《Judgment Call》的角色扮演游戲，幫助設(shè)計師設(shè)想AI可能帶來的潛在危害，并在產(chǎn)品開發(fā)過程中進行討論。道德和社會團隊在2020年達到了最大規(guī)模，當時有大約30名員工，包括工程師、設(shè)計師和哲學家。但在去年的重組過程中，該團隊被削減至只剩7人。
在重組后的一次團隊會議上，微軟AI業(yè)務(wù)副總裁約翰·蒙哥馬利(John Montgomery)表示，公司管理層已經(jīng)指示他們迅速行動。據(jù)悉，蒙哥馬利當時說：“來自首席技術(shù)官凱文·斯科特(Kevin Scott)和首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella)的壓力非常大，他們都要求加速將OpenAI模型和后續(xù)模型送到客戶手中?！?/p>
蒙哥馬利說，由于這種壓力，道德和社會團隊中的許多人將被轉(zhuǎn)移到公司的其他業(yè)務(wù)。當時，蒙哥馬利稱該團隊不會被淘汰，而是需要將“更多精力放在構(gòu)建服務(wù)和軟件的單個產(chǎn)品團隊上”。隨后，該團隊多數(shù)成員都被調(diào)到其他部門，剩余人員則因為人員不足，促使許多雄心勃勃的計劃再也難以實施。
大約五個月后，剩下的員工被告知整個團隊最終被解散。一名員工表示，此舉在AI產(chǎn)品的用戶體驗和整體設(shè)計方面留下了巨大漏洞。他們解釋說：“最糟糕的是，我們這樣做讓企業(yè)面臨風險，人類陷入風險之中?！?/p>
道德與社會團隊的成員表示，他們通常會努力支持產(chǎn)品開發(fā)。但隨著微軟開始專注于比競爭對手更快地推出AI工具，公司管理層對該團隊所專注的那種長期考慮不再那么感興趣。
就在道德與社會團隊被解散之際，其他人正將注意力放在預(yù)測微軟向全球觀眾發(fā)布OpenAI支持的AI工具時產(chǎn)生的影響。在去年的備忘錄中，道德與社會團隊詳細說明了與必應(yīng)圖像創(chuàng)建器相關(guān)的風險，該工具使用OpenAI的Dall-E系統(tǒng)根據(jù)文本提示創(chuàng)建圖像。這款圖像工具于10月份在幾個國家推出，使其成為微軟與OpenAI的首批公開合作之一。
雖然文字轉(zhuǎn)圖像的技術(shù)已經(jīng)被證明非常受歡迎，但微軟的研究人員準確地預(yù)測到，它也可能威脅到藝術(shù)家的生計，因為它允許任何人輕松復制藝術(shù)家的創(chuàng)作風格。此外，OpenAI更新了其服務(wù)條款，賦予用戶“使用Dall-E創(chuàng)建圖像的完全所有權(quán)”，這讓微軟道德和社會團隊感到擔憂。 （小小）
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
