1月30日消息，美國(guó)時(shí)間周一，微軟為其人工智能文本轉(zhuǎn)圖像生成工具Designer引入了更多保護(hù)措施，禁止人們用它來制作名人的非自愿假照片。據(jù)悉，上周在X上瘋傳的泰勒·斯威夫特（Taylor Swift）人工智能生成裸照來自4chan和Telegram頻道，迫使微軟做出了改變。
微軟發(fā)言人證實(shí)了這一事件，并表示：“我們對(duì)此已展開調(diào)查，并正采取相應(yīng)措施解決問題。我們的行為準(zhǔn)則明確禁止使用我們的工具創(chuàng)建成人或未經(jīng)同意的私密內(nèi)容。任何違反我們政策的行為，尤其是反復(fù)嘗試制作這類內(nèi)容，都將導(dǎo)致用戶無法繼續(xù)使用我們的服務(wù)。我們有一支龐大的團(tuán)隊(duì)，致力于根據(jù)我們負(fù)責(zé)任的人工智能原則開發(fā)各種安全系統(tǒng)，包括內(nèi)容過濾、操作監(jiān)控和濫用檢測(cè)等，以減少系統(tǒng)的濫用可能性，并為用戶創(chuàng)造一個(gè)更安全的環(huán)境?！?/p>
微軟強(qiáng)調(diào)，一項(xiàng)正在進(jìn)行的調(diào)查無法證實(shí)X上斯威夫特的假裸照是用Designer制作的，但該公司將繼續(xù)加強(qiáng)其文本過濾提示，并解決濫用其服務(wù)的問題。上周五，微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在接受采訪時(shí)表示，“我們有責(zé)任”為人工智能工具增加更多“護(hù)欄”，以防止它們制作有害內(nèi)容。上周末，X開始徹底屏蔽對(duì)“泰勒·斯威夫特”的搜索。
納德拉說：“這關(guān)乎全球社會(huì)在規(guī)范上的融合。我們可以做到這一點(diǎn)，尤其是在法律、執(zhí)法部門和科技平臺(tái)的共同努力下。我相信，我們可以管理的范圍遠(yuǎn)遠(yuǎn)超過我們目前的認(rèn)知?！?/p>
經(jīng)過404 Media等媒體測(cè)試以及4chan和Telegram上的消息顯示，用戶利用漏洞生成圖像的操作已不再有效。
在斯威夫特人工智能生成圖片上周引發(fā)關(guān)注之前，Designer已經(jīng)阻止用戶生成帶有“泰勒·斯威夫特裸體”等文字提示的圖片，但Telegram和4chan上的用戶發(fā)現(xiàn)，他們可以通過稍微拼錯(cuò)名人的名字，以及描述不使用任何性術(shù)語但會(huì)導(dǎo)致性暗示的圖片來繞過這些保護(hù)。
微軟修復(fù)漏洞后，引發(fā)了網(wǎng)友熱議。根據(jù)404 Media的報(bào)道，Telegram上的一名用戶在頻道中寫道：“我認(rèn)為微軟的Designer已經(jīng)被打補(bǔ)丁了?！?/p>
另一位用戶回應(yīng)道：“好像它再也無法生成名人的照片了。即使是搜索克洛伊·莫瑞茲（Chloe Moretz），也只會(huì)生成普通的金發(fā)女孩。我嘗試更換服務(wù)器和賬號(hào)，但得到的結(jié)果都是一樣的?！?/p>
還有用戶表示：“我覺得它現(xiàn)在已經(jīng)完蛋了。Ariana,、Kylie Jenner,、Lisa、Zendaya這樣的名人，現(xiàn)在都只展示出與她們長(zhǎng)相或種族相似的普通女孩照片?！?/p>
404 Media并未公布Telegram頻道的名稱，因?yàn)門elegram并未刪除該頻道，而且通常不會(huì)從其平臺(tái)上刪除太多有害內(nèi)容。該頻道擁有數(shù)萬名成員，但404 Media并未公布特定用戶的身份。分享Telegram頻道的名稱只會(huì)吸引更多人關(guān)注它，無益于為有害內(nèi)容的目標(biāo)提供任何追索權(quán)。
盡管Telegram頻道仍在分享人工智能生成的成人圖片，其中一些似乎是用其他人工智能工具生成的，還有一些是從其他網(wǎng)站上提取的。雖然該頻道的重點(diǎn)是利用微軟的Designer這一免費(fèi)且易于使用的工具，但有許多其他方法可以在網(wǎng)上制作這種有害的內(nèi)容。例如，目前任何人都可以下載名人模型并在自己的電腦上本地運(yùn)行，以生成有害內(nèi)容。在4chan上，一些用戶聲稱他們已經(jīng)發(fā)現(xiàn)了必應(yīng)和Designer的新漏洞。
Telegram頻道上的一位用戶表示：“我堅(jiān)信，如果這里被關(guān)閉了，我們會(huì)找到其他地方來制作人工智能內(nèi)容?！保ㄐ⌒。?/p>
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
