極客網(wǎng)·人工智能3月23日 微軟的Bing聊天機(jī)器人認(rèn)為谷歌的Bard聊天機(jī)器人被關(guān)閉，并錯(cuò)誤地引用了一則新聞報(bào)道來(lái)證明這一點(diǎn)，這種烏龍對(duì)于聊天機(jī)器的未來(lái)發(fā)展來(lái)說(shuō)并不是一個(gè)好兆頭。
近日，有人詢問(wèn)微軟必應(yīng)聊天機(jī)器人，谷歌的Bard聊天機(jī)器人是否已經(jīng)被關(guān)閉，它給出了肯定的回答，并引用了一篇新聞文章作為證據(jù)。
該文章提到了一條推文，其中一名用戶問(wèn)Bard什么時(shí)候會(huì)關(guān)閉，Bard說(shuō)已經(jīng)被關(guān)閉，它引用了Hackernews的一條評(píng)論，有人在這一評(píng)論中開(kāi)玩笑說(shuō)Bard關(guān)閉了，還有人為此采用ChatGPT撰寫(xiě)了關(guān)于這一事件的虛假新聞報(bào)道。（必應(yīng)現(xiàn)在改變了它的答案，給出Bard仍在運(yùn)行這個(gè)正確答案。人們可以將其理解為這些人工智能系統(tǒng)至少是可修復(fù)的，或者它們具有無(wú)限的延展性）。
人們現(xiàn)在看到的只是一個(gè)早期現(xiàn)象，但或許我們正在陷入一場(chǎng)大規(guī)模的人工智能錯(cuò)誤信息游戲。
在這場(chǎng)游戲中，聊天機(jī)器人無(wú)法衡量可靠的新聞來(lái)源，誤讀有關(guān)自己的故事，并誤報(bào)自己的能力。在這個(gè)事例中，整個(gè)事情的起因只是引用了Hackernews上的一個(gè)評(píng)論?？梢韵胂笠幌?，如果想讓這些系統(tǒng)失靈，人們能夠做些什么？
雖然這是一個(gè)可笑的情況，但存在一些潛在的嚴(yán)重后果。鑒于人工智能語(yǔ)言模型無(wú)法可靠地將事實(shí)與虛構(gòu)區(qū)分開(kāi)來(lái)，它們?cè)诰W(wǎng)上發(fā)布的內(nèi)容可能會(huì)在網(wǎng)絡(luò)上釋放出錯(cuò)誤信息或引發(fā)不信任，這一切都是因?yàn)槲④洝⒐雀韬蚈penAI認(rèn)為市場(chǎng)份額比安全更重要。
這些科技公司可以為其聊天機(jī)器人上提供盡可能多的免責(zé)聲明——告訴人們，這只是“實(shí)驗(yàn)”或“合作”，絕對(duì)不是搜索引擎的錯(cuò)誤，但這樣的辯解很脆弱。人們知道如何使用這些系統(tǒng)，并且已經(jīng)看到它們?nèi)绾蝹鞑ュe(cuò)誤信息，無(wú)論是編造從未寫(xiě)過(guò)的新故事，還是告訴人們不存在的書(shū)籍。而現(xiàn)在，它們又在互相引用對(duì)方的錯(cuò)誤。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
