我們不應(yīng)該像對(duì)聊天機(jī)器人那樣與人交談，AI可能會(huì)使我們的人際交往變得單調(diào)、更加偏頗或無(wú)理。
對(duì)于歷史上的大部分時(shí)期，與電腦溝通并不像與人交談。在電腦出現(xiàn)的最初幾年，人們需要通過(guò)穿孔卡片提供精心構(gòu)造的指令；然后出現(xiàn)了命令行界面，隨之而來(lái)的是菜單、選項(xiàng)和文本框。如果你想得到結(jié)果，你需要學(xué)習(xí)電腦的語(yǔ)言。
這一情況正在開(kāi)始改變。大語(yǔ)言模型—現(xiàn)代聊天機(jī)器人的基礎(chǔ)技術(shù)—允許用戶(hù)通過(guò)自然對(duì)話與電腦交互，這項(xiàng)創(chuàng)新引入了一些來(lái)自人與人交流的包袱。在我們各自探索ChatGPT的早期階段，我們發(fā)現(xiàn)自己在電腦面前打出我們從未對(duì)電腦說(shuō)過(guò)的單詞："請(qǐng)"。我們幾乎在與這個(gè)代數(shù)組合體的每一次碰頭中都融入了禮貌的句法，我們把它當(dāng)作人來(lái)對(duì)待—即使我們知道它不是。
現(xiàn)在，這種交互方式還是新鮮的。但是，隨著聊天機(jī)器人成為現(xiàn)代生活中無(wú)處不在的要素，并在我們的人機(jī)交互中占據(jù)很大一部分，它們可能會(huì)悄無(wú)聲息地改變我們對(duì)電腦和我們的同類(lèi)的思考方式。
這些聊天機(jī)器人可能會(huì)引導(dǎo)我們進(jìn)入一個(gè)將人性歸因于AI系統(tǒng)的社會(huì)，無(wú)論是抽象的聊天機(jī)器人還是更加物質(zhì)的機(jī)器人。就像我們生物學(xué)上傾向于在對(duì)象中看到面孔一樣，我們?cè)谌魏慰梢赃M(jìn)行對(duì)話的物體中想象智慧。(這并不新鮮：人們將智慧和同情心投射在非常原始的1960年代聊天機(jī)器人Eliza上。)我們對(duì)LLMs說(shuō)"請(qǐng)"，因?yàn)椴徽f(shuō)感覺(jué)不對(duì)。
聊天機(jī)器人越來(lái)越普遍，我們有理由相信它們會(huì)成為我們生活的更親密的部分。AI伴侶的市場(chǎng)，從朋友到浪漫伴侶，已經(jīng)人滿為患。有幾家公司正在研發(fā)AI助手，類(lèi)似于秘書(shū)或管家，他們將預(yù)見(jiàn)并滿足我們的需求。還有其他公司正在研發(fā)AI治療師，調(diào)解人，和生活教練—甚至是仿制我們已故親人的幻影。更普遍的說(shuō)，聊天機(jī)器人可能會(huì)成為我們與各種電腦化過(guò)程互動(dòng)的界面—一個(gè)能夠響應(yīng)我們的語(yǔ)言風(fēng)格，情緒的每一處細(xì)微差別，甚至聲音的音調(diào)的AI。
許多用戶(hù)會(huì)預(yù)設(shè)把這些AI當(dāng)作朋友，而不是他們實(shí)際上是由企業(yè)創(chuàng)建的系統(tǒng)?；ヂ?lián)網(wǎng)已經(jīng)通過(guò)Meta的廣告網(wǎng)絡(luò)等系統(tǒng)對(duì)我們進(jìn)行了監(jiān)視，LLMs很可能也會(huì)加入：例如，OpenAI的隱私政策已經(jīng)概述了該公司收集的許多不同類(lèi)型的個(gè)人信息。不同的是，聊天機(jī)器人的自然語(yǔ)言界面會(huì)使他們感覺(jué)更像人—我們?cè)陔p方的每一次禮貌交接中都會(huì)加強(qiáng)這一點(diǎn)—我們可能會(huì)在心中錯(cuò)誤地分類(lèi)他們。
目前，大型聊天機(jī)器人還沒(méi)有改變它們與用戶(hù)的溝通方式來(lái)滿足其母公司的商業(yè)利益，但市場(chǎng)壓力可能會(huì)推動(dòng)事情朝這個(gè)方向發(fā)展。在被問(wèn)及此事時(shí)，OpenAI的一位發(fā)言人指出隱私政策的一個(gè)部分，指出該公司目前不出售或分享個(gè)人信息以進(jìn)行“跨環(huán)境行為廣告”，公司不“為了推斷關(guān)于消費(fèi)者的特征而處理敏感的個(gè)人信息”。在今天早些時(shí)候與Axios的一次采訪中，OpenAI CEO Sam Altman說(shuō)未來(lái)幾代AI可能涉及“相當(dāng)多的個(gè)人定制”，“這將讓很多人感到不安。”。
其他計(jì)算技術(shù)已經(jīng)被證明可以塑造我們的認(rèn)知。研究表明，網(wǎng)站和文字處理器上的自動(dòng)完成功能可以大大改變我們的寫(xiě)作方式。一般來(lái)說(shuō)，這些推薦會(huì)導(dǎo)致更平庸、更容易預(yù)測(cè)的散文。當(dāng)自動(dòng)完成系統(tǒng)給出偏頗的提示時(shí)，會(huì)導(dǎo)致偏頗的寫(xiě)作。在一個(gè)無(wú)害的實(shí)驗(yàn)中，積極的自動(dòng)完成建議導(dǎo)致了更多的積極餐館評(píng)論，而消極的自動(dòng)完成建議則導(dǎo)致了反向的結(jié)果。這些影響可能會(huì)遠(yuǎn)遠(yuǎn)超過(guò)調(diào)整我們的寫(xiě)作風(fēng)格，影響我們的心理健康，就像現(xiàn)在可能導(dǎo)致抑郁和焦慮的社交媒體平臺(tái)一樣。
這些聊天機(jī)器人可能帶我們走向更令人不安的方向：進(jìn)入一個(gè)我們與他們的對(duì)話結(jié)果是我們以我們通常對(duì)機(jī)器表現(xiàn)出的冷淡、不尊重和無(wú)禮對(duì)待我們的同胞的世界。
現(xiàn)在的聊天機(jī)器人在接收到的指令精確到在人類(lèi)交談中會(huì)被認(rèn)為是令人震驚的粗魯?shù)某潭葧r(shí)表現(xiàn)最好，這些指令剝離了所有可能被模型誤解的交談禮貌：“草擬一個(gè)250字的段落，用我通常的寫(xiě)作風(fēng)格，詳細(xì)說(shuō)明支持以下觀點(diǎn)的三個(gè)例子，并給出你的來(lái)源。”即使是最淡漠的公司首席執(zhí)行官可能也不會(huì)這樣對(duì)他們的助手說(shuō)話，但這在聊天機(jī)器人中很常見(jiàn)。
如果聊天機(jī)器人真的成為某些人主要的日常對(duì)話伙伴，那么這些用戶(hù)在與其他人交談時(shí)，甚至采用AI命令的詞典的風(fēng)險(xiǎn)就十分嚴(yán)重。我們將被訓(xùn)練成以一個(gè)程序員對(duì)電腦講話的冷酷精確さ去講話，而不是帶有同理心、細(xì)微之處和色彩，可能會(huì)讓那種賦予人類(lèi)特質(zhì)的談話消失。 對(duì)此，我們只需看看在社交媒體上機(jī)器人賬戶(hù)以怎樣的方式敗壞了數(shù)字對(duì)話，用簡(jiǎn)單編程的回應(yīng)去煽動(dòng)情緒，對(duì)情緒深沉的主題，他們?cè)?016年的選舉中播下了混亂和分裂選民的種子。 但是，AI同伴可能會(huì)成為一些用戶(hù)社交圈中更大的一部分，比今天的機(jī)器人可能對(duì)這些人使用語(yǔ)言和處理人際關(guān)系產(chǎn)生更大的影響。
這樣的轉(zhuǎn)變不太可能一夜之間就把人類(lèi)的交談變成卡通般的機(jī)器人朗誦，但是它可能會(huì)在幾年的時(shí)間里微妙而有意義的重塑口語(yǔ)對(duì)話，就像信息的字符限制影響了非正式的寫(xiě)作一樣，把LOL、IMO、TMI等詞變成了日常術(shù)語(yǔ)。
AI聊天機(jī)器人總是在你需要的時(shí)候在那里，無(wú)論你需要他們做什么。人不是這樣的。想象一個(gè)充滿了與他們的AI友人或浪漫伙伴長(zhǎng)期對(duì)話的人的未來(lái)。就像一個(gè)人只有通過(guò)色情或情色體驗(yàn)過(guò)性經(jīng)歷的人，他們可能對(duì)人類(lèi)伴侶有不切實(shí)際的期待。聊天機(jī)器人越來(lái)越普遍，影響可能越來(lái)越大。
更普遍的說(shuō)，AI可能加速機(jī)構(gòu)和社會(huì)信任的瓦解。Facebook等技術(shù)被認(rèn)為應(yīng)該把世界凝聚在一起，但在過(guò)去的那些年里，公眾越來(lái)越懷疑他們周?chē)娜耍瑢?duì)公民機(jī)構(gòu)的信任度也不斷降低。AI可能使人們更加孤立、猜疑，總是不確定他們交談的那個(gè)人是否真的是一臺(tái)機(jī)器，而無(wú)論是什么，都會(huì)把他們看成不是人類(lèi)。
當(dāng)然，歷史上充滿了人們聲稱(chēng)數(shù)字天空正在倒塌，抱怨每一項(xiàng)新的發(fā)明都是我們知道的文明的終結(jié)。最后，LLM可能只是我們明天的文字處理器，一項(xiàng)便捷的創(chuàng)新，使事情變得更容易，而我們的日常生活大部分時(shí)間都沒(méi)有受到影響。我們走哪條路取決于我們?nèi)绾斡?xùn)練明天的聊天機(jī)器人，但也取決于我們是否投資于今天加強(qiáng)公民社會(huì)的紐帶。
本文譯自 Schneier，由 超載雞 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
