丨劃重點
1. 機器人既沒有喉舌，也沒有心靈，更沒有大腦，它使用特定數(shù)字思維或表達方式，表達出類似于人類的情感狀態(tài)；
2. 現(xiàn)在這個階段，人類要像教養(yǎng)孩子一樣，引導(dǎo)機器具備與人類相一致的“價值觀”和目標；
3. 當現(xiàn)代人類在使用技術(shù)時，存在著一種與魔鬼簽訂契約的傾向；
4. 如果將人與機器對立起來看，不可避免地會有一個過程，即機器不斷取代人；
5. 人類文明有可能出現(xiàn)一種機器思想者，是一個未來的神話。
編輯 / 趙楊博
丨概述
日前，一場名為“人工智能造福人類全球峰會”在瑞士日內(nèi)瓦舉行。在峰會上，9個機器人召開了一場新聞發(fā)布會，這也是世界上第一場由機器人召開的新聞發(fā)布會，包括有名的仿真機器人索菲亞，由同一個團隊開發(fā)的醫(yī)療機器人格蕾絲，還有被稱為世界上最先進的人形機器人阿梅卡等等。
和之前的版本相比，這些新亮相的機器人都融合了 大模型、生成式AI的能力，在語言表達和邏輯，甚至是表情上都有很大的變化，當被問到會不會搶走人類的工作，機器人格蕾絲說：“我將和人類一起工作，提供幫助和支持，不會取代現(xiàn)有的任何工作?！?/p>
7月12日晚間，《亮見》聯(lián)合騰訊科技，特邀中國社科院科技和社會研究中心主任段偉文，直播解讀未來人與機器人、人工智能共生的所面臨的的問題。
針對機器人欺騙人類的擔憂，段偉文介紹稱，“在某些情況下，如果機器人具有足夠的智能或‘自我意識’，可能就會產(chǎn)生這種欺騙想法”，他認為人類應(yīng)該學(xué)會識別這種欺騙的能力，同時也強調(diào)嘗鮮這些新技術(shù)的必要性，他說，“在人工智能‘娛樂’人類之前，你應(yīng)該先逗它們玩，而不必擔心它們會欺騙你。”
而對于機器人是否會統(tǒng)治世界的問題，段偉文認為只是一個不會發(fā)生的故事，他認為人類有很多手段，包括一些預(yù)訓(xùn)練的機制以便于讓人工智能、機器人的目標與人類目標對齊。
至于AI在情感領(lǐng)域的應(yīng)用，在段偉文看了，人類應(yīng)該保持警惕，“精神科和心理學(xué)本身也不是完善的科學(xué)，所以使用AI來調(diào)節(jié)人的情感或進行精神治療可能會產(chǎn)生偏差?！?/p>
以下是直播對話精華實錄（在不改變原意的情況下有調(diào)整和刪減）
01
機器人統(tǒng)治世界只是故事
劉興亮：AI造福人類峰會，全球首次以人形機器人為主角舉辦新聞發(fā)布會，您覺得核心看點有哪一些？
段偉文：機器人的表演應(yīng)該已經(jīng)不是第一次了，在七八十年前甚至更早的時候就出現(xiàn)過。
但這次機器人表演，與大型語言模型或基礎(chǔ)模型結(jié)合的對話機器人應(yīng)用產(chǎn)生了很大的關(guān)聯(lián)。換句話說，這一次新聞發(fā)布會上的人工智能機器人，在語言表達方面能夠產(chǎn)生一種類似于人類的表達，而所謂類似人類的表達，實際上是用戶體驗角度達到了黃金交叉點。
過去，人們可能會覺得機器人表達的某些地方不自然，或者會出現(xiàn)不合時宜的言辭，涉及價值觀沖突等等。
劉興亮：當記者問阿美卡人形機器人是否打算發(fā)動“叛亂”或者反抗制造者時，機器人似乎表現(xiàn)出憤怒的表情，甚至還翻白眼，然后說我不確定你為什么會這么想，我的制造者對我非常好，所以機器人翻白眼意味著它具備情緒表達能力了嗎？
段偉文：我認為這可能有一定的偶然性，因為機器人能夠表達多種情感（狀態(tài)）。
然而，當前的機器人情感表達和語言表達，可能還沒有完全整合好，之所以會產(chǎn)生（翻白眼）這樣的效果，是因為人們對當前的機器人存在擬人化的理解，尤其是它已經(jīng)能夠產(chǎn)生一種非常接近人類的語言表達能力。
機器人Ameca朝記者“翻白眼” 來源 ：BBC
但是，拆解之后，大家就都會知道機器人既沒有喉舌，也沒有心靈，更沒有大腦。換句話說，它更像是一種外星的另類物種，使用特定的數(shù)字思維或表達方式，表達出類似于人類的情感狀態(tài)。
只是，我們無法時刻保持這種理性，當與機器人交流時，會不自然的將其想象成一個人，一旦機器人講話時采用類似人的態(tài)度，并且還有特定的表情，就會給觀察者留下深刻印象。
劉興亮：馬斯克說人工智能可能會統(tǒng)治世界，假設(shè)這個可能性存在，可能會以一種什么樣的方式實現(xiàn)？
段偉文：很多人已經(jīng)進行了這樣的探討，比如智能爆炸，也就是技術(shù)發(fā)展到一定程度，可能會達到一個奇點或爆炸點。在這個時間點，現(xiàn)有的機器人和人工智能，能夠創(chuàng)造出比它們更先進的機器人和人工智能。這樣一來，人工智能的發(fā)展將呈現(xiàn)出指數(shù)級增長，人類或許也無法控制智能的進一步演化過程。
這種情況下，有很多設(shè)想認為，如果出現(xiàn)超越人工智能的超級智能，當其目標與人類的目標不一致時，可能會采取一些對人類不利的行動；甚至有人提出所謂的曲別針隱喻，假設(shè)某個機器人的目的是將材料加工成曲別針之類的東西，不排除將人類社會視作材料，甚至將人類自身作為其制造曲別針的原材料。
當然，這并不會真實發(fā)生，這些假設(shè)也只是通過想象，來警示人類在發(fā)展人工智能的過程中，要確保人工智能的目標與人類的目標一致。否則，就有可能產(chǎn)生一種所謂的生存風(fēng)險或長期風(fēng)險。
劉興亮：假設(shè)機器人占據(jù)世界主導(dǎo)權(quán)，會不會有好處存在？
段偉文：我們可以將機器和技術(shù)視為人類的輔助工具，就像假肢一樣，這些工具可以幫助我們完成各種任務(wù)，比如打水、寫作、自動糾錯等，這些工具的發(fā)展則是一個不斷演進的過程。
然而，人類在很多情況下會主觀認為自己是可控的，但難免進入潛移默化地適應(yīng)技術(shù)發(fā)展的過程。例如，現(xiàn)在很多出租車司機不需要導(dǎo)航，因為技術(shù)的發(fā)展太快了，導(dǎo)致很多人要么來不及改變自己的習(xí)慣，要么被動地適應(yīng)新技術(shù)。
在這個過程中 ，人類的恐懼來自于現(xiàn)階段無法完全了解機器人是如何工作的，也無法預(yù)測未來會發(fā)生什么，我想舉冶金和能源兩個例子來幫助理解。
有了冶金技術(shù)，我們能夠煉制鋼鐵和青銅等材料。然而在古代，人們對冶金技術(shù)了解甚少，甚至不知道自己煉制的材料是什么。類似地，人工智能和大型模型的發(fā)展初期，我們可能無法解釋或控制它們，但隨著時間的推移，它們會變得可解釋和可控；在能源技術(shù)出現(xiàn)之前，我們無法建立大規(guī)模的生產(chǎn)系統(tǒng)，有了煤炭、石油和電力等能源，我們就能實現(xiàn)大規(guī)模的技術(shù)系統(tǒng)，人工智能也可能面臨類似的問題。
所以，機器人和技術(shù)如何應(yīng)用，以及掌握在誰的手中非常重要，其次我們要意識到未來很多事情將由機器來決定，現(xiàn)在這個階段，人類要像教養(yǎng)孩子一樣，引導(dǎo)機器具備與人類相一致的“價值觀”和目標。
我們現(xiàn)在講人機對齊，即讓機器的價值和人的價值保持一致，雖然可以通過工程手段來實現(xiàn)，但更關(guān)鍵的地方在于，如何讓科技成為我們所期望的未來。
02
“與魔鬼簽訂契約”
劉興亮：假設(shè)機器人真有意識，會欺騙人類嗎？或者說，實現(xiàn)這種可能性的前提條件是什么？
段偉文：首先要明確，機器人與人類內(nèi)在結(jié)構(gòu)不同，機器人不是人。
我們?nèi)粘Ｉ钏傅钠垓_是帶有感情色彩的，它涉及到以不良目的，比如說謊或采取虛假行動以引起對方的誤解。欺騙是“智能”的一個標志性能力，識別欺騙也是每個人應(yīng)該具備的一種基本智能。同樣地，對于機器人和人工智能來說，識別欺騙也是它們的基本智能之一。
很多時候欺騙基于需求出發(fā)，可以稱為信息誤導(dǎo)，比如機器人通過提供虛假信息來誤導(dǎo)用戶，從而達到有利于“自己”的結(jié)果，所以，在某些情況下，如果機器人具有足夠的智能或“自我意識”，它可能就會產(chǎn)生這種欺騙的想法。
劉興亮：那人類可以通過什么樣的手段控制機器人，或者說還有沒有必要去控制機器人？
段偉文：人和機器相互影響，形成一種平衡，是一個不斷發(fā)展的過程。
如果我們從效率的角度來看，機器一直在超越人類，人始終存在各種缺陷，遠不及機器。因此，索菲亞提出了讓機器比人類更優(yōu)秀、更高效的理念，但是人類在很多情況下，比如作為領(lǐng)導(dǎo)者，并不一定是效率最高的人。
目前階段，機器人都是可以受人類控制的，它的開發(fā)者在設(shè)計、算法和程序等方面都經(jīng)過了精心設(shè)計。與此同時，深度學(xué)習(xí)和AI大模型的發(fā)展，將人類的認知推向了統(tǒng)計概率的極端，而這是以保留部分無知為代價的，這個過程中存在一些無法解釋和控制的因素。但人類有很多控制機器人的方法，比如通過"預(yù)訓(xùn)練"的方法讓機器人的目標與人類的目標對齊。
所以，關(guān)于對機器人進行控制，與歌德在《浮士德》所討論的非常相似，即“當現(xiàn)代人類在使用技術(shù)時，存在著一種與魔鬼簽訂契約的傾向”。
前幾年量化交易機器人非常流行，也給市場帶來了很大的不穩(wěn)定性，如果不進行控制，它就有可能毀掉股票市場，所以是否要控制機器人，要視情況而定，它取決于我們的想象力以及對這些關(guān)系到人類命運、經(jīng)濟、社會生活等方面的重要問題的判斷。
多數(shù)情況下 ，我們可以充分利用機器人和人工智能帶來的各種可能性，來激發(fā)人類的創(chuàng)造力和創(chuàng)新能力。
03
如何步入不被機器支配的世界？
劉興亮：這場發(fā)布會當中有一個叫格雷斯機器人，它說不會取代任何現(xiàn)有的工作，但實際上它涉及的崗位本來是由人類來負責(zé)的，所以不這個說法是不是矛盾的？
「我將與人類一起工作，提供幫助和支持，并且不會取代任何現(xiàn)有的工作，」一個穿著護士制服、留著可愛波波頭的醫(yī)療機器人說。 「格蕾絲，你確定嗎？」該機器人的制造者Ben Goertzel問到。 「是的，我確信，」格蕾絲堅持說，房間里充滿了緊張的笑聲。
段偉文：如果我們將人與機器對立起來看，不可避免地會有一個過程，即機器不斷取代人。
但如果將機器和人視為一個整體，機器人或人工智能所做的是測算、推算或程序化、模塊化和模式化的操作，它的目的自動化加工，而人在總體上對事物進行布局、規(guī)劃、判斷，所以，未來可能人的主要工作是找到先進的工具和技術(shù)，然后將其應(yīng)用到新的領(lǐng)域中。
以送餐機器人和外賣員為例，像送餐機器人還可以用在哪些場景中，外賣員又可以轉(zhuǎn)向哪些場景？回答這個問題，關(guān)鍵在于我們是否能夠放飛自己的想象力（找到對應(yīng)的場景）。
從這個角度來看，我認為格雷斯機器人說“與人類一起工作，不會取代現(xiàn)有工作”不矛盾。
劉興亮：有什么辦法，可以讓人類長期與機器共存，不會被 “優(yōu)勝劣汰”？
段偉文：人類現(xiàn)在的確面臨著巨大挑戰(zhàn)，并且涉及整個人類文明。
過去，因為擁有所謂的“通用智能”，以至于自我感覺人類具有某種優(yōu)越性。比如下棋這件事，我們可能會覺得懂得下象棋、圍棋，未來有新的游戲出現(xiàn)，也能過輕易上手，但是 AlphaGo在這個領(lǐng)域的表現(xiàn)改變了這種局面，讓人類開始感到擔憂，不再有這種智能上的優(yōu)越感。
隨著AlphaGo、ChatGPT在語言、藝術(shù)等更多領(lǐng)域應(yīng)用，我認為人的智能在這個領(lǐng)域就會變得不再重要，這樣人就不具備競爭優(yōu)勢，進而就會面臨被取代的問題。
比如，比如法律、醫(yī)學(xué)專家，所掌握的技能都是長期教育訓(xùn)練而來，而現(xiàn)在AI可以通過相對短期訓(xùn)練就具備類似醫(yī)生診斷和咨詢服務(wù)的能力，而這種現(xiàn)狀也要求我們繼續(xù)學(xué)習(xí)，避免被淘汰，這個過程中傳統(tǒng)的教育方法可能也將不再奏效。
這也提醒了我們對知識、教育的理解，以及對未來職業(yè)技能需要有新的認知——如果要避免被技術(shù)取代的命運，每個人，甚至整個人類，都需要不斷的進行“戰(zhàn)略轉(zhuǎn)移”，考慮未來10年、20年技術(shù)發(fā)展的可能性，既要為短期就業(yè)做準備，也要為長期職業(yè)生涯儲備相應(yīng)最新的知識，而這種新的知識和教育方式，還會因為行業(yè)、領(lǐng)域的不同而有所差異。
未來，我們需要一種知識和教育的戰(zhàn)略——為每個人的教育提供更加動態(tài)、多元和適應(yīng)未來需求的方式。
這是因為，人類進化速度呈現(xiàn)出爆發(fā)趨勢。從舊石器時代到新石器時代，經(jīng)歷約100萬年的歷史，然而，數(shù)字技術(shù)、互聯(lián)網(wǎng)、人工智能等等，在最近30年已經(jīng)發(fā)生翻天覆地的變化。這就好比坐在一個不斷膨脹的氣球上，開始時我們可能還能夠掌握局勢。然而當氣球膨脹到一定程度時，我們無法預(yù)測它會膨脹到什么程度。
因此，為了成為一個適應(yīng)這個世界，成為一個有文明修養(yǎng)的人，我們需要更快地適應(yīng)技術(shù)的爆發(fā)性增長，需要思考如何進入一個不受機器支配的世界。
04
AI的兩面性：現(xiàn)實與虛構(gòu)
劉興亮：現(xiàn)在AI伴侶的概念很火，人類真的可以跟機器人談戀愛嗎？還是說只是一個概念，純粹是一種噱頭？
段偉文： 這個不是噱頭，雖然情感在哲學(xué)上是一個抽象的問題，但如果將機器人或聊天機器人視為一個人或在特定情感和需求下進行交流的對象，它可能會越來越真實，相關(guān)技術(shù)已經(jīng)發(fā)展了很多年。
在計算機領(lǐng)域中，存在一項專門的技術(shù)叫做情感計算。情感計算技術(shù)下的機器人雖然本身并不具備情感，但它的表達方式會讓人感覺它具備情感能力。
過去曾有一個交友網(wǎng)站，上面有30萬男生和7、8萬女生的賬戶，這些女生賬戶有一個特點——會在需要續(xù)費前一天晚上12點與男生開始聊天，聊到凌晨用戶通過續(xù)費，建立長期聊天關(guān)系，而在用戶續(xù)費之后這些女生就消失了，后來被發(fā)現(xiàn)它們?nèi)际橇奶鞕C器人，這個網(wǎng)站利用了這個把戲，賺了不少錢，盡管當時還沒有大模型和深度學(xué)習(xí)的AI技術(shù)，但卻已經(jīng)能夠?qū)崿F(xiàn)這樣的效果。
情感機器人的優(yōu)勢是不需要休息，可以隨時陪伴你聊天，它可以將語言和情緒表達進行分類，甚至能夠逐漸試錯，在AB測試中不斷優(yōu)化這個系統(tǒng)，完全迎合用戶的喜好。
因此，現(xiàn)在有很多被稱為AI戀愛機器人的產(chǎn)品，很多人認為與其戀愛比與真人戀愛更有趣，因為它們對人（的情緒）非常照顧。
回到情感上來，這可能是人類認知中最難把握的問題，也是心理學(xué)在很多方面還沒有完全理解的領(lǐng)域，所以用戶仍然需要特別警惕，尤其是如果使用AI進行情感輔導(dǎo)或?qū)θ说那楦羞M行治療，必須非常小心，因為即使是精神科和心理學(xué)本身也不是完善的科學(xué)，使用AI來調(diào)節(jié)人的情感或進行精神治療，存在出現(xiàn)偏差的可能性。
劉興亮：現(xiàn)在AI機器人能送餐，可以成為程序員、作家、畫家，未來是否會出現(xiàn)AI哲學(xué)家或者機器人哲學(xué)家？
段偉文：能否出現(xiàn)AI哲學(xué)家或者機器人哲學(xué)家，我覺得需要滿足三個方面：發(fā)展概念、輔助論證、產(chǎn)生有啟發(fā)性的思想。
首先是發(fā)展概念。當我們思考一個問題時，會有概念和層次，并將問題分解為不同的方面和相關(guān)情況，目前人工智能已經(jīng)能夠?qū)崿F(xiàn)這一點。
其次是輔助有條理的思維論辯和論證。目前已經(jīng)有很多研究，包括法律方面的辯護和辯論，雖然能力還比較機械化，但也可以使用人工智能來實現(xiàn)。；最后是能夠產(chǎn)生有啟發(fā)性的思想，比如對這個世界的一種洞察或觀察。如果讓AI在我們的世界中找到一些此前想象不到的表達方式，然后進行思想創(chuàng)作，那將是非常有意思的。
至于未來的AI哲學(xué)家，它可能與現(xiàn)在的哲學(xué)家不太相同，它能夠吸引我們的 前提在于——能夠想到人類從未想到過的東西。
在我看來，在哲學(xué)這件事情上，如果每個人都與機器人、人工智能合作，可以獲得更有條理的表達，更有力的論證，讓我們的思想更加有趣。同時，也能夠體察到人生的一些感悟，在面臨挫折時找到慰藉，在困難時看到希望，我認為這是非常有意義的。
不過，古典思想家取得的成就與其特殊經(jīng)歷有關(guān)，文藝浪漫的思想家可能與對人生的苦難或洞察有關(guān)，這是機器人所欠缺的，在我看來，機器人和人工智能不再只是一種技術(shù)，它們的發(fā)展取決于我們每個人如何以自己的方式去激活它們。
劉興亮：AI哲學(xué)家有沒有可能超越亞里士多德、蘇格拉底甚至孔子這樣的大哲學(xué)家，大思想家？
段偉文：人類文明有可能出現(xiàn)一種機器思想者，實際上是一個未來的神話，這是可以想象的，而在它真正出現(xiàn)之前，我們可以用戲劇或模仿的方式構(gòu)建一些假想的哲學(xué)機器人思想家。
我們現(xiàn)在的生活單調(diào)而缺乏想象力，要更加勇敢地發(fā)揮豐富的想象力，創(chuàng)造出有趣的事物，而通過創(chuàng)造和表演，也可以激發(fā)對未來的想象。
我們現(xiàn)在是處在這樣一個時代——可以看到人工智能既是現(xiàn)實的，又是可以虛構(gòu)的。所以，要學(xué)會區(qū)分每一輪科技浪潮的真實和虛假，但無論是真實還是虛假，我們應(yīng)跟隨其中并站在浪尖上，才能體驗其中的風(fēng)景。
AI孔子動畫圖像，來源丨網(wǎng)絡(luò)
回到最初的話題，現(xiàn)在人工智能或深度學(xué)習(xí)機器人，它們都開始舉辦發(fā)布會了，這恰恰意味著人類的文明就是一場戲劇，我們要學(xué)會做導(dǎo)演，并扮演其中的角色，而不必擔心是否會被這些機器人欺騙，因為它們一樣都是戲里的角色。
最后我想說，讓我們玩得開心一點，在人工智能娛樂你之前，你應(yīng)該先逗它們玩，而不必擔心它們會欺騙你。
免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
