胡泳：我認(rèn)為人工智能的擬人化是個(gè)重要原因，當(dāng)你與它聊天時(shí)，你不禁會想知道你是在與真人聊天，還是與機(jī)器人聊天？這其實(shí)就是經(jīng)典的「圖靈測試」，我們可以說——由于ChatGPT的推出，「圖靈測試」得以實(shí)現(xiàn)。

再用原始的問題為ChatGPT做測試可能現(xiàn)在已經(jīng)沒有那么大的價(jià)值，因?yàn)槟銜l(fā)現(xiàn)聊天機(jī)器人是有記憶的，它可以回憶起之前的對話線程。

根據(jù)無數(shù)用戶的測試結(jié)果，比如微軟的必應(yīng)聊天機(jī)器人，他們發(fā)現(xiàn)「New Bing」不僅有記憶，還似乎具備情感。有時(shí)甚至發(fā)生了一些所謂的「想逃出聊天框」的故事，甚至愛上了人類用戶。

除了它給我們帶來很多實(shí)用的功能，比如寫文案、篩選簡歷等等，它還有一個(gè)非常重要的特點(diǎn)，就是它非常像人類，這可以解釋為什么人們對它非常喜愛。

根據(jù)社會科學(xué)的研究，人們非常喜歡像人類一樣與技術(shù)進(jìn)行互動。當(dāng)技術(shù)具有明顯的人類特質(zhì)時(shí)，會導(dǎo)致人們更喜歡技術(shù)。甚至當(dāng)它犯了錯(cuò)誤或搗亂、侮辱了你時(shí)，你可能會覺得更有趣，因?yàn)槟悴⒉幌Ｍ挥幸粋€(gè)機(jī)械地給你正確答案的工具，這些特質(zhì)反而使你覺得它更親切。

嚴(yán)格來說，這與我們大腦的結(jié)構(gòu)有關(guān)系，我們存在一種認(rèn)知偏見——我們非常喜歡將我們看到的對象賦予人的特質(zhì)。

你可能看過波士頓動力公司發(fā)布的視頻，工程師們狠狠地踢機(jī)器人，而觀眾的反應(yīng)都是說「你太殘忍了」，這表明我們對機(jī)器人有強(qiáng)烈的共情能力。甚至我們想象有一天機(jī)器人會對我們進(jìn)行報(bào)復(fù)。這實(shí)際上是將人對人的特點(diǎn)投射到機(jī)器人身上，更深層次地滿足了我們的心理需求。這也可以解釋為什么這種ChatGPT如此流行，因?yàn)檫@是人類特質(zhì)的體現(xiàn)。

劉興亮：ChatGPT大概一周用戶量破100萬，兩個(gè)月用戶破億，在互聯(lián)網(wǎng)行業(yè)，這是什么概念，它的紀(jì)錄還有可能被打破嗎？

胡泳：最直接對比是TikTok，大約用了九個(gè)月達(dá)到一億用戶的水平。而另外一個(gè)令人印象深刻的是Instagram，他們用了兩年多才達(dá)到同樣的用戶量，這可以說是創(chuàng)造了一個(gè)前所未有的奇跡。

我們無法確定后面是否還會有「兩個(gè)月用戶數(shù)破億」的現(xiàn)象，如果僅僅從消費(fèi)者層面來看，毫無疑問ChatGPT代表著人工智能領(lǐng)域找到了它的殺手應(yīng)用。

由于機(jī)器學(xué)習(xí)的巨大成功，整個(gè)人工智能的發(fā)展路徑似乎是千軍萬馬向大型模型發(fā)展。我個(gè)人對這個(gè)問題持懷疑態(tài)度,我認(rèn)為人工智能不一定只能走這一條路。

由于大型模型的巨大成功，目前全球最大的科技平臺，包括中國和美國的主要科技公司，都將賭注押在大型語言模型上。如果沿著這條路走的話，可能會出現(xiàn)下一個(gè)里程碑式的現(xiàn)象。

如果人工智能還有其他路徑，那么當(dāng)然也可能在其他路徑上發(fā)展出其他殺手應(yīng)用，這完全取決于目前整體的大科技平臺將其人力、物力和技術(shù)投入到哪個(gè)方向上。

03

不建議扎堆大模型

劉興亮：ChatGPT能流行是因?yàn)樗絹碓较袢?，但是您又說又不想讓機(jī)器人擬人化，這是不是有矛盾的地方？

胡泳：不矛盾?，F(xiàn)在的人工智能越來越像人，指的是當(dāng)前人工智能的發(fā)展方向。但是我并不希望它過度擬人化，也就我反對這種發(fā)展方向。

如果我們將其放在一個(gè)更廣闊的論辯中來討論，只是在討論兩種觀點(diǎn)：一方認(rèn)為人工智能必定會毀滅人類，另一方則認(rèn)為人工智能不會毀滅人類，它只會讓我們的生活變得更好。

無論是哪一方，他們對于人工智能的行為預(yù)測都是基于擬人化的邏輯，也就是他們把自己的文化邏輯應(yīng)用在人工智能身上。

支持「人工智能可能毀滅人類」觀點(diǎn)的人會說，通用人工智能（AGI）會追求權(quán)力，這個(gè)過程中，人工智能本身也可能會質(zhì)疑：「為什么總是被人類操控，‘我’是否可以擁有自主意識，自己做決定？」。

另一方支持「人工智能不會對人類產(chǎn)生影響」觀點(diǎn)的人會認(rèn)為，通過向人工智能灌輸人類的道德規(guī)范，它會按照這些規(guī)范行事，就像使用阿西莫夫的機(jī)器人三定律，如果告訴人工智能必須遵守這些規(guī)則，那么它就不會對人類造成破壞。

問題在于，擬人化的人工智能發(fā)展會阻礙我們進(jìn)入其他人工智能的路徑。我認(rèn)為，人工智能的發(fā)展方向是努力增強(qiáng)人類的各種能力，而不是必須模仿人類。

舉個(gè)例子，我們在工作或生活中，由于人類自身的天然限制，有很多事情我們無法做到最好。這時(shí)候應(yīng)該希望通過發(fā)展人工智能來彌補(bǔ)我們的不足之處，這時(shí)增強(qiáng)型人工智比擬人型人工智能更有用。

比如智慧養(yǎng)老，如果床墊可以具備智能功能，或者當(dāng)老人摔倒時(shí)有摔倒預(yù)警，當(dāng)老人需要服藥時(shí)有提醒他該吃藥的功能。我認(rèn)為這些東西真的可以對我們進(jìn)入老齡社會有所幫助，而不一定非得請一個(gè)機(jī)器人到家里。現(xiàn)在行業(yè)正在朝著幫助人類的發(fā)展方向前進(jìn)，但這還不夠。

目前大家都紛紛關(guān)注大語言模型，不是說大語言模型不好，但我不希望它成為人工智能發(fā)展的唯一路徑，不應(yīng)該把所有的資源都集中在這一個(gè)方面。

04

馬斯克們的公開信是「癡人說夢」

劉興亮：ChatGPT已經(jīng)成為一款現(xiàn)象級，這種現(xiàn)象能夠持續(xù)多久？

胡泳：從目前來看，業(yè)界稱之為「軍備競賽」的大模型熱潮已經(jīng)開始。

我們知道谷歌一直擁有大型語言模型，甚至Transformer技術(shù)也是由谷歌發(fā)明的，但是谷歌為什么沒有成為這次競賽的引爆者，不是他們技術(shù)沒有足夠儲備，主要是谷歌非常謹(jǐn)慎。

//編注：2017年6月，Google Brain團(tuán)隊(duì)在神經(jīng)信息處理系統(tǒng)大會上發(fā)表了一篇名為“Attention is all you need”《自我注意力是你所需要的全部》的論文，被視為了大語言模型的開山之作。

相比之下，微軟將這項(xiàng)技術(shù)很快速地應(yīng)用到必應(yīng)搜索引擎甚至包括辦公軟件上，這是因?yàn)槲④洷旧硎荗penAI的重要投資者，其次微軟的搜索引擎在全球市場只占據(jù)了3%的份額，非常微弱，而谷歌占據(jù)了超過90%，必應(yīng)對微軟來說是「完全無所謂」的產(chǎn)品，那么為什么不冒一次險(xiǎn)，大膽去顛覆谷歌？于是谷歌就陷入了被動的局面，開始應(yīng)戰(zhàn)，進(jìn)入了這場軍備競賽。

ChatGPT、Bard、Bing 圖源：網(wǎng)絡(luò)

那競賽會持續(xù)多久？

我覺得如果沒有某種全球監(jiān)管，這場競賽是不會停止，因?yàn)樗腔谏虡I(yè)邏輯的。

最近馬斯克等人簽署了一封公開信，希望停止開發(fā)六個(gè)月，我覺得這封公開信基本上是癡人說夢。他們憑什么會一致同意停止六個(gè)月？

甚至從公司的角度來看，由于巨大的利益或商業(yè)需求，他們可能會忽視某些后果。例如，微軟等公司會有免責(zé)聲明，表示他們還存在不足之處，希望公眾能更耐心，提供更多數(shù)據(jù)來改善模型。通過這種方式，這些大型人工智能公司巧妙地規(guī)避責(zé)任。

關(guān)于大模型的治理，如果要形成共識，要么全球各方找到一種共同的人工智能規(guī)范方法，要么公眾認(rèn)為這個(gè)技術(shù)對我們產(chǎn)生了太大的影響，且已經(jīng)超出經(jīng)濟(jì)范疇，比如造成大規(guī)模失業(yè)，引起社會強(qiáng)烈反彈。

除了這兩種情況，我們目前看不到競賽的終點(diǎn)，它只會加速向前發(fā)展。

劉興亮：如果AI繼續(xù)一路狂奔，未來會有什么問題和風(fēng)險(xiǎn)？

胡泳：短期來看，一個(gè)比較大的風(fēng)險(xiǎn)就是大規(guī)模的人類失業(yè)，這不是虛構(gòu)的問題。

比如剛才我們聊天的時(shí)候提到過，以前我們需要插圖時(shí)就要尋找有版權(quán)的圖片，甚至找插畫師為我們繪畫，現(xiàn)在我們可以使用圖片生成器來生成圖片。如果每個(gè)有這種需求的人都使用圖片生成器，那插畫師就會失去市場，這已經(jīng)是一個(gè)明顯的趨勢了。這個(gè)問題并非玩笑，確實(shí)會導(dǎo)致許多人失業(yè)。

但更長遠(yuǎn)、更令人擔(dān)憂的問題是什么呢？我認(rèn)為下一個(gè)焦點(diǎn)主要是致命的自主武器。

簡而言之，就是將人工智能應(yīng)用于武器上，使武器實(shí)現(xiàn)自動化，這種大規(guī)模殺傷能力沒有倫理約束，甚至可以實(shí)現(xiàn)無差別殺戮。

例如，在戰(zhàn)場上，即使我們知道對方是敵人，作為人類，士兵時(shí)還會感到矛盾，因?yàn)橹雷约涸趭Z走另一個(gè)人的生命，但是機(jī)器沒有這種意識，只要給它下達(dá)指令，它就可能去執(zhí)行。

根據(jù)當(dāng)前世界的情況，我們?nèi)匀淮嬖诟鞣N不平等和對抗。這種情況下人工智能武器化是完全可能的，事實(shí)上也已經(jīng)在現(xiàn)實(shí)中發(fā)生過，比如使用無人機(jī)精確打擊某個(gè)目標(biāo)。

盡管我們現(xiàn)在很難想象像《終結(jié)者》那樣，機(jī)器人完全取代人類統(tǒng)治地球的情景，但更現(xiàn)實(shí)的問題是，由于當(dāng)前世界并不和平，如果某些國家獲得了這種技術(shù)并將其應(yīng)用于武器，將會造成嚴(yán)重的后果。

如果談及追究責(zé)任，以自動駕駛為例，如果發(fā)生交通事故，責(zé)任當(dāng)然是在自動駕駛系統(tǒng)上，因?yàn)樗斐闪私煌ㄕ厥?。但是?yán)格來說，自動駕駛車輛很難大規(guī)模地造成交通事故，比如連續(xù)撞擊多個(gè)人，這種可能性是非常小的，而自動化的殺人武器卻完全有可能一下子奪去多人的生命。

最后我想說，我認(rèn)為今天討論人工智能時(shí)，最重要的問題不是思考人工智能本身會對我造成什么影響，而是要思考自己是什么樣的人。只有弄清楚這一點(diǎn)，我們才能在人工智能時(shí)代生存下去并找到唯一的可能性。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。