01

近期，馬斯克和千名科技大佬發(fā)出一份公開(kāi)信，呼吁AI實(shí)驗(yàn)室暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱其「對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)」。

這波操作讓我想起了19世紀(jì)的紅旗法案。

紅旗法案是一個(gè)古老的英國(guó)法規(guī)，當(dāng)時(shí)為了道路安全限制汽車速度，要求汽車前面走一個(gè)人，手持紅旗或紅燈。這實(shí)際上阻礙了汽車技術(shù)的發(fā)展。如今看來(lái)，紅旗法案很好笑，未來(lái)我們也許會(huì)覺(jué)得這封公開(kāi)信也相當(dāng)可笑。

同時(shí)，這部法案一定程度上使英國(guó)失去汽車發(fā)展的先發(fā)優(yōu)勢(shì)，美國(guó)、德國(guó)的汽車產(chǎn)業(yè)后來(lái)居上。所以，簽署這份公開(kāi)信的人里，不排除有看到其他企業(yè)在AI方面跑得太快了，自己追得有點(diǎn)累，就想辦法讓對(duì)方停一停的人。

每次科技變革都會(huì)引發(fā)恐慌，如蒸汽機(jī)、汽車、電力、計(jì)算機(jī)?？只胚^(guò)后，我們需要思考的是技術(shù)進(jìn)步與社會(huì)風(fēng)險(xiǎn)的平衡，需要制定的是防范未然的策略，需要反思的是技術(shù)創(chuàng)新的道德責(zé)任。

這些都很重要，但應(yīng)該和技術(shù)的發(fā)展同步進(jìn)行，而不是舉紅旗限速，更不是按暫停鍵。再說(shuō)了，暫停多久才夠呢？馬斯克他們建議6個(gè)月，6個(gè)月就能想清楚嗎？別告訴我，6個(gè)月后出現(xiàn)的是AI領(lǐng)域的紅旗法案！

02

在騰訊新聞問(wèn)答上，有一個(gè)問(wèn)題關(guān)注度很高：馬斯克等千名科技大佬聲稱AI可能毀滅人類，這是危言聳聽(tīng)嗎？

我來(lái)說(shuō)說(shuō)我的看法。

AI失控甚至毀滅人類的前提是AI要具有自主性，就是在很大程度上獨(dú)立完成任務(wù)。那么，在AI系統(tǒng)沒(méi)有足夠理解人類價(jià)值觀和道德準(zhǔn)則的情況下，這種自主性就可能導(dǎo)致失控的風(fēng)險(xiǎn)。

但目前的生成式AI本質(zhì)上還是人類的工具，給它一個(gè)指令，它來(lái)生成相應(yīng)的文字、圖片等內(nèi)容，距離具備自主性還非常的遙遠(yuǎn)。

雖然人工智能因ChatGPT這樣的工具在近期被廣泛關(guān)注，但它不是最近幾年才出現(xiàn)的技術(shù)。我可是在2015年就出版了《智能爆炸》這本書(shū)，而從全世界范圍來(lái)說(shuō)，至少自1950年以來(lái)，人工智能就以某種形式存在（比如著名的圖靈測(cè)試），甚至可以追溯到更早的時(shí)候。

也就是說(shuō)人工智能經(jīng)過(guò)了70多年的發(fā)展，才有了ChatGPT這種水平的產(chǎn)品。比起擔(dān)心AI毀滅人類，我更擔(dān)心在我的有生之年都不能見(jiàn)到真正具有人類水平智能的AI系統(tǒng)。即便是在非常遙遠(yuǎn)的未來(lái)，我也堅(jiān)信AI毀滅人類的可能性微乎其微。

03

同時(shí)，我也覺(jué)得科技大佬們不見(jiàn)得是真的擔(dān)心AI會(huì)毀滅人類，而是想用這種引人注目的方式來(lái)推動(dòng)行業(yè)的健康發(fā)展（除了部分懷有私心的人）。

這封公開(kāi)信能夠帶來(lái)的積極影響在于：提高公眾對(duì)于AI技術(shù)發(fā)展?jié)撛陲L(fēng)險(xiǎn)的認(rèn)識(shí)；促進(jìn)政策的制定，使得政府和國(guó)際組織對(duì)AI技術(shù)的發(fā)展進(jìn)行更多的監(jiān)管；引導(dǎo)整個(gè)行業(yè)的道德和倫理發(fā)展，使得企業(yè)、研究機(jī)構(gòu)和開(kāi)發(fā)者在開(kāi)發(fā)和應(yīng)用AI技術(shù)時(shí)遵循一定的道德規(guī)范，確保技術(shù)的安全和可靠；促成行業(yè)內(nèi)的合作，共同制定標(biāo)準(zhǔn)和準(zhǔn)則；此外，作為行業(yè)領(lǐng)導(dǎo)者，公開(kāi)信也可以作為其表達(dá)對(duì)未來(lái)科技影響的擔(dān)憂和對(duì)負(fù)責(zé)任創(chuàng)新的承諾的一種方式。

04

總之，這封公開(kāi)信有負(fù)面的影響，如可能會(huì)阻礙技術(shù)的發(fā)展，也有一系列積極的影響。但只要適度，就可以做到利大于弊。

至于AI毀滅人類，想太多了！

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。