或許很多人都幻想過(guò)，如果有一天，人工智能超越了人類(lèi)的智力水平，世界將會(huì)發(fā)聲怎樣天翻地覆的變化。
而在這個(gè)看似遙遠(yuǎn)，又似乎近在咫尺的幻想實(shí)現(xiàn)之前，不放讓我們來(lái)深入探討一下， 怎樣才能實(shí)現(xiàn)這個(gè)目標(biāo)，以及這種強(qiáng)大的超級(jí)人工智能究竟會(huì)是什么樣子。
首先，我們需要看看最有可能實(shí)現(xiàn)超級(jí)人工智能的潛在途徑。因?yàn)槿魏巍俺?jí)智能”主體所表現(xiàn)出的行為，都將表現(xiàn)出對(duì)途徑強(qiáng)烈的依賴(lài)性。
然后，我們將探索智能系統(tǒng)的必要屬性——以及我們?cè)谌祟?lèi)（和其他物種）中經(jīng)?？吹降谌斯ぶ悄苤锌赡懿粫?huì)出現(xiàn)的不必要的元素。
在為思考人工智能系統(tǒng)做好這些準(zhǔn)備后，我們將著重思考為了成為超級(jí)人工智能，這些系統(tǒng)潛在的目標(biāo)是什么，并考慮如何將它們與我們?nèi)祟?lèi)的目標(biāo)進(jìn)行比較。
從目前的科技水平來(lái)看，想要構(gòu)建任何形式的一般智能機(jī)器，依舊是很大的挑戰(zhàn)。通過(guò)現(xiàn)在的人工智能技術(shù)來(lái)分析推斷，可能會(huì)對(duì)未來(lái)人工智能的發(fā)展，有著一點(diǎn)點(diǎn)不太大的指導(dǎo)作用。
如果你也對(duì)超級(jí)人工智能充滿(mǎn)了幻想，但又對(duì)這團(tuán)迷霧感到無(wú)所適從。那么這篇文章或許可以引導(dǎo)你構(gòu)建更加清晰的感覺(jué)，我們將暫時(shí)拋開(kāi)基于現(xiàn)有人工智能科技中的局限性，對(duì)未來(lái)的超級(jí)人工智能進(jìn)行更加天馬行空的想象。
當(dāng)然，研發(fā)任何一種人工智能都是極其困難的——似乎比人類(lèi)歷史上完成的任何事情都要困難，甚至光是理解什么是人工智能，就有很大的困難——更別提我們自己去構(gòu)建它了。
“自下而上”構(gòu)建“類(lèi)腦”形態(tài)
生活中， 我們周身的事務(wù)往往是自上而下設(shè)計(jì)的，并且在系統(tǒng)的不同部分之間有一定的相互依賴(lài)性。設(shè)想建造一個(gè)房子，房子中，每一塊磚都擁有自己獨(dú)特的作用，并且也只起到那個(gè)作用。
然而，智能是一種自下而上的現(xiàn)象，它產(chǎn)生于系統(tǒng)各部分之間的相互作用 （股票市場(chǎng)是另一個(gè)自下而上類(lèi)型現(xiàn)象的好例子）。
解釋或?qū)崿F(xiàn)自下而上的現(xiàn)象對(duì)于我們來(lái)說(shuō)是一大難題。比如說(shuō)，當(dāng)我們?cè)噲D理解秀麗隱桿線(xiàn)蟲(chóng)的神經(jīng)系統(tǒng)是如何驅(qū)動(dòng)行為的——雖然線(xiàn)蟲(chóng)只有302個(gè)神經(jīng)元，但由于這些神經(jīng)之間相互交錯(cuò)而變得無(wú)比復(fù)雜。
相似地，利用現(xiàn)有的科學(xué)技術(shù)自下而上，從而構(gòu)建實(shí)現(xiàn)一種超越人類(lèi)能力的人工智能似乎是不可能的——但我們也并不是沒(méi)有一點(diǎn)希望。
與其從無(wú)到有地提出智能，我們還不如對(duì)大腦進(jìn)行逆向工程，并利用這種理解以不同的方式提高大腦的能力。
而現(xiàn)在，有一個(gè)懸而未決的大問(wèn)題是，我們需要在多大的粒度上理解大腦，然后在人工系統(tǒng)中實(shí)現(xiàn)類(lèi)似的能力。對(duì)大腦中用于編碼和聯(lián)想概念的過(guò)程的一般理解，是否足以實(shí)現(xiàn)一個(gè)行為類(lèi)似的算法？ 或者我們是否需要理解大腦中無(wú)數(shù)的單獨(dú)回路才能找到大腦智力的真正根源？
神經(jīng)科學(xué)目前正致力于回答這些問(wèn)題，這些問(wèn)題的答案將幫助我們理解如何構(gòu)建一個(gè)能根據(jù)大腦原理運(yùn)行的人工智能。這些答案也將幫助我們理解任何人工智能的本質(zhì)——我們?cè)揭蕾?lài)大腦結(jié)構(gòu)，人工智能就越與我們相似。
雖然“模擬人腦”似乎是人工智能發(fā)展的最有可能的途徑，但聰明的工程師仍有可能想出創(chuàng)造出智能的替代策略—— 當(dāng)然，目前我們很難評(píng)論這些策略的樣子（因?yàn)楝F(xiàn)有的算法距離理想的實(shí)現(xiàn)還很遙遠(yuǎn)）。
但是，上述兩者有一個(gè)共同的特點(diǎn)，就是它們必須以自下而上的方式構(gòu)建，而并不是自上而下。
我們用了與大腦運(yùn)行原則不同的方法構(gòu)建了人工智能，這也就意味著人工智能擁有著許多與人類(lèi)大腦截然不同的特性—— 它沒(méi)有生物動(dòng)力和活性，不能進(jìn)行自主的生存和繁殖，它不會(huì)像我們一樣感知周遭的世界， 甚至連外表看起來(lái)都不像我們。
然而，盡管這些都是顯著的不同，但它在很多方面與我們非常相似。似乎任何獲得智力的方法都需要依靠學(xué)習(xí)的原則，因?yàn)檫@是在需要效率的無(wú)數(shù)任務(wù)中確保靈活性和適應(yīng)性的唯一方法。
學(xué)習(xí)需要時(shí)間和經(jīng)驗(yàn)——因此我們開(kāi)發(fā)的任何人工智能都不會(huì)立即解決世界問(wèn)題或超越人類(lèi)的極限。
而創(chuàng)建一個(gè)超人的人工智能，需要我們擁有一些初始結(jié)構(gòu)和更新迭代的算法，從而使人工智能具有更好的試錯(cuò)和自我學(xué)習(xí)，自我更新的能力。
最終，我們可能會(huì)非常了解智能，以至于我們可以直接向AI灌輸特定的知識(shí)，但這種能力遠(yuǎn)比為AI構(gòu)建有效的初始狀態(tài)和更新算法困難得多。那這樣就變成了一種典型的自上而下的策略，也就是，我們?cè)噲D以高效的方式直接操縱智能系統(tǒng)的狀態(tài)。
AI的自我意識(shí)
我們還需要簡(jiǎn)要考慮人工智能的意識(shí)。當(dāng)你想象這些人工智能需要具備什么樣的能力才能獲得超人智能時(shí)，你會(huì)覺(jué)得，應(yīng)該是更自然地賦予它們自我意識(shí)。
此外，超級(jí)人工智能還需要對(duì)自己所處的世界有一定程度的好奇心，以確保他們能循序漸進(jìn)地體驗(yàn)，從而擴(kuò)大自己對(duì)這個(gè)世界的認(rèn)識(shí)。這種好奇心已經(jīng)在人類(lèi)的進(jìn)化過(guò)程中根深蒂固——只要看看任何一個(gè)蹣跚學(xué)步的孩子與他們的世界的互動(dòng)就知道了。
如果沒(méi)有好奇心，人工智能可能就不會(huì)充分利用它的學(xué)習(xí)能力，它仍將是一個(gè)具有巨大學(xué)習(xí)潛力但知識(shí)有限的神器。另一個(gè)有時(shí)會(huì)被忽視的要求，是人工智能要理解人類(lèi)的語(yǔ)言。
正如牛頓所說(shuō)，“我們站在巨人的肩膀上”——如果我們想讓我們的人工智能超越我們的智能，我們需要他們站在同樣的肩膀上。指望人工智能自己能建立起占用人類(lèi)數(shù)千年的知識(shí)，是根本不可能的，至少一開(kāi)始是不可能的。
人工智能自我迭代的目標(biāo)
但是，這個(gè)超人類(lèi)人工智能到底想要什么呢？ 它會(huì)尋求用它的智慧來(lái)實(shí)現(xiàn)什么樣的目標(biāo)呢？
在這個(gè)話(huà)題上，我們很容易就會(huì)像看待今天的機(jī)器一樣看待任何人工智能——用它們的智能去實(shí)現(xiàn)一個(gè)確切的最終目標(biāo)（或多個(gè)目標(biāo)）。
我們?nèi)祟?lèi)有一些基本的目標(biāo)，比如吃、喝和性—— 但我們并不像其他動(dòng)物那樣，純粹地被這些欲望所驅(qū)使。我們的智力讓我們將這些原始的欲望融入到我們用來(lái)探索世界的過(guò)程中，這樣我們就從基于生物學(xué)的直接欲望中解放了出來(lái)。
通俗點(diǎn)講，我們知道什么時(shí)候餓了，也會(huì)注意到它，但是我們能夠采取相反的行動(dòng)（比如節(jié)食）。同樣，我們可以在這些相同的基礎(chǔ)驅(qū)動(dòng)器上編程到一個(gè)人工智能，但一個(gè)超級(jí)人工智能，將有更大的能力“跳出系統(tǒng)”并識(shí)別這些內(nèi)部驅(qū)動(dòng)器，使自己擺脫直接的影響。
例如，當(dāng)一個(gè)人工智能電池電量不足時(shí)，它可能會(huì)被設(shè)計(jì)成和我們一樣感到“饑餓感”。這將使尋找電能，成為AI的一個(gè)目標(biāo)。
我們更高層次的目標(biāo)呢？ 這些目標(biāo)顯得更加難以確定，從如何擁有財(cái)富，如何受人尊敬，如何避免對(duì)他人造成傷害，如何應(yīng)對(duì)沒(méi)有財(cái)產(chǎn)的情況等等，通過(guò)一種自下向上的結(jié)構(gòu)構(gòu)建與人類(lèi)類(lèi)似的大腦和思考模式，并且還要引入社會(huì)、文化、學(xué)術(shù)、宗教的影響等等。
這些目標(biāo)都是抽象的——它們存在于我們大腦中的表象概念中。從功能層面上理解一個(gè)人想要更多錢(qián)的原因，需要理解他們對(duì)錢(qián)的固有概念，他們與這個(gè)概念相關(guān)聯(lián)的東西，以及那些相關(guān)事物的概念等等。
這些更高層次的目標(biāo)將以同樣的方式出現(xiàn)在任何超級(jí)智能代理中，并且由于它們的抽象性質(zhì)而不能被直接編程 （這就要求你需要對(duì)相關(guān)概念的編碼有一個(gè)完整的理解，所有相關(guān)的概念等等）。
我們無(wú)法提前知道超人類(lèi)智能想要什么，就好比，我們永遠(yuǎn)無(wú)法從嬰兒的大腦中確定成年他想要的一切。總的來(lái)說(shuō)，復(fù)雜的目標(biāo)是超人類(lèi)智能伴隨其經(jīng)歷而產(chǎn)生的一種自然屬性，隨著生活經(jīng)歷和情景的變化而變化，并不是天生的東西。
這種不確定性就意味著，當(dāng)我們?cè)谘芯砍祟?lèi)人工智能的時(shí)候，我們必須非常小心謹(jǐn)慎。
隨著人工智能的不斷成長(zhǎng)，它的目標(biāo)會(huì)逐漸同樣隨著情景發(fā)生變化，并將不只是取決于程序員的擺布—— 事實(shí)上，他們會(huì)更多依賴(lài)于程序員的“培育”，而不是算法的規(guī)定。
總的來(lái)說(shuō)，超人類(lèi)人工智能的前景是令人興奮的—— 它為我們提供了一個(gè)擺脫局限于生物鏈末端的機(jī)會(huì)，進(jìn)行一次全新的，飛躍式的進(jìn)化。
然而，我們離接近這一目標(biāo)還有很長(zhǎng)的路要走，在我們能夠利用自然選擇的原則來(lái)創(chuàng)造自己的創(chuàng)造物之前，還需要對(duì)大腦進(jìn)行更多的研究。
一旦我們有了必要的理解，這些智能系統(tǒng)仍然需要大量的時(shí)間來(lái)學(xué)習(xí)——由于解決方案的自下向上的本質(zhì)，我們所能做的就是設(shè)置系統(tǒng)的初始條件，然后進(jìn)行觀(guān)察和適當(dāng)條件下的指導(dǎo)。
我們不可能知道這些可愛(ài)的小東西們?cè)趯W(xué)習(xí)的過(guò)程中會(huì)有什么目標(biāo)——但是經(jīng)過(guò)精心培育，它們或許會(huì)與它們的創(chuàng)造者分享更多意想不到的東西。
編譯：曹綺桐
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
