當(dāng)人們談?wù)撐磥淼娜斯ぶ悄軙r(shí)，會(huì)出現(xiàn)一些恐慌——比如，它可以教會(huì)自己學(xué)習(xí)，并變得比我們?nèi)祟愃芾斫獾娜魏螙|西都更先進(jìn)。在錯(cuò)誤的人手中，甚至可能是自己的，這樣一種先進(jìn)的算法可能會(huì)統(tǒng)治世界各國政府和軍隊(duì)，賦予奧威爾式的監(jiān)視、操縱和社會(huì)控制，甚至可以控制諸如軍用無人機(jī)等自主致命武器的整個(gè)戰(zhàn)場(chǎng)。
但一些人工智能專家并不認(rèn)為這些擔(dān)憂有根據(jù)。事實(shí)上，高度先進(jìn)的人工智能可能比人類更擅長(zhǎng)管理世界。這些恐懼本身才是真正的危險(xiǎn)，因?yàn)樗鼈兛赡茏璧K我們將這種潛力變?yōu)楝F(xiàn)實(shí)。
“也許沒有實(shí)現(xiàn)人工智能是人類面臨的危險(xiǎn)，”Facebook人工智能的研究科學(xué)家托馬斯?米科洛夫在上周六于布拉格舉行的“人類水平人工智能”聯(lián)合會(huì)議上表示。
米科洛夫解釋說，作為一個(gè)物種，人類在做出對(duì)我們有利的選擇方面是相當(dāng)糟糕的。人們已經(jīng)將雨林和其他生態(tài)系統(tǒng)分割開，以獲取原材料，不知道也不關(guān)心它們是如何導(dǎo)致地球整體緩慢而又不可逆轉(zhuǎn)的退化的。
但是，一個(gè)高級(jí)人工智能系統(tǒng)或許能夠保護(hù)人類不受其自身短視的殘害。
米科洛夫補(bǔ)充說：“我們作為人類，非常不善于預(yù)測(cè)在某個(gè)遙遠(yuǎn)的時(shí)間線上會(huì)發(fā)生什么，也許從現(xiàn)在起20到30年。”“也許讓人工智能比我們自己更聰明，在某種共生關(guān)系中，可以幫助我們避免未來的災(zāi)難。”
當(dāng)然，米科洛夫認(rèn)為一個(gè)優(yōu)秀的人工智能實(shí)體將是仁慈的，這可能是少數(shù)派。在整個(gè)會(huì)議過程中，許多其他發(fā)言者表達(dá)了這些共同的恐懼，主要是關(guān)于人工智能被用于危險(xiǎn)的目的，或者被惡意的人類行為者濫用。我們不應(yīng)該嘲笑或輕視這些擔(dān)憂。
我們不確定是否有可能創(chuàng)造出通用人工智能，通常被認(rèn)為是復(fù)雜人工智能的圣杯，它能夠做任何人類能做的任何認(rèn)知任務(wù)，甚至可能做得更好。
先進(jìn)人工智能的未來充滿希望，但它帶來了許多倫理問題，甚至是意想不到的問題。
但是，HLAI會(huì)議的大多數(shù)與會(huì)者都認(rèn)為，在我們需要這些規(guī)則之前，我們?nèi)匀恍枰⒁?guī)則。政府、私營(yíng)企業(yè)和學(xué)術(shù)界建立國際協(xié)議、倫理委員會(huì)和監(jiān)管機(jī)構(gòu)，應(yīng)該將這些機(jī)構(gòu)和協(xié)議落實(shí)到位，減少敵對(duì)政府、不知情的研究人員，甚至是一個(gè)瘋狂科學(xué)家將會(huì)釋放惡意的人工智能系統(tǒng)，或者將先進(jìn)的算法武器化的可能性。如果有什么不好的事情發(fā)生了，那么這些系統(tǒng)就會(huì)確保我們有辦法處理它。
有了這些規(guī)則和保障措施，我們將更有可能在先進(jìn)的人工智能系統(tǒng)中與我們和諧相處，甚至可能拯救我們自己。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
