人工智能系統(tǒng)會(huì)有意識(shí)嗎？三位意識(shí)科學(xué)家表示，目前沒有人知道，他們對(duì)缺乏對(duì)這個(gè)問題的調(diào)查研究表示擔(dān)憂。
數(shù)學(xué)意識(shí)科學(xué)協(xié)會(huì)(AMCS)的三位領(lǐng)導(dǎo)人在向聯(lián)合國(guó)發(fā)表的評(píng)論中呼吁提供更多資金來支持意識(shí)和人工智能的研究。他們表示，迫切需要對(duì)意識(shí)和無意識(shí)系統(tǒng)之間的界限進(jìn)行科學(xué)調(diào)查，法律和安全問題使理解人工智能意識(shí)變得至關(guān)重要。例如，如果人工智能發(fā)展出意識(shí)，是否應(yīng)該允許人們?cè)谑褂煤蠛?jiǎn)單地關(guān)閉它？
AMCS董事會(huì)成員Jonathan Mason是英國(guó)牛津的數(shù)學(xué)家，也是評(píng)論的作者之一，他說，最近關(guān)于人工智能安全的討論，比如備受矚目的英國(guó)人工智能安全峰會(huì)，大多沒有這種擔(dān)憂。梅森指出，美國(guó)總統(tǒng)喬·拜登尋求負(fù)責(zé)任地開發(fā)人工智能技術(shù)的行政命令也沒有解決有意識(shí)的人工智能系統(tǒng)提出的問題。
Mason說：“隨著人工智能的發(fā)展，不可避免地會(huì)有其他鄰近的科學(xué)領(lǐng)域需要迎頭趕上?！薄Ｒ庾R(shí)就是其中之一。
另一些評(píng)論的作者是AMCS主席Lenore Blum，他是賓夕法尼亞州匹茲堡卡內(nèi)基梅隆大學(xué)的理論計(jì)算機(jī)科學(xué)家，以及董事會(huì)主席Johannes Kleiner，他是德國(guó)慕尼黑路德維?！ゑR克西米利安大學(xué)研究意識(shí)的數(shù)學(xué)家。
科學(xué)界還不知道是否存在或?qū)⒂肋h(yuǎn)存在有意識(shí)的人工智能系統(tǒng)。Mason說，即使知道是否已經(jīng)開發(fā)出一種也將是一個(gè)挑戰(zhàn)，因?yàn)檠芯咳藛T還沒有創(chuàng)造出科學(xué)驗(yàn)證的方法來評(píng)估機(jī)器中的意識(shí)。加州舊金山非營(yíng)利研究機(jī)構(gòu)人工智能安全中心的哲學(xué)家羅伯特·龍表示：“考慮到進(jìn)展的速度，我們對(duì)人工智能意識(shí)的不確定性是人工智能的許多擔(dān)憂之一?！?。
這樣的擔(dān)憂不再只是科幻小說。包括創(chuàng)建聊天機(jī)器人ChatGPT的OpenAI公司在內(nèi)的公司正致力于開發(fā)通用人工智能，這是一種經(jīng)過訓(xùn)練的深度學(xué)習(xí)系統(tǒng)，可以執(zhí)行與人類類似的各種智力任務(wù)。一些研究人員預(yù)測(cè)，這將在5到20年內(nèi)實(shí)現(xiàn)。梅森說，即便如此，意識(shí)研究領(lǐng)域還是“支持不足”。他指出，據(jù)他所知，2023年還沒有一筆資助來研究這一主題。
AMCS領(lǐng)導(dǎo)人向聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)提交的報(bào)告概述了由此產(chǎn)生的信息差距。該機(jī)構(gòu)于10月啟動(dòng)，計(jì)劃于2024年年中發(fā)布一份關(guān)于世界應(yīng)如何管理人工智能技術(shù)的報(bào)告。AMCS領(lǐng)導(dǎo)人的意見書尚未公開發(fā)布，但該機(jī)構(gòu)向作者證實(shí)，該組織的評(píng)論將成為其“基礎(chǔ)材料”的一部分，這些文件為其關(guān)于人工智能系統(tǒng)全球監(jiān)督的建議提供了信息。
AMCS的研究人員表示，了解什么可以使人工智能有意識(shí)，對(duì)于評(píng)估有意識(shí)的人工智能系統(tǒng)對(duì)社會(huì)的影響，包括其可能的危險(xiǎn)，是必要的。人類需要評(píng)估這些系統(tǒng)是否具有人類的價(jià)值觀和利益；否則，它們可能會(huì)給人們帶來風(fēng)險(xiǎn)。
但研究人員表示，人類也應(yīng)該考慮有意識(shí)的人工智能系統(tǒng)的可能需求。這樣的系統(tǒng)會(huì)受到影響嗎？Long說：“如果我們沒有意識(shí)到人工智能系統(tǒng)已經(jīng)變得有意識(shí)，我們可能會(huì)給有意識(shí)的實(shí)體帶來痛苦：“我們?cè)趯⒌赖驴紤]擴(kuò)展到與我們長(zhǎng)相和行為不同的實(shí)體方面并沒有很好的記錄?！?，因?yàn)槿祟惒粦?yīng)該花費(fèi)資源來保護(hù)那些不需要保護(hù)的系統(tǒng)。
AMCS的評(píng)論中提出的一些問題是法律問題，以強(qiáng)調(diào)意識(shí)問題的重要性：有意識(shí)的人工智能系統(tǒng)是否應(yīng)該對(duì)故意的不當(dāng)行為負(fù)責(zé)？它是否應(yīng)該被賦予與人民相同的權(quán)利？該聯(lián)盟寫道，答案可能需要對(duì)法規(guī)和法律進(jìn)行修改。
此外，科學(xué)家還需要教育其他人。梅森說，隨著公司設(shè)計(jì)出越來越強(qiáng)大的人工智能系統(tǒng)，公眾會(huì)懷疑這些系統(tǒng)是否有意識(shí)，科學(xué)家需要有足夠的知識(shí)來提供指導(dǎo)。
其他意識(shí)研究者對(duì)此表示贊同。位于博卡拉頓的佛羅里達(dá)大西洋大學(xué)未來思維中心主任、哲學(xué)家Susan Schneider表示，像ChatGPT這樣的聊天機(jī)器人的行為看起來非常像人類，人們有理由對(duì)此感到困惑。如果沒有科學(xué)家的深入分析，一些人可能會(huì)得出結(jié)論，認(rèn)為這些系統(tǒng)是有意識(shí)的，而其他公眾可能會(huì)忽視甚至嘲笑對(duì)人工智能意識(shí)的擔(dān)憂。
為了減輕風(fēng)險(xiǎn)，AMCS的評(píng)論呼吁政府和私營(yíng)部門資助更多關(guān)于人工智能意識(shí)的研究。推進(jìn)這一領(lǐng)域不需要太多資金：盡管迄今為止支持有限，但相關(guān)工作已經(jīng)在進(jìn)行中。例如，Long和其他18名研究人員開發(fā)了一份標(biāo)準(zhǔn)清單，以評(píng)估一個(gè)系統(tǒng)是否有很高的意識(shí)。這篇論文于8月發(fā)表在arXiv預(yù)印本庫(kù)中，尚未經(jīng)過同行評(píng)審，其標(biāo)準(zhǔn)來源于解釋意識(shí)生物學(xué)基礎(chǔ)的六個(gè)著名理論。
Mason說：“進(jìn)步的潛力很大?！?。
本文譯自 nature，由 兩個(gè)豬頭 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
