在GMIC2017首日，最引人關(guān)注的算是當(dāng)今世界最偉大的物理學(xué)家、宇宙學(xué)家霍金通過視頻對話GMIC，發(fā)表了他對于人工智能可能帶給人類的變化的看法和一些思考。

霍金在開篇表示，強大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。對于好壞我們?nèi)詿o法確定，現(xiàn)在人類只能竭盡所能，確保其未來發(fā)展對人類和環(huán)境有利，人類別無選擇。

霍金在GMIC上說了什么

也許應(yīng)該把我們的研究重復(fù)從提升人工智能能力轉(zhuǎn)移到最大化人工智能的社會效益上面。但我們的人工智能系統(tǒng)須要按照我們的意志工作。人工智能是有根除疾患和貧困的潛力的，但是研究人員必須能夠創(chuàng)造出可控的人工智能。

因為人工智能帶給我們的潛在利益的同時，也會帶來了巨大的風(fēng)險。我們也可能會被人工智能藐視并被邊緣化，或者很可能被它毀滅。人類由于受到漫長的生物進化的限制，無法與之競爭，將被取代。

短期的擔(dān)憂在無人駕駛方面，從民用無人機到自主駕駛汽車。在緊急情況下，一輛無人駕駛汽車不得不在小風(fēng)險的大事故和大概率的小事故之間進行選擇。另一個擔(dān)憂在致命性智能自主武器，他們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當(dāng)和故障的過失應(yīng)該如何問責(zé)。此外，人工智能逐漸可以解讀大量監(jiān)控數(shù)據(jù)，還會引起隱私的擔(dān)憂，以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟影響。

長期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險，隨著不遵循人類意愿行事的超級智能的崛起，那個強大的系統(tǒng)威脅到人類，比如最大化使用智能性自主武器?？萍碱I(lǐng)袖和科學(xué)家正極盡所能避免不可控的人工智能的崛起。

雖然我們對潛在危險有所意識，但霍金內(nèi)心仍秉持樂觀態(tài)度，他相信創(chuàng)造智能的潛在收益是巨大的。也許借助這項新技術(shù)革命的工具，我們將可以削減工業(yè)化對自然界造成的傷害。

可喜的是，當(dāng)前歐洲議會已在呼吁起草一系列法規(guī)，這里涉及到了一種形式的電子人格，以確保最有能力和最先進的人工智能的權(quán)利和責(zé)任。我們需要確保機器人無論現(xiàn)在還是將來，都為人類而服務(wù)。報告強調(diào)，在任何時候，研究和設(shè)計人員都應(yīng)確保每一個機器人設(shè)計都包含有終止開關(guān)。

最后，霍金還談到，我們還應(yīng)該扮演一個角色，確保下一代不僅僅有機會還要有決心，在早期階段充分參與科學(xué)研究，以便他們繼續(xù)發(fā)揮潛力，幫助人類創(chuàng)造一個更加美好的的世界。我們需要跳出“事情應(yīng)該如何”這樣的理論探討，并且采取行動，以確保他們有機會參與進來。我們站在一個美麗新世界的入口。

以下為中國科技大咖、科學(xué)家、投資家、網(wǎng)友跟霍金教授之間的問答

創(chuàng)新工場的CEO李開復(fù)：互聯(lián)網(wǎng)巨頭擁有巨量的數(shù)據(jù)，而這些數(shù)據(jù)會給他們各種以用戶隱私和利益換取暴利的機會。在巨大的利益誘惑下，他們是無法自律的。而且，這種行為也會導(dǎo)致小公司和創(chuàng)業(yè)者更難創(chuàng)新。您常談到如何約束人工智能，但更難的是如何約束人本身。您認為我們應(yīng)該如何約束這些巨頭？

據(jù)我了解，許多公司僅將這些數(shù)據(jù)用于統(tǒng)計分析，但任何涉及到私人信息的使用都應(yīng)該被禁止。會有助于隱私保護的是，如果互聯(lián)網(wǎng)上所有的信息，均通過基于量子技術(shù)加密，這樣互聯(lián)網(wǎng)公司在一定時間內(nèi)便無法破解。但安全服務(wù)會反對這個做法。

獵豹移動CEO傅盛：靈魂會不會是量子的一種存在形態(tài)？或者是高維空間里的另一個表現(xiàn)？

我認為近來人工智能的發(fā)展，比如電腦在國際象棋和圍棋的比賽中戰(zhàn)勝人腦，都顯示出人腦和電腦并沒有本質(zhì)差別。這點上我和我的同事羅杰·彭羅斯正好相反。會有人認為電腦有靈魂嗎？對我而言，靈魂這個說法是一個基督教的概念，它和來世聯(lián)系在一起。我認為這是一個童話故事。

百度總裁張亞勤：人類觀察和抽象世界的方式不斷演進，從早期的觀察和估算，到牛頓定律和愛因斯坦方程式， 到今天數(shù)據(jù)驅(qū)動的計算和人工智能，下一個是什么？

我們需要一個新的量子理論，將重力和其他自然界的其它力量整合在一起。許多人聲稱這是弦理論，但我對此表示懷疑，目前唯一的推測是，時空有十個維度。

斯坦福大學(xué)物理學(xué)教授張首晟：如果讓你告訴外星人我們?nèi)祟惾〉玫淖罡叱删?，寫在一張明信片的背面，您會寫什么?/p>

告訴外星人關(guān)于美，或者任何可能代表最高藝術(shù)成就的藝術(shù)形式都是無益的，因為這是人類特有的。我會告訴他們哥德爾不完備定理和費馬大定理。這才是外星人能夠理解的事情。

現(xiàn)場采訪者：我們希望提倡科學(xué)精神，貫穿GMIC全球九站，請您推薦三本書，讓科技屆的朋友們更好的理解科學(xué)及科學(xué)的未來。

他們應(yīng)該去寫書而不是讀書。只有當(dāng)一個人關(guān)于某件事能寫出一本書，才代表他完全理解了這件事。

微博網(wǎng)友：您認為一個人一生中最應(yīng)當(dāng)做的一件事和最不應(yīng)當(dāng)做的一件事是什么？

我們絕不應(yīng)當(dāng)放棄，我們都應(yīng)當(dāng)盡可能多的去理解（這個世界）。

微博網(wǎng)友：人類在漫漫的歷史長河中，重復(fù)著一次又一次的革命與運動。從石器、蒸汽、電氣……您認為下一次的革命會是由什么驅(qū)動的

（我認為是）計算機科學(xué)的發(fā)展，包括人工智能和量子計算?？萍家呀?jīng)成為我們生活中重要的一部分，但未來幾十年里，它會逐漸滲透到社會的每一個方面，為我們提供智能地支持和建議，在醫(yī)療、工作、教育和科技等眾多領(lǐng)域。但是我們必須要確保是我們來掌控人工智能，而非它（掌控）我們。

音樂人、投資者胡海泉：如果星際移民技術(shù)的成熟窗口期遲到，有沒有完全解決不了的內(nèi)發(fā)災(zāi)難導(dǎo)致人類滅絕？拋開隕星撞地球這樣的外來災(zāi)難。

是的。人口過剩、疾病、戰(zhàn)爭、饑荒、氣候變化和水資源匱乏，人類有能力解決這些危機。但很可惜，這些危機還嚴重威脅著我們在地球上的生存，這些危機都是可以解決的，但目前還沒有。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。