上周，2016年底十八屆深圳高交會（中國國際高新技術(shù)成果交易會）突發(fā)一起傷人事件，傷人者是一臺名叫“小胖”的機(jī)器人。一時間，“機(jī)器人三定律”又被拎了出來。

為了避免機(jī)器人傷害人類，1942年，美國著名科幻小說家阿西莫夫在作品《我，機(jī)器人》中提出了“機(jī)器人三定律”，被稱為“現(xiàn)代機(jī)器人學(xué)的基石”：

第一法則：機(jī)器人不得傷害人類，或坐視人類受到傷害；

第二法則：除非違背第一法則，機(jī)器人必須服從人類的命令；

第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

后來，阿西莫夫加入了一條新定律：

第零定律：機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。

對于提出的三定律，阿西莫夫本人曾經(jīng)無不自豪的說過：“三定律是理性人類對待機(jī)器人（或者任何別的東西）的唯一方式。 ”不過，隨著時間的推移以及人工智能的發(fā)展，“機(jī)器人三定律”的適用性逐漸發(fā)生了變化。

機(jī)器人三定律的幾點疑惑

首先，機(jī)器人如何分辨“人”和“機(jī)器人”？ 一般來講，機(jī)器人主要通過傳感器和計算機(jī)視覺來感知人類，但是仿生機(jī)器人、人造皮膚等進(jìn)一步將人類與機(jī)器人的區(qū)別模糊化。目前，人類通過肢體和語言來分辨機(jī)器人，但這兩者在未來肯定是會進(jìn)行優(yōu)化的，屆時，連人類都區(qū)分不了的情形下，又怎么要求機(jī)器人能夠準(zhǔn)確分辨？

其次，在機(jī)器人這里，什么才叫做“傷害”？ 通常來講，傷害分為生理傷害以及心理傷害。比如甲方對乙方惡言相向，這時候機(jī)器人該上前阻止嗎？或者說人類失戀酗酒，對于這種“自殘”行為，機(jī)器人是選擇“坐視人類受到傷害”還是上前奪下酒杯？所以，對于“傷害”一詞的模糊定義，也給機(jī)器人的命令執(zhí)行造成了一定的阻礙。

另外，對于阿西莫夫所增加的“第零定律”中的“整體”一詞，這是指個人的整體還是人類種群的整體？ 若是個人，那是不是人類就不能截肢了？畢竟機(jī)器人要確?！罢w”。若指的是群體，當(dāng)自動駕駛汽車撞向行人之時，人工智能系統(tǒng)又該怎么做？

除了語義，在邏輯上，如果按照阿西莫夫定律，那么“機(jī)器人傷害人類”就是一個“無解”的問題 。舉個例子，當(dāng)劫匪實施搶劫之時，按照定律，哪怕受害人下了殺死劫匪的命令，機(jī)器人依然要在不傷害劫匪的前提下保護(hù)受害人，如此一來，機(jī)器人唯有擋在受害人面前接受劫匪的傷害，但是這就違背了第三定律，如此一來，三定律之間本就是相互矛盾的。此外，若是劫匪綁架了人質(zhì)要求銀行交出錢財，機(jī)器人是該為了個人的“整體”而交出錢財，還是為了群體的“整體”而殺死劫匪和人質(zhì)？其實，不管是哪種做法，現(xiàn)實中的機(jī)器人終會違背機(jī)器人三定律，就如上文所講，如果按照阿西莫夫三定律行事，機(jī)器人只會陷入無限的糾結(jié)之中。

所謂的“機(jī)器人殺手”多只是人類的“傀儡”

事實上，不管機(jī)器人三定律怎么說，或是人類怎么執(zhí)行，人們口中所講的“機(jī)器人殺手”都顯得有點名不符實，這只是人類對其一種淺顯的定義。

機(jī)器人并不具備“自主意識”

鑒于深度學(xué)習(xí)算法的強(qiáng)大，作為機(jī)器人的一些附屬技術(shù)，語音識別、圖像識別等技術(shù)愈發(fā)精進(jìn)，再過個幾年，其性能更是能與人類一較高下。

以語音識別為例，其最主要的用處在于人機(jī)語音交互。目前，人工智能的語音識別技術(shù)已經(jīng)相當(dāng)成熟了，不過，這還只是語音交互的第一步而已。此前，在一場針對自然語言處理的圖靈測試中，聊天機(jī)器人可謂全軍覆沒，而造成這種現(xiàn)象的關(guān)鍵因素就在于深度學(xué)習(xí)算法的不足。

深度學(xué)習(xí)算法是人造神經(jīng)網(wǎng)絡(luò)的主干之一，而人造神經(jīng)網(wǎng)絡(luò)是機(jī)器人能夠“自學(xué)”、有“自主意識”的所要解決的最大難題?？串?dāng)前的人機(jī)語音交互的缺陷，顯然人造網(wǎng)絡(luò)神經(jīng)的發(fā)展還不足以支撐“自主意識”機(jī)器人的研制。如此一來，在人造神經(jīng)網(wǎng)絡(luò)不完善、機(jī)器人沒有“自主意識”，甚至連“意識”這一詞匯都沒有具體定義的情形下，機(jī)器人又怎知何為“傷害人類”？又如何稱得上“機(jī)器人殺手”？只是一種略微夸大的稱呼罷了。

“機(jī)器人殺手”的背后都是人類

縱觀如今現(xiàn)世的機(jī)器人，論意識的話，也只有堪堪的幾家團(tuán)隊的機(jī)器人具備了一些基本的意識，并不具備成為“機(jī)器人殺手”的資格。此前，美國達(dá)拉斯市警方使用一臺機(jī)器人引爆炸彈，從而殺死嫌疑犯，由于是第一次在戰(zhàn)場之外造成傷亡，這件事在當(dāng)時引起了全世界的轟動。

此次事件后，“機(jī)器人殺手”相關(guān)論言被頂上了輿論的高峰。然而，當(dāng)很多人將關(guān)注點放在“機(jī)器人殺人”上面時，他們都忽略了一個事實——是人類操控著機(jī)器人引爆了炸彈，是人類操控著機(jī)器人殺死了嫌疑犯。除此以外，這些年來，機(jī)器人越來越多的被投放于戰(zhàn)場，像無人機(jī)、裝載殺傷力武器的機(jī)器人戰(zhàn)車等等，它們的行動依據(jù)是什么？是人類提前放入的地圖，以及設(shè)定的程序，而在行動過程中，這些機(jī)器人還將受到人類的指揮。

以此來看，在不具備“自主意識”的前提下，作為人類教導(dǎo)、訓(xùn)練出來的產(chǎn)物，人們口中的“機(jī)器人殺手”充其量也只是人類手中的“傀儡”。而在阿西莫夫“機(jī)器人三定定律”中，與其將問題拋給不具備“自主意識”的機(jī)器人，不如說是將問題拋給了其被背后的人類操控者。

結(jié)語

從系統(tǒng)中的算法，到所加載的各項人工智能技術(shù)，再到身體構(gòu)造的每一個細(xì)小零件，機(jī)器人的每絲每毫都是人類所賦予的。在一個機(jī)器人的研制過程中，研究人員會將很多知識、數(shù)據(jù)輸進(jìn)機(jī)器人的“大腦”，在此基礎(chǔ)之上，機(jī)器人擁有了一些基本的“自學(xué)”能力。

既然是“自學(xué)”，就一定會有一個“學(xué)習(xí)對象”，而人類就理所當(dāng)然的成為了機(jī)器人的“父母”（“人”生的第一個啟蒙老師）。這里有一個典型的案例，今年3月，微軟在Twitter上推出聊天機(jī)器人Tay，結(jié)果在不到一天的時間里，Tay就被網(wǎng)友“教”壞了，不僅滿嘴臟話，更是有了種族歧視，鑒于種種劣跡，微軟將其關(guān)了禁閉。從這件事中，我們看到了機(jī)器人“自學(xué)”能力的強(qiáng)大，也看到了人類的教導(dǎo)責(zé)任之重。

在未來，機(jī)器人極有可能會擁有“自主意識”，如果不加以正確的指引，“機(jī)器人殺手”不日就會到來。由此，為了避免“機(jī)器人殺手”的出現(xiàn)，為了讓機(jī)器人不傷害人類，在提升機(jī)器人性能的同時，人類的相關(guān)素質(zhì)是不是也該抓抓緊了。當(dāng)然，我們不能百分百的將希望寄托于人性，所以加強(qiáng)網(wǎng)絡(luò)安全也成了必然，以此避免機(jī)器人落入不法分子手中，或是在機(jī)器人中設(shè)定特定程序，能夠在最佳時機(jī)一鍵停止機(jī)器人的所有機(jī)能。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。