“人工智能在賦能人類社會加快發(fā)展的同時,正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險,其可能風(fēng)險包括人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控。”中央網(wǎng)信辦專家咨詢委員會顧問、國家集成電路產(chǎn)業(yè)發(fā)展咨詢委員會委員、國家三網(wǎng)融合專家組成員沈昌祥院士在2022大華股份“云聯(lián)萬物 數(shù)智未來”高峰論壇上基于人工智能安全如是說。
沈昌祥院士
此次高峰論壇,由大華股份主辦,浙江省城市治理研究中心協(xié)辦,中國智慧交通管理產(chǎn)業(yè)聯(lián)盟作為指導(dǎo)單位,致力于探討數(shù)字化、人工智能、物聯(lián)網(wǎng)等相關(guān)議題。參與論壇話題討論的均為業(yè)內(nèi)資深專家,沈昌祥院士便是其中之一。沈院士以“用主動免疫可信計算筑牢人工智能安全基石”為主題,并圍繞智能社會安全體系、可信計算3.0和等保2.0等內(nèi)容進行展開。
防御智能社會風(fēng)險,構(gòu)筑主動免疫保障體系
沈昌祥院士首先解釋了智能社會的概念。在他看來,智能社會是基于泛在網(wǎng)絡(luò)交聯(lián),將物理、民生、數(shù)字和網(wǎng)絡(luò)四維空間深度融合,并提供智能處理事務(wù)的資源和能力,實現(xiàn)高度智能化、安全可信、按需服務(wù)的社會。但沈院士擔(dān)憂的是,人工智能在賦能人類社會加快發(fā)展的同時,正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險。因此,必須予以高度重視,并切實找到有效的解決方案。
沈院士以“勒索病毒”為例,表明智能社會所遭遇到的攻擊無處不在。2017年5月12日爆發(fā)的“WannaCry”的勒索病毒,將數(shù)據(jù)加密,變得不可用,借機勒索錢財。病毒席卷近150個國家,教育、交通、醫(yī)療、能源網(wǎng)絡(luò)幾乎癱瘓。另外,2018年8月和2021年5月,臺積電和美國最大的成品油管道運營商Colonial Pipeline分別遭到勒索病毒入侵,造成工作停擺,以及數(shù)十億美元的損失。
沈院士指出,網(wǎng)絡(luò)天生的脆弱性以及認知科學(xué)的局限性,讓設(shè)計IT系統(tǒng)無法窮盡所有邏輯組合,必定存在大量未經(jīng)處理的邏輯缺陷。因此,利用漏洞進行威脅攻擊是網(wǎng)絡(luò)安全風(fēng)險的永遠命題。面對這樣的風(fēng)險,傳統(tǒng)“封堵查殺”補丁難以應(yīng)對未知惡意攻擊。因此,使用安全可信網(wǎng)絡(luò)產(chǎn)品和服務(wù),構(gòu)建主動免疫防護的保障體系成為最佳選擇。
六層防護架構(gòu),立體化維護系統(tǒng)安全
在沈院士的保障系統(tǒng)中,主要包括六個維度,分別是“一種”新模式、“二重”體系結(jié)構(gòu)、“三重”防護框架、“四要素”可信動態(tài)訪問控制、“五環(huán)節(jié)”全程管控 以及“六不”防護效果。
“一種”新模式,即主動免疫可信計算,是一種運算同時進行安全防護的新計算模式,以密碼為基因抗體實施身份識別、狀態(tài)度量、保密存儲等功能,及時識別“自己”和“非己”成分,相當(dāng)于為網(wǎng)絡(luò)信息系統(tǒng)培育了免疫能力。與傳統(tǒng)的殺病毒、防火墻、入侵檢測的防護思路相比,新模式具備更強的保護力。
“二重”體系結(jié)構(gòu)和“三重”防護框架,具體為實行安全可信策略管控,打造計算部件和防護部件為核心的二重體系結(jié)構(gòu)的可信計算節(jié)點,建立免疫“反腐敗”子系統(tǒng),并通過可信安全管理中心支持下的主動免疫三重防護框架,即可信計算環(huán)境、可信邊界和可信網(wǎng)絡(luò)通信,最終到達用戶終端。
而“四要素”可信動態(tài)訪問控制,表現(xiàn)為對人的操作訪問策略四要素(主體、客體、操作、環(huán)境)進行動態(tài)可信度量、識別和控制,糾正了傳統(tǒng)無計算環(huán)境要素的訪問控制策略模型只基于授權(quán)標識屬性進行操作,而不作可信驗證,難防篡改的安全缺陷。
關(guān)于“五環(huán)節(jié)”全程管控和“六不”防護效果, 則要求技管并重,按照網(wǎng)絡(luò)安全法、密碼法、等級保護制度、關(guān)鍵信息基礎(chǔ)設(shè)施保護制度的要求,全程治理,確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲、策略管理可信。實現(xiàn)讓攻擊者進不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的六大防護效果。
以可信計算3.0,打造新型安全可信產(chǎn)業(yè)空間
在強調(diào)構(gòu)建保障體系的同時,沈院士進一步以可信計算3.0打造安全可信新型產(chǎn)業(yè)空間的策略。要實現(xiàn)這一目標,搶占核心技術(shù)制高點,擺脫受制于人是關(guān)鍵。沈院士引述《國家中長期科學(xué)技術(shù)發(fā)展(2006-2020年)》文件,提出以發(fā)展高可信網(wǎng)絡(luò)為重點,開發(fā)網(wǎng)絡(luò)安全技術(shù)及相關(guān)產(chǎn)品,建立網(wǎng)絡(luò)安全技術(shù)保障體系。根據(jù)《文件》內(nèi)容,可信計算廣泛應(yīng)用于國家重要信息系統(tǒng),如:增值稅防偽、彩票防偽、二代居民身份證安全系統(tǒng)、國家電網(wǎng)電力數(shù)字化調(diào)度系統(tǒng)安全防護建設(shè),已成為國家法律、戰(zhàn)略、等級保護制度,要求進行推廣應(yīng)用。
沈院士認為,在構(gòu)建新型網(wǎng)絡(luò)安全體系的過程中,一定要科學(xué)嚴謹分析研究,堅持自主創(chuàng)新,掌握核心競爭力,把握主動優(yōu)勢,并以可信計算功能的國產(chǎn)CPU、嵌入式可信芯片及安全卡和具備可信計算3.0技術(shù)的設(shè)備為基礎(chǔ),建立起完備的可信計算3.0產(chǎn)品鏈,開拓新型產(chǎn)業(yè)空間。
基于等保2.0,筑牢智能化基礎(chǔ)設(shè)施安全防御體系
在沈院士的論述中,等保2.0同樣發(fā)揮著不可忽視的價值。等保2.0作為新標準,把云計算、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)和工控等采用可信計算3.0作為核心要求,以此筑牢網(wǎng)絡(luò)安全防線。同時,需建立安全可信人工智能、計算處理服務(wù)資源安全可信和系統(tǒng)管理安全可信綜合性防護體系。
最后,沈院士不忘強調(diào)物聯(lián)網(wǎng)的安全框架。物聯(lián)網(wǎng)的安全框架基于可信安全管理中心,通過打造可信計算環(huán)境、可信通訊網(wǎng)絡(luò)和感知計算環(huán)境,形成系統(tǒng)、安全和審計一體化的安全體系,進而全面保障智能物聯(lián)網(wǎng)安全。
沈昌祥院士以其豐富的行業(yè)知識,從人工智能的風(fēng)險、人工智能的防護以及我國智能安全系統(tǒng)體系的建設(shè)等方面作為切口,對觀點進行了詳細闡釋。通過沈院士的講解,相信在智能社會的安全體系建設(shè)中將投入更多精力。畢竟,這不僅意味著對個人的保護,也是讓中國智能社會能夠長遠穩(wěn)步發(fā)展的堅定保障。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )