“人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險，其可能風(fēng)險包括人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控?！敝醒刖W(wǎng)信辦專家咨詢委員會顧問、國家集成電路產(chǎn)業(yè)發(fā)展咨詢委員會委員、國家三網(wǎng)融合專家組成員沈昌祥院士在2022大華股份“云聯(lián)萬物 數(shù)智未來”高峰論壇上基于人工智能安全如是說。

沈昌祥院士

      此次高峰論壇，由大華股份主辦，浙江省城市治理研究中心協(xié)辦，中國智慧交通管理產(chǎn)業(yè)聯(lián)盟作為指導(dǎo)單位，致力于探討數(shù)字化、人工智能、物聯(lián)網(wǎng)等相關(guān)議題。參與論壇話題討論的均為業(yè)內(nèi)資深專家，沈昌祥院士便是其中之一。沈院士以“用主動免疫可信計算筑牢人工智能安全基石”為主題，并圍繞智能社會安全體系、可信計算3.0和等保2.0等內(nèi)容進(jìn)行展開。

      防御智能社會風(fēng)險，構(gòu)筑主動免疫保障體系

      沈昌祥院士首先解釋了智能社會的概念。在他看來，智能社會是基于泛在網(wǎng)絡(luò)交聯(lián)，將物理、民生、數(shù)字和網(wǎng)絡(luò)四維空間深度融合，并提供智能處理事務(wù)的資源和能力，實現(xiàn)高度智能化、安全可信、按需服務(wù)的社會。但沈院士擔(dān)憂的是，人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險。因此，必須予以高度重視，并切實找到有效的解決方案。

      沈院士以“勒索病毒”為例，表明智能社會所遭遇到的攻擊無處不在。2017年5月12日爆發(fā)的“WannaCry”的勒索病毒，將數(shù)據(jù)加密，變得不可用，借機勒索錢財。病毒席卷近150個國家，教育、交通、醫(yī)療、能源網(wǎng)絡(luò)幾乎癱瘓。另外，2018年8月和2021年5月，臺積電和美國最大的成品油管道運營商Colonial Pipeline分別遭到勒索病毒入侵，造成工作停擺，以及數(shù)十億美元的損失。

      沈院士指出，網(wǎng)絡(luò)天生的脆弱性以及認(rèn)知科學(xué)的局限性，讓設(shè)計IT系統(tǒng)無法窮盡所有邏輯組合，必定存在大量未經(jīng)處理的邏輯缺陷。因此，利用漏洞進(jìn)行威脅攻擊是網(wǎng)絡(luò)安全風(fēng)險的永遠(yuǎn)命題。面對這樣的風(fēng)險，傳統(tǒng)“封堵查殺”補丁難以應(yīng)對未知惡意攻擊。因此，使用安全可信網(wǎng)絡(luò)產(chǎn)品和服務(wù)，構(gòu)建主動免疫防護(hù)的保障體系成為最佳選擇。

      六層防護(hù)架構(gòu)，立體化維護(hù)系統(tǒng)安全

      在沈院士的保障系統(tǒng)中，主要包括六個維度，分別是“一種”新模式、“二重”體系結(jié)構(gòu)、“三重”防護(hù)框架、“四要素”可信動態(tài)訪問控制、“五環(huán)節(jié)”全程管控 以及“六不”防護(hù)效果。

      “一種”新模式，即主動免疫可信計算，是一種運算同時進(jìn)行安全防護(hù)的新計算模式，以密碼為基因抗體實施身份識別、狀態(tài)度量、保密存儲等功能，及時識別“自己”和“非己”成分，相當(dāng)于為網(wǎng)絡(luò)信息系統(tǒng)培育了免疫能力。與傳統(tǒng)的殺病毒、防火墻、入侵檢測的防護(hù)思路相比，新模式具備更強的保護(hù)力。

      “二重”體系結(jié)構(gòu)和“三重”防護(hù)框架，具體為實行安全可信策略管控，打造計算部件和防護(hù)部件為核心的二重體系結(jié)構(gòu)的可信計算節(jié)點，建立免疫“反腐敗”子系統(tǒng)，并通過可信安全管理中心支持下的主動免疫三重防護(hù)框架，即可信計算環(huán)境、可信邊界和可信網(wǎng)絡(luò)通信，最終到達(dá)用戶終端。

      而“四要素”可信動態(tài)訪問控制，表現(xiàn)為對人的操作訪問策略四要素（主體、客體、操作、環(huán)境）進(jìn)行動態(tài)可信度量、識別和控制，糾正了傳統(tǒng)無計算環(huán)境要素的訪問控制策略模型只基于授權(quán)標(biāo)識屬性進(jìn)行操作，而不作可信驗證，難防篡改的安全缺陷。

      關(guān)于“五環(huán)節(jié)”全程管控和“六不”防護(hù)效果， 則要求技管并重，按照網(wǎng)絡(luò)安全法、密碼法、等級保護(hù)制度、關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)制度的要求，全程治理，確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲、策略管理可信。實現(xiàn)讓攻擊者進(jìn)不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的六大防護(hù)效果。

      以可信計算3.0，打造新型安全可信產(chǎn)業(yè)空間

      在強調(diào)構(gòu)建保障體系的同時，沈院士進(jìn)一步以可信計算3.0打造安全可信新型產(chǎn)業(yè)空間的策略。要實現(xiàn)這一目標(biāo)，搶占核心技術(shù)制高點，擺脫受制于人是關(guān)鍵。沈院士引述《國家中長期科學(xué)技術(shù)發(fā)展（2006-2020年）》文件，提出以發(fā)展高可信網(wǎng)絡(luò)為重點，開發(fā)網(wǎng)絡(luò)安全技術(shù)及相關(guān)產(chǎn)品，建立網(wǎng)絡(luò)安全技術(shù)保障體系。根據(jù)《文件》內(nèi)容，可信計算廣泛應(yīng)用于國家重要信息系統(tǒng)，如：增值稅防偽、彩票防偽、二代居民身份證安全系統(tǒng)、國家電網(wǎng)電力數(shù)字化調(diào)度系統(tǒng)安全防護(hù)建設(shè)，已成為國家法律、戰(zhàn)略、等級保護(hù)制度，要求進(jìn)行推廣應(yīng)用。

      沈院士認(rèn)為，在構(gòu)建新型網(wǎng)絡(luò)安全體系的過程中，一定要科學(xué)嚴(yán)謹(jǐn)分析研究，堅持自主創(chuàng)新，掌握核心競爭力，把握主動優(yōu)勢，并以可信計算功能的國產(chǎn)CPU、嵌入式可信芯片及安全卡和具備可信計算3.0技術(shù)的設(shè)備為基礎(chǔ)，建立起完備的可信計算3.0產(chǎn)品鏈，開拓新型產(chǎn)業(yè)空間。

      基于等保2.0，筑牢智能化基礎(chǔ)設(shè)施安全防御體系

      在沈院士的論述中，等保2.0同樣發(fā)揮著不可忽視的價值。等保2.0作為新標(biāo)準(zhǔn)，把云計算、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)和工控等采用可信計算3.0作為核心要求，以此筑牢網(wǎng)絡(luò)安全防線。同時，需建立安全可信人工智能、計算處理服務(wù)資源安全可信和系統(tǒng)管理安全可信綜合性防護(hù)體系。

      最后，沈院士不忘強調(diào)物聯(lián)網(wǎng)的安全框架。物聯(lián)網(wǎng)的安全框架基于可信安全管理中心，通過打造可信計算環(huán)境、可信通訊網(wǎng)絡(luò)和感知計算環(huán)境，形成系統(tǒng)、安全和審計一體化的安全體系，進(jìn)而全面保障智能物聯(lián)網(wǎng)安全。

      沈昌祥院士以其豐富的行業(yè)知識，從人工智能的風(fēng)險、人工智能的防護(hù)以及我國智能安全系統(tǒng)體系的建設(shè)等方面作為切口，對觀點進(jìn)行了詳細(xì)闡釋。通過沈院士的講解，相信在智能社會的安全體系建設(shè)中將投入更多精力。畢竟，這不僅意味著對個人的保護(hù)，也是讓中國智能社會能夠長遠(yuǎn)穩(wěn)步發(fā)展的堅定保障。

（正文已結(jié)束）

推薦閱讀：葉紫網(wǎng)

免責(zé)聲明及提醒：此文內(nèi)容為本網(wǎng)所轉(zhuǎn)載企業(yè)宣傳資訊，該相關(guān)信息僅為宣傳及傳遞更多信息之目的，不代表本網(wǎng)站觀點，文章真實性請瀏覽者慎重核實！任何投資加盟均有風(fēng)險，提醒廣大民眾投資需謹(jǐn)慎！