近日，昇思MindSpore支撐華為OCR云服務正式通過獨立機構的AI C4審計認證，安全目標100%達成。這標志著昇思MindSpore的安全能力達到了業(yè)界領先水平，能夠滿足業(yè)界最高水平的AI云服務審計要求。此前，在德國，華為基于業(yè)務用例的試點項目向德國聯邦信息安全辦公室(BSI) 提供建議，支持其發(fā)布了AI云服務合規(guī)標準目錄(AI C4)，這是業(yè)界首個面向AI云服務的安全標準。
伴隨著人工智能不斷發(fā)展，在極大提升人們生產生活品質的同時，AI具有的技術特性如通用目的性、算法黑箱性以及數據依賴性等，在社會、企業(yè)、個人等維度引發(fā)了不小的風險與挑戰(zhàn)，僅憑C5標準還不足以完全應對。為此，德國聯邦信息安全局制定了一項特定于AI云服務的審計標準AI C4（AI Cloud Service Compliance Criteria Catalogue）——該標準設定了安全的基線水平，可通過獨立審計機構對于AI云服務在其生命周期內的安全性進行可靠評估。
OCR服務是利用光學設備對圖像進行捕獲并完成文字識別的過程，可兼顧達成人力節(jié)約與效率提升的雙目標。但痛點就在于，當攻擊者對待識別的文字做出肉眼不易察覺的修改時，將會導致實施算法的模型無法對該修改做出正確的識別或處理，造成OCR服務對文字的識別準確率下降，但使用人員卻很難看到這問題背后的真因。
昇思MindSpore從開源AI框架的角度出發(fā)，圍繞AI全生命周期，構建出以下重點技術能力：
①模型安全
通過魯棒性評測、對抗測評、對抗訓練、模型加密等，實現模型保護；
②隱私保護
構建了隱私評估、差分隱私訓練、聯邦學習等技術，保障數據隱私；
③可解釋性
通過原創(chuàng)語義級可解釋技術、可解釋方法工具集等，提高模型的可解釋性，增強用戶理解度，讓用戶更信任并有效地使用模型。
本次認證中，華為技術團隊使用了昇思MindSpore模型安全評測工具MindSpore Armour對OCR服務進行安全性測評。從中發(fā)現，目前大多數OCR服務的算法模型均存在識別自然擾動和防御樣本對抗能力差的問題，如文本框檢測模型在校驗噪聲、PGD、PSO（粒子群）等攻擊算法下的準確率小于66%。華為技術團隊針對這些問題對模型開發(fā)進行指導，通過對抗樣本檢測、數據增強訓練等技術，使模型對惡意樣本的識別準確率達到 95+%，提高了模型及OCR服務的魯棒性，達成了AI C4標準對AI云服務安全和魯棒性的要求。
除助力華為OCR云服務通過AI C4認證外，昇思MindSpore率先出擊，攜手法荷多方權威評估和認證機構，在2021年完成了AI框架領域的認證標準制定，并于今年4月獲得荷蘭NSCIB頒發(fā)的CC EAL2+認證證書，填補了AI框架領域在安全標準上的空白，成為全球首個獲得CC認證的AI框架，實現從0到1的突破。
此外，昇思MindSpore經過云計算開源產業(yè)聯盟（OSCAR）評估，榮獲全國首批《可信開源社區(qū)評估體系》認證。
在智能時代的浪潮中，昇思MindSpore致力于實現可信AI的最高要求，從安全技術和安全治理上不斷提升AI安全水平。未來，昇思MindSpore仍將持續(xù)創(chuàng)新，與行業(yè)客戶共同應對人工智能領域安全的風險與挑戰(zhàn)，為客戶提供更安全更可信的應用及服務。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
