AIGC的深入發(fā)展和快速普及,打開了智能世界廣袤的想象空間,但在技術(shù)成果涌現(xiàn)之際,隨之而來的模型安全、數(shù)據(jù)安全、內(nèi)容安全問題也日益凸顯,如何應(yīng)對AIGC引發(fā)攻防范式轉(zhuǎn)化的新趨勢,如何規(guī)避數(shù)據(jù)和隱私泄露風(fēng)險(xiǎn),有效保障內(nèi)容生成的安全合規(guī),正成為擺在行業(yè)面前的切實(shí)難題。
近日,在紫光股份旗下新華三集團(tuán)2024媒體與分析師溝通會(huì)上,新華三集團(tuán)高級(jí)副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒接受多家媒體專訪,深入分享了新華三主動(dòng)安全3.0在全面智能化升級(jí)、創(chuàng)新場景新范式以及全面國產(chǎn)化三大維度的能力進(jìn)化,為強(qiáng)化AIGC數(shù)據(jù)安全治理,落實(shí)AIGC應(yīng)用規(guī)范,推動(dòng)業(yè)務(wù)安全防護(hù)帶來了全新的解題思路。
新華三集團(tuán)高級(jí)副總裁新華三信息安全技術(shù)有限公司總裁孫松兒
安全×AI 提升安全能力正向循環(huán)
對于AIGC為代表的大模型技術(shù)及其應(yīng)用而言,發(fā)展和安全是一體兩翼的統(tǒng)一整體,必須統(tǒng)籌規(guī)劃、同步推進(jìn)。孫松兒表示,新華三集團(tuán)安全視角下的AIGC是基于“主動(dòng)安全”理念,首先滿足大模型應(yīng)用的安全新需求,同時(shí)將AIGC作為新工具、新能力,賦能安全能力的提升,即“安全是保障AIGC實(shí)戰(zhàn)的核心基石,AIGC是提升安全能力的最佳手段”。為實(shí)現(xiàn)AIGC發(fā)展與安全能力提升的正向循環(huán),基于靈犀大模型的AI能力,新華三重磅打造靈犀助手,為安全體系建設(shè)、運(yùn)營效率提升、業(yè)務(wù)持續(xù)發(fā)展注入更深層次的智能,并提出大模型安全合規(guī)與防護(hù)新思路——以靈犀衛(wèi)士實(shí)現(xiàn)大模型安全防護(hù),以靈犀助手實(shí)現(xiàn)大模型賦能安全。
大模型自身的安全防護(hù),貫穿從訓(xùn)練階段到運(yùn)行階段的全過程,需要解決垂直領(lǐng)域大模型訓(xùn)練難點(diǎn)、大模型環(huán)境網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)以及大模型生成內(nèi)容合規(guī)風(fēng)險(xiǎn)等諸多難題。其中,內(nèi)容安全合規(guī)是大模型發(fā)展的第一要?jiǎng)?wù),國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》中,著重強(qiáng)調(diào)了安全合規(guī)的重要性。面對AIGC內(nèi)容安全要求,孫松兒認(rèn)為應(yīng)從輸入側(cè)、模型側(cè)、輸出側(cè)三個(gè)層面著手,對違規(guī)信息進(jìn)行過濾和規(guī)避。為此,新華三集團(tuán)構(gòu)建了完整的AIGC內(nèi)容安全防護(hù)體系,通過Prompt審核與改寫、生成內(nèi)容過濾、紅線知識(shí)庫等方式,靈犀衛(wèi)士可監(jiān)測用戶輸入和生成內(nèi)容,識(shí)別各類違規(guī)風(fēng)險(xiǎn),全面保障內(nèi)容合規(guī),整體內(nèi)容風(fēng)險(xiǎn)可下降近80%。
在大模型賦能安全方面,孫松兒指出,安全大模型正在引發(fā)“效率革命”,為安全運(yùn)營帶來跨越式提升。以大模型技術(shù)打造的靈犀助手,現(xiàn)已全面內(nèi)嵌到安全產(chǎn)品、管理平臺(tái)及各類運(yùn)營運(yùn)維工具中,通過安全使能平臺(tái)打通大模型和業(yè)務(wù)場景,在攻擊研判、資產(chǎn)梳理、合規(guī)檢查、智能預(yù)測等方面實(shí)現(xiàn)全方位的運(yùn)營效率提升。比如在失陷事件研判中,通過AIGC輔助分析,研判效率可提升50%,在風(fēng)險(xiǎn)響應(yīng)處置中,AIGC可根據(jù)訓(xùn)練經(jīng)驗(yàn)直接給出準(zhǔn)確的處置建議,快速生成處置報(bào)告,實(shí)現(xiàn)風(fēng)險(xiǎn)處置的事半功倍,讓人力從繁雜的基礎(chǔ)工作中解放出來。
打造場景化新范式 賦能網(wǎng)絡(luò)安全場景化落地
從技術(shù)研發(fā)到實(shí)際應(yīng)用,網(wǎng)絡(luò)安全如何跨越實(shí)驗(yàn)室與產(chǎn)業(yè)鏈的鴻溝,在具體行業(yè)和場景中實(shí)現(xiàn)價(jià)值的實(shí)質(zhì)性提升,是當(dāng)前行業(yè)關(guān)注的焦點(diǎn)。對此,孫松兒表示,當(dāng)下垂直行業(yè)的安全需求差異較大,需要建立場景化思維捕捉不同行業(yè)的實(shí)際安全需求,構(gòu)建基于客戶業(yè)務(wù)本身的場景化新范式。
在場景化探索方面,新華三集團(tuán)深耕車聯(lián)網(wǎng)、數(shù)字政府、運(yùn)營商等重點(diǎn)行業(yè)場景,為多場景業(yè)務(wù)打造按需交付的算網(wǎng)安融合解決方案,通過構(gòu)建分布式安全資源池,借助SRv6彈性可編程、性能可度量、隔離有保障的優(yōu)勢,實(shí)現(xiàn)網(wǎng)絡(luò)與安全服務(wù)的端到端業(yè)務(wù)鏈打通與安全編排,保障數(shù)據(jù)和業(yè)務(wù)的安全穩(wěn)定運(yùn)行。在車聯(lián)網(wǎng)安全領(lǐng)域,新華三面向車路協(xié)同、車聯(lián)網(wǎng)運(yùn)營以及車聯(lián)網(wǎng)人才培養(yǎng)場景,打造車聯(lián)網(wǎng)安全解決方案,全面保障車聯(lián)網(wǎng)端側(cè)、路側(cè)及云端安全。而圍繞數(shù)據(jù)流轉(zhuǎn)的全生命周期,新華三打造了基于AI的數(shù)據(jù)安全治理與運(yùn)營平臺(tái),以大模型技術(shù)賦能數(shù)據(jù)分類分級(jí)、數(shù)據(jù)動(dòng)態(tài)圖譜及數(shù)據(jù)安全管理,實(shí)現(xiàn)數(shù)據(jù)流通的可感、可知、可管、可控。
全面國產(chǎn)化 樹立國產(chǎn)化安全新標(biāo)桿
此外,新華三集團(tuán)全面深化安全產(chǎn)品體系及國產(chǎn)化布局,推出業(yè)內(nèi)首個(gè)內(nèi)嵌AIGC的旗艦防火墻產(chǎn)品,打造全面支持國產(chǎn)化的安全運(yùn)營中心、數(shù)據(jù)安全治理中心以及云安全平臺(tái),樹立國產(chǎn)化安全能力新標(biāo)桿,40+安全原子能力全面適配國產(chǎn)化,包括主流的國產(chǎn)化操作系統(tǒng)及軟硬件,全面保障終端、邊界、應(yīng)用以及數(shù)據(jù)安全。
作為新質(zhì)生產(chǎn)力的代表,AIGC是新一輪產(chǎn)業(yè)變革的核心引擎,網(wǎng)絡(luò)安全則是護(hù)航AIGC行穩(wěn)致遠(yuǎn)的基石底座。作為網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)軍企業(yè),新華三集團(tuán)將秉持“精耕務(wù)實(shí),為時(shí)代賦智慧”的理念,持續(xù)推進(jìn)“安全×AI”的技術(shù)創(chuàng)新和場景化應(yīng)用,以網(wǎng)絡(luò)安全和AIGC的雙向賦能,助力百行百業(yè)在數(shù)字化轉(zhuǎn)型之路上鏗鏘前行。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )