1月16日，由中國信息通信研究院指導，云計算標準和開源推進委員會承辦，云計算開源產(chǎn)業(yè)聯(lián)盟支持的"嚴守紅線，共筑安全-內(nèi)容安全的管與控"的云計算安全沙龍在北京召開。來自中央機關、國家部委、中國移動集團信安中心等內(nèi)容安全專家及40多家相關企業(yè)代表，圍繞“文字、圖片、音頻、視頻”違規(guī)信息識別方面進行技術分享。

會上，中國信息通信研究院發(fā)布了國內(nèi)首批內(nèi)容安全解決方案評估成果，騰訊云計算(北京)有限責任公司成為首批通過評估的企業(yè)之一。加上本次認證，騰訊云目前已獲得21項可信云認證，包含云主機服務、塊存儲服務、云數(shù)據(jù)庫服務、本地負載均衡等，成為可信云體系認證中最全云廠商之一。

　　(騰訊云首批通過試點評估測試證書)

國內(nèi)首批通過可信云內(nèi)容安全認證，累計達成21項認證記錄

為落地《中華人民共和國網(wǎng)絡安全法》中對用戶發(fā)布信息的管理要求，云計算標準和開源推進委員會云安全工作組根據(jù)"嚴守紅線"的安全方針，組織電信運營商、云計算服務提供商、安全廠商的相關技術專家，編制并發(fā)布了"可信云"系列標準《基于云計算的業(yè)務安全風險解決方案技術要求 第1部分：內(nèi)容安全》。

本次會議上，中國信息通信研究院云大所云安全專家王敬宇對該標準進行了解讀，該標準規(guī)定了內(nèi)容安全解決方案的功能要求、性能要求、自身安全功能要求，云計算服務提供商和安全廠商的內(nèi)容安全解決方案，其在功能設計、產(chǎn)品研制、能力評估等方面均可參照此標準執(zhí)行。

為了將標準落到實處，中國信息通信研究院于2018年11月開展了國內(nèi)首個云計算行業(yè)的內(nèi)容安全解決方案評估，騰訊云等三家廠商作為首批企業(yè)參與了此次評估，并最終通過測試。

據(jù)中國信息通信研究院云大所何友斌介紹，為了確保評估質量，評估專家精心準備了多樣化的文本、圖片、音頻、視頻測試樣本，包含涉黃、血腥、暴恐等內(nèi)容大類，并對測樣本進行了復雜處理。評估過程中發(fā)現(xiàn)，騰訊云等廠商主要使用深度學習技術訓練監(jiān)測模型，并結合已知違規(guī)樣本的分類標簽技術對海量數(shù)據(jù)戶進行實時監(jiān)測，在節(jié)約人工審核成本的同時，大幅度提高了違規(guī)內(nèi)容識別的準確率和查全率，并有效降低了誤判率。本次評估，客觀、真實地反映解決方案的水平，為企業(yè)選擇和部署內(nèi)容安全解決方案提供值得信賴的參考和依據(jù)。

智能AI+人工審核 騰訊云破解“鑒黃界最大難題”

騰訊云安全策略專家周耀輝也在大會現(xiàn)場分享了騰訊云內(nèi)容安全的策略：基于四大場景的六類違規(guī)內(nèi)容識別，通過“智能AI+人工審核”一站式解決目前網(wǎng)絡中違規(guī)內(nèi)容的問題。而正是在這套策略的指導下，騰訊云解決了“鑒黃界公認的最大難題”——音頻鑒黃。

對于網(wǎng)絡上傳播的色情惡意內(nèi)容，圖像鑒黃技術很好的打擊了大部分色情圖像和視頻內(nèi)容，但在一些短視頻、直播等場景中，還有一些色情內(nèi)容以音頻方式傳播，用以規(guī)避圖像維度的打擊。尤其是音頻的信噪低、時長短、信道復雜等因素，進一步加劇了內(nèi)容審核者的挑戰(zhàn)。

對此，騰訊云天御在文本、圖片鑒黃的基礎上，研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性。其中，在針對海量正負樣本的訓練上，除了應用深度學習模型之外，騰訊云天御還針對線上的識別數(shù)據(jù)持續(xù)進行人工抽檢覆蓋和漏過情況，并將正負樣本進行標注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。目前該系統(tǒng)已在騰訊云的點播、直播等業(yè)務中上線使用，進一步提高色情內(nèi)容檢出率。

暴力、血腥、黃賭毒不良社會導向違規(guī)內(nèi)容的傳播，嚴重影響網(wǎng)絡環(huán)境的清朗健康發(fā)展，本次可信云標準的發(fā)布以及首批通過評估認證企業(yè)的公布，將有效促進內(nèi)容安全行業(yè)向更高的標準提升，同時也將對整個產(chǎn)業(yè)生態(tài)的有序發(fā)展起到積極的推動作用。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。