“內(nèi)容為王”漸成趨勢，帶動直播、短視頻等UGC平臺迎來爆發(fā)式成長，健康和諧的內(nèi)容生態(tài)也隨之成為直播行業(yè)生存發(fā)展的關(guān)鍵。

10月10日，虎牙公司與騰訊云、騰訊安全共同宣布成立安全聯(lián)合實驗室，雙方將融合騰訊在云服務(wù)器底層算力、內(nèi)容風(fēng)險識別、反欺詐和威脅情報等方面的技術(shù)能力優(yōu)勢與虎牙公司在內(nèi)容風(fēng)控、安全攻防和直播業(yè)務(wù)場景的實戰(zhàn)積累，圍繞AI安全應(yīng)用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標(biāo)注、人工審核等多個領(lǐng)域展開技術(shù)交流與業(yè)務(wù)合作，共同建設(shè)AI智能審核平臺及安全攻防機(jī)制，并以AI安全能力的應(yīng)用擴(kuò)容，在虎牙直播平臺打造全方位安全攻防和更精準(zhǔn)的內(nèi)容審核體系，為健康的網(wǎng)絡(luò)直播內(nèi)容生態(tài)建設(shè)提供參考樣本和前沿解決方案。虎牙公司高級副總裁李萌、虎牙公司內(nèi)容風(fēng)控副總裁張二虎、騰訊云副總裁魏偉、騰訊安全副總裁黎巍等領(lǐng)導(dǎo)嘉賓出席實驗室掛牌儀式。

(虎牙公司攜手騰訊云、騰訊安全成立安全聯(lián)合實驗室)

“強(qiáng)大算力+AI審核+安全攻防”助力直播內(nèi)容生態(tài)優(yōu)化

疫情催化之下，在線業(yè)務(wù)按下發(fā)展“快進(jìn)鍵”，直播平臺流量價值的日趨攀升，在一定程度上也讓黑灰產(chǎn)看到了更大的“商機(jī)”。而伴隨著直播業(yè)務(wù)內(nèi)容生態(tài)圈的縱深發(fā)展，如何有效預(yù)防黑灰產(chǎn)帶來內(nèi)容風(fēng)險與威脅，成為直播行業(yè)健康持續(xù)發(fā)展的重要基石。如騰訊安全副總裁黎巍所言：“隨著包括生活服務(wù)、游戲、視頻、直播等在內(nèi)的泛互聯(lián)網(wǎng)行業(yè)利益點的不斷延伸，內(nèi)容安全能力已成為高度重視用戶體驗的泛互領(lǐng)域企業(yè)獲取用戶黏性的關(guān)鍵所在。”

結(jié)合多年來直播行業(yè)內(nèi)容生態(tài)建設(shè)經(jīng)驗，虎牙公司高級副總裁李萌認(rèn)為，平臺在不斷突破自身的安全技術(shù)能力，持續(xù)優(yōu)化審核規(guī)范與制度基礎(chǔ)上，與擁有強(qiáng)大底層算力和成熟安全技術(shù)的廠商合作，會成為直播行業(yè)治理優(yōu)化內(nèi)容生態(tài)的有效途徑?；诖怂悸罚v訊云、騰訊安全與虎牙公司融合虎牙全面上云及多元破圈發(fā)展的短、中、長期安全需求，開放各自優(yōu)勢、能力與資源，在AI安全應(yīng)用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標(biāo)注、人工審核等多個領(lǐng)域展開創(chuàng)新研究。

一方面，作為國內(nèi)頭部直播平臺之一的虎牙公司將秉承對違規(guī)內(nèi)容和欺詐事件“0容忍”的態(tài)度，基于其團(tuán)隊堅守內(nèi)容審核及內(nèi)控合規(guī)一線的多維度內(nèi)容管理體系，結(jié)合自研的“AI智能識別、人工審核和網(wǎng)絡(luò)志愿者”三位一體模式，主動協(xié)助公安機(jī)關(guān)偵破涉疫情欺詐、刷單欺詐、冒充客服欺詐、游戲裝備交易欺詐等多類黑灰產(chǎn)案件。為平臺安全及內(nèi)容風(fēng)控體系的升級打造提供實戰(zhàn)佐證與場景示范。

(虎牙公司內(nèi)容風(fēng)控副總裁張二虎分享虎牙平臺內(nèi)容風(fēng)控體系)

另一方面，騰訊則將依托20余年來積累的業(yè)務(wù)安全運營能力及黑灰產(chǎn)對抗經(jīng)驗，全面開放基于騰訊云星星海SA2云服務(wù)器底層算力和騰訊安全“AI+大數(shù)據(jù)”的內(nèi)容風(fēng)控安全技術(shù)，針對合作場景持續(xù)優(yōu)化內(nèi)容識別能力，從而為虎牙公司營造更為安全的內(nèi)容生產(chǎn)環(huán)境。并共同以合作成果反哺行業(yè)發(fā)展，促進(jìn)直播行業(yè)平臺安全與內(nèi)容風(fēng)控的創(chuàng)新實現(xiàn)。

覆蓋內(nèi)容風(fēng)險識別全場景，為直播行業(yè)提供前沿解決方案

在文本、圖片、音頻、視頻等內(nèi)容井噴式涌現(xiàn)的富媒體時代，內(nèi)容風(fēng)控能力已成為內(nèi)容平臺的一項核心競爭力。在《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》實施以來,虎牙公司已著力完善內(nèi)容風(fēng)控技術(shù)、加強(qiáng)主播規(guī)范教育、提高平臺自審與處罰力度,為網(wǎng)絡(luò)直播環(huán)境凈化與良性內(nèi)容生態(tài)建設(shè)貢獻(xiàn)力量。在風(fēng)控技術(shù)層面，虎牙公司自主研發(fā)業(yè)務(wù)風(fēng)險識別系統(tǒng)，于聲音、畫面、文本維度，發(fā)現(xiàn)、預(yù)警和處置違規(guī)信息，能夠?qū)?ldquo;方言性”普通話實現(xiàn)精準(zhǔn)轉(zhuǎn)譯、畫面內(nèi)容實現(xiàn)全面識別、惡意文本內(nèi)容進(jìn)行“毫秒級”反應(yīng)攔截。在人工內(nèi)容審核層面，虎牙公司的內(nèi)容審核團(tuán)隊始終保持7*24小時在線，通過審核+復(fù)查+質(zhì)檢三道審查規(guī)范，與機(jī)器審核結(jié)合，實現(xiàn)最優(yōu)運轉(zhuǎn)。同時，虎牙公司從17年開始組織平臺用戶成立了一支 “虎牙志愿者”團(tuán)隊，共同推動平臺生態(tài)健康發(fā)展，目前團(tuán)隊規(guī)模已逾十萬人，共反饋百萬條線索且有效率超50%，進(jìn)一步提升了平臺的審核效率。該項創(chuàng)新項目也獲得由中國演出行業(yè)協(xié)會頒發(fā)的“中國網(wǎng)絡(luò)直播行業(yè)2018年度創(chuàng)新大獎”。

而騰訊云首款自研的星星海服務(wù)器結(jié)合虎牙公司在云上業(yè)務(wù)的具體場景，在性能、能效、安全特性、可靠性等層面持續(xù)優(yōu)化，同時與騰訊云虛擬化等優(yōu)勢軟件技術(shù)充分協(xié)同，為直播業(yè)務(wù)的內(nèi)容審核提供了強(qiáng)大的算力支撐。據(jù)了解，星星海服務(wù)器采用騰訊云與AMD在其最新ROME平臺下深度定制的CPU，實現(xiàn)行業(yè)最優(yōu)單核性能和最優(yōu)單核TCO。根據(jù)測試，基于星星海的云服務(wù)實例綜合性能提升35%以上，其中視頻處理速度提升40%，圖形轉(zhuǎn)碼得分提升35%，Web服務(wù)頁面QPS提升高達(dá)152%。

針對各大內(nèi)容社區(qū)的合規(guī)及風(fēng)險識別需求，騰訊安全以AI算法為核心，以海量互聯(lián)網(wǎng)數(shù)據(jù)為基礎(chǔ)，打造出的騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)不僅能通過庫、模型、賬號等對內(nèi)容風(fēng)險進(jìn)行多維度識別，還能通過在線訓(xùn)練平臺主動挖掘業(yè)務(wù)數(shù)據(jù)，經(jīng)由攻防演練極大地提升模型的優(yōu)化效率。其中針對違規(guī)視覺內(nèi)容的識別能力是騰訊優(yōu)圖實驗室通過海量數(shù)據(jù)訓(xùn)練得到的AI識別能力，能夠通過特征提取、標(biāo)簽預(yù)測、細(xì)粒度識別，精準(zhǔn)識別色情、暴力等內(nèi)容。目前，騰訊安全天御已打通了音視頻、文本及圖片等內(nèi)容風(fēng)控的全鏈路。

(騰訊安全天御內(nèi)容安全框架示意圖)

搭載騰訊云和微信小程序，騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)已服務(wù)了超過5萬家開發(fā)者，行業(yè)滲透率達(dá)90%，審核效率提升20倍以上，為不同規(guī)模的企業(yè)降低了20%-80%的成本，業(yè)務(wù)健康程度達(dá)到99.89%，守護(hù)了數(shù)萬家客戶的內(nèi)容安全。

未來，隨著VR、AR、5G等新技術(shù)的落地，內(nèi)容生態(tài)建設(shè)將面臨著更為多元的復(fù)雜場景。騰訊云、騰訊安全和虎牙公司將持續(xù)深化合作，向直播行業(yè)合作伙伴輸出內(nèi)容生態(tài)建設(shè)的攻防經(jīng)驗和AI算法模型能力，致力為直播行業(yè)和內(nèi)容社區(qū)打造內(nèi)容新生態(tài)提供更多實戰(zhàn)成果與參考。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）