引言：隨著數(shù)字經(jīng)濟蓬勃發(fā)展，以及疫情加速的線上娛樂迅猛攀升，各種數(shù)字產(chǎn)品形態(tài)的風(fēng)潮迭起，興趣社交、娛樂直播、電商帶貨、互動游戲等行業(yè)孕育無數(shù)機會的同時，也暗藏潛伏的危險，是“風(fēng)口”，也是“風(fēng)險口”。受利益的誘惑與驅(qū)使，涉黃、涉政、暴恐、低俗等違法違禁信息，以各種形式泛濫于網(wǎng)絡(luò)，讓各大平臺應(yīng)用防不勝防，不斷被迫充當著間接“作惡工具”，隨之而來的是約談、整頓、下架甚至關(guān)停。環(huán)信作為國內(nèi)領(lǐng)先的即時通訊服務(wù)平臺，如何保障企業(yè)的消息內(nèi)容安全、合規(guī)，如何幫助企業(yè)規(guī)避內(nèi)容風(fēng)險，在安全的環(huán)境下專注自身業(yè)務(wù)發(fā)展也是環(huán)信一直以來的使命!

　　Why 互聯(lián)網(wǎng)不是法外之地

強大的網(wǎng)絡(luò)安全產(chǎn)業(yè)實力是保障我國網(wǎng)絡(luò)空間安全的根本和基石。據(jù)不完全統(tǒng)計，2021年6月至8月間，執(zhí)法監(jiān)管部門共查辦涉網(wǎng)絡(luò)行政和刑事案件822起，處置低俗有害信息40余萬條，取締關(guān)閉網(wǎng)站4800余個，處置違法違規(guī)賬號800余萬個。

工信部：組織對多種類型應(yīng)用軟件及平臺開展專項檢查，已集中通報6批侵害用戶權(quán)益行為的APP，下架處理逾期未整改的APP超250款;進一步啟動開展互聯(lián)網(wǎng)行業(yè)專項整治行動，聚焦擾亂市場秩序、侵害用戶權(quán)益、威脅數(shù)據(jù)安全、違反資源和資質(zhì)管理規(guī)定等四方面8類問題，推動行業(yè)規(guī)范健康有序發(fā)展。

網(wǎng)信辦：加強網(wǎng)絡(luò)生態(tài)治理，深入開展整治網(wǎng)上歷史虛無主義、整治未成年人網(wǎng)絡(luò)環(huán)境、整治網(wǎng)上文娛及熱點排行亂象等“清朗”系列專項行動，進一步出臺十項舉措整治“飯圈”亂象，累計清理有害信息15萬余條，處置違規(guī)賬號4000余個，關(guān)閉問題群組1300余個。

What 產(chǎn)品、場景和解決方案

在內(nèi)容監(jiān)管日趨嚴重、行政監(jiān)管愈發(fā)嚴格的大環(huán)境之下，令各大平臺應(yīng)用憂心忡忡的不再只有“流量”，還有“合規(guī)”和“內(nèi)容安全”。平臺必須承擔起主體責任，“大步快跑”的同時，加強正向引導(dǎo)嚴防內(nèi)容風(fēng)險。過去，在內(nèi)容審核方面，互聯(lián)網(wǎng)“老大哥”們往往通過增加審核人員規(guī)模來解決問題，動輒上萬人的內(nèi)容審核團隊，讓其他一眾中小廠商望而卻步，而隨著互聯(lián)網(wǎng)內(nèi)容愈發(fā)繁雜且海量，信息傳播形態(tài)更加多樣化，音視頻等新的媒介形式興起，傳統(tǒng)的人工審核已經(jīng)無法再從容應(yīng)對內(nèi)容安全危機。

正是在這樣的行業(yè)背景之下，環(huán)信推出內(nèi)容審核服務(wù)，聚焦在“內(nèi)容安全”領(lǐng)域，結(jié)合人工智能技術(shù)打造全棧式智能內(nèi)容識別產(chǎn)品，致力于幫助社交、直播、電商、游戲等行業(yè)的開發(fā)者，精準識別即時通訊場景中的文本、圖片、語音等各類違規(guī)內(nèi)容，為開發(fā)者提供高效、準確、全面的內(nèi)容審核過濾服務(wù)。讓無論是“大廠”還是“小廠”，都有機會在集成通信云平臺能力的同時，享受到內(nèi)容識別技術(shù)所帶來的“安全感”，從而沒有后顧之憂地在市場上開疆拓土。

內(nèi)容安全(Content security)是網(wǎng)絡(luò)信息安全的一個重要分支，其目的為識別、阻斷不良信息傳播，例如濫發(fā)電子消息(Spamming)、色情內(nèi)容、犯罪內(nèi)容、恐怖主義內(nèi)容、政治敏感內(nèi)容等。涉及技術(shù)包括自然語言處理、計算機視覺等，涉及內(nèi)容包括文字、圖片、音頻、視頻等。環(huán)信內(nèi)容審核產(chǎn)品1.0以IM即時通訊場景作為切入點，主打消息場景下各類信息的內(nèi)容審核安全，打造IM即時通訊場景下內(nèi)容安全的一站式解決方案。環(huán)信內(nèi)容審核產(chǎn)品無縫對接即時通訊IM 四大類消息類型，零集成開發(fā)成本，開通服務(wù)即可為消息傳播提供“安保措施”;文本類型和圖片類型更是采取實時審核，有效降低審核延遲，提供即時的IM聊天體驗。

環(huán)信內(nèi)容審核服務(wù)詳情：

https://www.easemob.com/product/im/antispam

1、支持4大內(nèi)容類型、5大必備基礎(chǔ)審核內(nèi)容場景：

具備文本、圖片、音頻、視頻全類型的審核能力，基于業(yè)界先進的深度學(xué)習(xí)網(wǎng)絡(luò)技術(shù)及線上海量真實樣本，有效識別通訊場景中涉政、色情、違禁、暴恐、廣告導(dǎo)流等違規(guī)內(nèi)容，并支持結(jié)合客戶自身場景進行精準防控。

2、有效解決各類型內(nèi)容識別中的審核難點：

文本審核支持變體識別，使違規(guī)無處遁形，解決業(yè)內(nèi)只能事后配置變體規(guī)則的被動情況

音頻審核支持轉(zhuǎn)譯文本識別和聲紋特征識別，實時監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢

圖片審核支持全方位識別數(shù)百種涉政暴恐圖片、數(shù)十種色情圖片、各式各樣的變體廣告圖片等違規(guī)內(nèi)容，極大降低平臺監(jiān)管風(fēng)險。

視頻審核支持對視頻內(nèi)容中畫面、聲音、文字進行全方位綜合檢測，提高平臺內(nèi)容治理質(zhì)量和效率，提升用戶體驗。

　　3、支持個性化設(shè)置審核策略，提供功能強大的審核管理后臺：

審核規(guī)則靈活設(shè)置：支持按單聊、群聊、聊天室維度細分消息，滿足業(yè)務(wù)不同消息場景下設(shè)置不同審核規(guī)則的需求;

審核模型靈活調(diào)整：支持定制調(diào)整模型審核標準，結(jié)合客戶自身場景進行精準防控，輕松適配不同行業(yè)客戶的審核標準;

自定義消息處置策略：針對消息審核結(jié)果，支持客戶設(shè)置消息下發(fā)或攔截的策略，保障消息處置結(jié)果滿足業(yè)務(wù)需求。

4、提供多行業(yè)適用的審核解決方案：

社交平臺

精準識別單聊、群聊中文本消息、圖片消息、音頻消息、視頻消息中的涉政、色情、辱罵、暴恐、違禁、廣告導(dǎo)流詐騙等風(fēng)險內(nèi)容，凈化應(yīng)用內(nèi)聊天環(huán)境，有效降低用戶流失風(fēng)險

直播聊天室

精準識別直播聊天室、彈幕中的涉政、涉黃、暴恐、廣告導(dǎo)流等風(fēng)險內(nèi)容，降低違規(guī)內(nèi)容傳播風(fēng)險，保障大型直播活動安全推廣

游戲互動

精準識別游戲公屏聊天中涉政、涉黃、暴恐、廣告導(dǎo)流等風(fēng)險內(nèi)容，精準識別微信號、手機號等垃圾廣告內(nèi)容，降低平臺用戶流失風(fēng)險

How good 環(huán)信的優(yōu)勢與價值

1、后臺一鍵開通，0集成開發(fā)成本，更低延遲的消息審核體驗：

環(huán)信內(nèi)容審核直接無縫對接IM消息發(fā)送環(huán)節(jié)，同一數(shù)據(jù)中心調(diào)用審核，實現(xiàn)更低延遲的審核服務(wù)體驗，高效幫助客戶解決傳統(tǒng)方案中消息審核環(huán)節(jié)的痛點。

相對于客戶自行回調(diào)消息至應(yīng)用服務(wù)器后再自行審核處理方案，一是能有效節(jié)省網(wǎng)絡(luò)傳輸環(huán)節(jié)并避免網(wǎng)絡(luò)波動造成延遲大的風(fēng)險，從全鏈路上大大降低加入審核環(huán)節(jié)對消息發(fā)生產(chǎn)生的延遲影響;二是幫助客戶節(jié)省大量的服務(wù)器處理成本、以及開發(fā)和維護的人力成本，環(huán)信內(nèi)容審核無需客戶集成、0開發(fā)成本，開通服務(wù)即可使用;

相對于客戶應(yīng)用客戶端先自行審核再發(fā)送消息方案，一是客戶端網(wǎng)絡(luò)環(huán)境無法保證從而延遲風(fēng)險更大，環(huán)信審核服務(wù)采取同一數(shù)據(jù)中心調(diào)用方式，有效避免審核環(huán)節(jié)的網(wǎng)絡(luò)延遲風(fēng)險;二是客戶端調(diào)用存在被攻擊的安全風(fēng)險，一旦被攻擊審核環(huán)節(jié)則形同虛設(shè)，環(huán)信內(nèi)容審核采用服務(wù)器送審安全有保障;三是客戶端送審開發(fā)邏輯復(fù)雜，會產(chǎn)生開發(fā)和維護成本，環(huán)信內(nèi)容審核無需客戶集成、0開發(fā)成本，開通服務(wù)即可使用，省時省力省心。

2、智能AI技術(shù)為內(nèi)容安全保駕護航，極大降低監(jiān)管風(fēng)險：

復(fù)雜模型體系，違規(guī)識別高準確：基于先進的人工智能技術(shù)，構(gòu)建復(fù)雜模型體系，避免單一模型的誤殺和漏殺，違規(guī)識別高準確;

違規(guī)態(tài)勢實時追蹤，實現(xiàn)產(chǎn)品快速迭代升級：實時監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢，產(chǎn)品防御升級;

多種違規(guī)內(nèi)容全面識別，極大降低監(jiān)管風(fēng)險：深入不同行業(yè)審核場景，提供高效、精細、全面的個性化內(nèi)容審核方案。

3、高質(zhì)量服務(wù)，支持客戶結(jié)合自身場景進行精準防控：

首次開通服務(wù)提供7天免費試用期，幫助客戶充分測試并了解內(nèi)容審核產(chǎn)品效果;更有專業(yè)技術(shù)服務(wù)人員7*24小時支持客戶根據(jù)業(yè)務(wù)個性化需求調(diào)整審核模型的效果，保障消息審核結(jié)果100%滿足企業(yè)業(yè)務(wù)需求。

（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）