音視頻的多媒體化，正在撬動(dòng)大量用戶的原創(chuàng)熱情，但由此產(chǎn)生的海量?jī)?nèi)容卻帶來(lái)新的難題。

一方面，由用戶端產(chǎn)生的內(nèi)容(UGC)跨度廣泛，質(zhì)量參差不齊;

另一方面，部分打“擦邊球”、違規(guī)內(nèi)容，蒙混在海量音視頻中，也進(jìn)一步加劇了內(nèi)容審核者的挑戰(zhàn)。

對(duì)于網(wǎng)絡(luò)上傳播的色情惡意內(nèi)容，圖像鑒黃技術(shù)很好的打擊了大部分色情圖像和視頻內(nèi)容，而在一些短視頻、直播等場(chǎng)景中，還有一些色情內(nèi)容以音頻方式傳播，用以規(guī)避圖像維度的打擊。

因此騰訊云安全天御研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性，目前該系統(tǒng)已在騰訊云的點(diǎn)播、直播等業(yè)務(wù)中上線使用，進(jìn)一步提高色情內(nèi)容檢出率。

該色情音頻鑒黃系統(tǒng)目前日處理音視頻超過(guò)1億條，每日識(shí)別數(shù)十萬(wàn)條色情音視頻，準(zhǔn)確率95%以上。

先做個(gè)選擇題，根據(jù)以下兩張語(yǔ)譜圖，猜猜哪張是色情尖叫聲?

圖A

圖B

雙管齊下，顯著提升直播平臺(tái)色情音頻實(shí)時(shí)檢出率

看似正常的語(yǔ)譜圖，實(shí)際卻是色情尖叫聲。

目前音頻鑒黃面臨以下技術(shù)難點(diǎn)：

1. 音頻內(nèi)容和場(chǎng)景多樣，常常伴有周圍噪聲和背景音樂(lè)等，信噪比較低;

2. 大部分音頻時(shí)長(zhǎng)較短，信息量不足;

3. 信道復(fù)雜，語(yǔ)音質(zhì)量參差不齊，常見(jiàn)截頻截幅等情況。

針對(duì)以上問(wèn)題，騰訊云采用高效的 i-vector 系統(tǒng)保證較長(zhǎng)音頻正確快速檢出，同時(shí)對(duì)信息量不足的短音頻采用 DNN embedding 系統(tǒng)進(jìn)行特定檢出，兩者互為補(bǔ)充，加上多種信道補(bǔ)償算法的融合，同時(shí)保證了系統(tǒng)的識(shí)別性能和高實(shí)時(shí)率。

在業(yè)務(wù)量巨大的情況下，騰訊云基于變長(zhǎng)統(tǒng)計(jì)和深度學(xué)習(xí)混合的鑒黃系統(tǒng)達(dá)到單線50倍速于原始音頻流的高實(shí)時(shí)率。也就是說(shuō)：1秒的音頻，騰訊云0.02秒就能識(shí)別。

[ 音頻鑒黃系統(tǒng)框圖 ]

騰訊云的音頻鑒黃系統(tǒng)基于海量數(shù)據(jù)訓(xùn)練得到，對(duì)于每條業(yè)務(wù)音頻，系統(tǒng)首先會(huì)通過(guò)靜音檢測(cè)去掉其中的靜音部分，將保留下來(lái)的有效音頻內(nèi)容進(jìn)行聲學(xué)特征提取。

由于每條音頻的時(shí)長(zhǎng)不同，基于統(tǒng)計(jì)量和深度神經(jīng)網(wǎng)絡(luò)的音頻識(shí)別模型將不同長(zhǎng)度的音頻特征轉(zhuǎn)換為統(tǒng)一維度的音頻表征信息。

最后再與系統(tǒng)中的色情模型與正常模型相比對(duì)，經(jīng)過(guò)分?jǐn)?shù)融合得到最終的識(shí)別結(jié)果 。

海量正負(fù)樣本訓(xùn)練，讓色情尖叫聲悄然無(wú)存

音頻鑒黃系統(tǒng)離不開(kāi)海量的正負(fù)樣本訓(xùn)練，樣本標(biāo)注看似簡(jiǎn)單，但實(shí)際操作起來(lái)卻并不容易：

1、對(duì)于色情音頻的定義，不同于語(yǔ)種說(shuō)話人等有一個(gè)明顯的定義，不同的人對(duì)色情內(nèi)容理解會(huì)有偏差，一條音頻在 A 聽(tīng)來(lái)是色情內(nèi)容，在 B 聽(tīng)來(lái)可能只是在惡搞。

2、色情作為一種人為定義的類別，而聲音是一種生物特征。同屬于色情類別的聲音可能從生物特征上來(lái)看差別巨大(像色情尖叫聲和吮吸聲)，強(qiáng)制分為一類可能會(huì)導(dǎo)致訓(xùn)練不收斂的情況，并影響識(shí)別準(zhǔn)確率。這就需要在標(biāo)注時(shí)做細(xì)化工作，在色情與非色情之下再給出更精細(xì)化的標(biāo)簽。

基于以上幾點(diǎn)，騰訊云在正負(fù)樣本的標(biāo)注中盡可能做到多標(biāo)簽區(qū)分，比如色情尖叫聲、喘息聲、吮吸聲，專業(yè) AV、UGC 視頻等，以確保訓(xùn)練的模型能夠有效的區(qū)分正常和色情音頻，常見(jiàn)的標(biāo)注如下：

[ 色情音頻樣本標(biāo)注 ]

在長(zhǎng)期的細(xì)化與標(biāo)注工作中，騰訊云累積了一套多標(biāo)簽色情尖叫聲、喘息聲長(zhǎng)達(dá)上萬(wàn)小時(shí)的色情音頻數(shù)據(jù)集，用于音頻鑒黃系統(tǒng)的訓(xùn)練提升;

同時(shí)，針對(duì)線上的識(shí)別數(shù)據(jù)也持續(xù)進(jìn)行人工抽檢覆蓋和漏過(guò)情況，并將正負(fù)樣本進(jìn)行標(biāo)注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。

音頻鑒黃技術(shù)由騰訊云安全天御打造，在文本、圖片鑒黃的基礎(chǔ)上為騰訊云的客戶提供更全面的技術(shù)支持。

目前騰訊云的音頻鑒黃系統(tǒng)已經(jīng)在多個(gè)業(yè)務(wù)場(chǎng)景上使用，但由于場(chǎng)景需求的復(fù)雜性，仍有很多困難與挑戰(zhàn)并存。緊跟音頻分類相關(guān)領(lǐng)域的最新技術(shù)趨勢(shì)，同時(shí)利用海量業(yè)務(wù)數(shù)據(jù)的優(yōu)勢(shì)進(jìn)一步提高系統(tǒng)性能和速度，是騰訊云下一步的發(fā)展方向。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。