導(dǎo)語：秉承“技術(shù)提效”理念，助力廣告主生意增長(zhǎng)

隨著近年來人工智能的飛躍發(fā)展，機(jī)器學(xué)習(xí)被廣泛應(yīng)用于廣告、電商、安全等多個(gè)領(lǐng)域。其中，廣告業(yè)務(wù)因其數(shù)據(jù)計(jì)算量龐大、計(jì)算效率要求高的特性，被視作機(jī)器學(xué)習(xí)成果應(yīng)用的試金石。如何運(yùn)用機(jī)器學(xué)習(xí)規(guī)?；亟鉀Q廣告提效難題，亦是業(yè)界在技術(shù)應(yīng)用層面的重點(diǎn)課題。目前在騰訊廣告系統(tǒng)的全面升級(jí)中，廣告提效的技術(shù)應(yīng)用取得了關(guān)鍵進(jìn)展。

秉承“技術(shù)提效”理念，騰訊廣告將北京大學(xué)-騰訊協(xié)同創(chuàng)新實(shí)驗(yàn)室(以下簡(jiǎn)稱：聯(lián)合實(shí)驗(yàn)室)兩項(xiàng)入選國(guó)際頂級(jí)學(xué)術(shù)會(huì)議VLDB 2022與WWW(國(guó)際萬維網(wǎng)大會(huì))的前沿機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于廣告業(yè)務(wù)場(chǎng)景中，為騰訊廣告系統(tǒng)的“太極機(jī)器學(xué)習(xí)平臺(tái)”與“千億參數(shù)大模型”的落地持續(xù)賦能，助力系統(tǒng)成為騰訊廣告全域經(jīng)營(yíng)堅(jiān)實(shí)的技術(shù)底座。這一次的系統(tǒng)升級(jí)，不僅是對(duì)“技術(shù)提效”理念的充分實(shí)踐，更彰顯了騰訊廣告將前沿技術(shù)能力轉(zhuǎn)化為業(yè)務(wù)價(jià)值的行動(dòng)力。

前沿技術(shù)持續(xù)提效

“從技術(shù)的角度理解業(yè)務(wù)，從業(yè)務(wù)的角度審視技術(shù)，讓技術(shù)演進(jìn)推動(dòng)業(yè)務(wù)增長(zhǎng)”是騰訊廣告所秉承的技術(shù)原則。借助“騰訊廣告系統(tǒng)全面升級(jí)”這一練兵場(chǎng)，騰訊廣告為聯(lián)合實(shí)驗(yàn)室的技術(shù)成果落地“量體裁衣”：

當(dāng)下互聯(lián)網(wǎng)生態(tài)，每天產(chǎn)生至少百億規(guī)模的數(shù)據(jù)樣本，而廣告推薦場(chǎng)景更需要對(duì)復(fù)雜條件做分析和判斷，其中涵蓋的特征數(shù)量可達(dá)千億甚至萬億規(guī)模。特征的多變性與成長(zhǎng)性，亦對(duì)廣告系統(tǒng)的學(xué)習(xí)能力提出了更高的要求。為此，騰訊基于聯(lián)合實(shí)驗(yàn)室提出的自動(dòng)化建模超大規(guī)模圖網(wǎng)絡(luò)的可拓展圖學(xué)習(xí)理論(PaSca)，自研Angel Graph圖計(jì)算框架，降低大規(guī)模圖神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的門檻，提升了系統(tǒng)的數(shù)據(jù)學(xué)習(xí)效率。獲益于此，騰訊廣告系統(tǒng)在不同推薦場(chǎng)景的靈活性與準(zhǔn)確性得到極大提高，可根據(jù)各個(gè)平臺(tái)用戶的特點(diǎn)實(shí)現(xiàn)快速精準(zhǔn)推薦，更能結(jié)合頁面和上下文信息，通過強(qiáng)化場(chǎng)景差異性表達(dá)，提升投放效果。

另一方面，廣告業(yè)務(wù)對(duì)數(shù)據(jù)理解與運(yùn)算的速度、質(zhì)量要求遠(yuǎn)超其他業(yè)務(wù)場(chǎng)景，甚至要在毫秒間完成復(fù)雜的計(jì)算與匹配。為提升廣告運(yùn)算的效率和準(zhǔn)確性，當(dāng)下業(yè)界多采用千億和萬億參數(shù)規(guī)模的超大模型優(yōu)化對(duì)高維特征的理解，并實(shí)現(xiàn)組合特征的計(jì)算匹配。超大模型的訓(xùn)練落地與持續(xù)推理成長(zhǎng)，已經(jīng)成為當(dāng)下廣告平臺(tái)的一大技術(shù)壁壘，而機(jī)器學(xué)習(xí)的訓(xùn)練推理能力恰好在其中發(fā)揮關(guān)鍵作用。如果將大模型比作廣告場(chǎng)景賽道上奔騰的賽車，那么機(jī)器學(xué)習(xí)技術(shù)就是驅(qū)動(dòng)賽車的引擎，引擎質(zhì)量的好壞，很大程度上決定了賽車能不能跑得快、跑得穩(wěn)。為此，技術(shù)團(tuán)隊(duì)巧用聯(lián)合實(shí)驗(yàn)室成果，從搭基建、提速度兩個(gè)思路出發(fā)，為大模型訓(xùn)練落地提供技術(shù)支持。

基建層面，依托于聯(lián)合實(shí)驗(yàn)室研發(fā)的新一代分布式深度學(xué)習(xí)平臺(tái)Angel4.0，騰訊廣告自主研發(fā)出AngelPS 技術(shù)，并將其作為太極機(jī)器學(xué)習(xí)平臺(tái)的核心組件落地應(yīng)用于廣告系統(tǒng)。在AngelPS的助力下，太極機(jī)器學(xué)習(xí)平臺(tái)單模型處理上限提升至10TB級(jí)別，更能實(shí)現(xiàn)7X24小時(shí)的在線深度學(xué)習(xí)與推理，自此，廣告系統(tǒng)學(xué)習(xí)、推理海量廣告數(shù)據(jù)的穩(wěn)定性與擴(kuò)展性得到了極大提升，讓超大規(guī)模廣告模型的生產(chǎn)和使用成為現(xiàn)實(shí)。速度層面，騰訊廣告基于聯(lián)合實(shí)驗(yàn)室提出的稀疏大模型訓(xùn)練加速解決方案AngelRec，自主研發(fā)高性能預(yù)訓(xùn)練框架AngelPTM，為超大規(guī)模廣告模型的訓(xùn)練速度、維度與精度加足馬力。

助力廣告主生意增長(zhǎng)

在兩項(xiàng)技術(shù)的合力加持下，騰訊廣告完成“一大平臺(tái)兩大模型”的重要突破——基于太極機(jī)器學(xué)習(xí)平臺(tái)，訓(xùn)練出混元AI大模型與廣告大模型，強(qiáng)化了騰訊廣告系統(tǒng)的理解能力與運(yùn)算能力，高效達(dá)成廣告主最關(guān)心的“起量、成本和穩(wěn)定性”三大指標(biāo)。

騰訊廣告系統(tǒng)

隨著騰訊廣告系統(tǒng)的全面升級(jí)，當(dāng)下廣告場(chǎng)景效果轉(zhuǎn)化的確定性與轉(zhuǎn)化效率均得以提升，為廣告主們帶來生意增長(zhǎng)。未來，騰訊廣告亦將持續(xù)踐行“技術(shù)提效”思路，立足于騰訊與清華大學(xué)、中科院計(jì)算所等多所高校的產(chǎn)學(xué)研布局與研發(fā)成果，深挖機(jī)器學(xué)習(xí)、大數(shù)據(jù)與自然語言處理等多個(gè)前沿領(lǐng)域，持續(xù)探索廣告業(yè)務(wù)在產(chǎn)學(xué)融合層面的新航圖。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）