9月2日消息,字節(jié)跳動近期開源了一項代號為OMGD的壓縮技術(shù)。這是字節(jié)自研的GAN(生成對抗網(wǎng)絡(luò))壓縮算法,在保證生成效果不變的前提下,算力消耗最低可以減少到原來的1/46。據(jù)悉,這項技術(shù)的論文已入選國際計算機視覺會議ICCV2021。
GAN是人工智能領(lǐng)域重要的深度學(xué)習(xí)模型,在圖像生成、音樂生成和視頻生成等方面應(yīng)用廣泛,還可以提高圖像質(zhì)量,實現(xiàn)圖像風(fēng)格化、圖像著色等任務(wù)。漫畫特效等人們常用的短視頻道具,就是通過GAN實現(xiàn)的。
OMGD(OnlineMulti-GranularityDistillation)意為“在線多粒度蒸餾”。據(jù)字節(jié)跳動技術(shù)團隊的論文顯示,該算法能靈活地在訓(xùn)練過程中優(yōu)化并壓縮GAN模型,從而實現(xiàn)更好的圖像效果和更少的計算成本。
目前,OMGD壓縮算法已在抖音等產(chǎn)品中落地,相關(guān)技術(shù)代碼也已發(fā)布在開源社區(qū)。
根據(jù)公開報道,截至目前,字節(jié)跳動已開源了機器學(xué)習(xí)平臺Klever、聯(lián)邦學(xué)習(xí)平臺Fedlearner、高性能分布式訓(xùn)練框架BytePS、LightSeq推理和訓(xùn)練引擎等重磅項目。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )