12月7日,自然語言處理國際頂會EMNLP 2022在阿聯(lián)酋阿布扎比召開,本次大會,中國研究團隊表現(xiàn)優(yōu)異,阿里巴巴達摩院共有33篇論文被接收,是論文入選數(shù)量最多的研究機構(gòu)之一。達摩院相關(guān)研究成果涵蓋跨模態(tài)理解和生成預(yù)訓(xùn)練、知識增強的多語言預(yù)訓(xùn)練、具有自我評估能力的機器翻譯等領(lǐng)域,多項成果已在魔搭社區(qū)ModelScope平臺開放。
EMNLP 2022在阿布扎比召開
EMNLP是自然語言處理領(lǐng)域高影響力的會議之一,其在Google Scholar計算語言學(xué)刊物指標(biāo)中排名第二。和傳統(tǒng)學(xué)術(shù)會議不同,EMNLP更注重自然語言算法與各領(lǐng)域應(yīng)用的結(jié)合,吸引了Google、微軟、麻省理工學(xué)院等全球頂級科技公司和研究機構(gòu)的參與。據(jù)介紹,今年大會主會和Findings共接收1381篇論文,其中主會接收論文829篇,接收率創(chuàng)新低僅為20%。達摩院共有22篇論文被主會接收,11篇論文被接收為Findings(不上主會報告的論文)。
達摩院NLP實驗室資深算法專家邴立東在本次大會上共有8篇論文入選主會,個人入選論文數(shù)量位居全球研究者前列。他表示:“今年大會學(xué)術(shù)界和工業(yè)界的研究趨勢仍在發(fā)生微妙的變化,語言模型 (Language Model) 相關(guān)的研究熱度居高不下,有155篇論文在標(biāo)題里提到了該關(guān)鍵詞,此外跨模態(tài)預(yù)訓(xùn)練、文本生成、對比學(xué)習(xí)等領(lǐng)域的論文數(shù)量也在持續(xù)增長?!?/p>
EMNLP 2022大會首日議程
以大模型為例,達摩院創(chuàng)新性地提出了skip-connected網(wǎng)絡(luò)結(jié)構(gòu),可解決當(dāng)下多模態(tài)預(yù)訓(xùn)練模型訓(xùn)練和推理效率低,以及跨模態(tài)對齊模塊中存在語義信息被視覺序列掩蓋的問題,該網(wǎng)絡(luò)可提高視覺表示中self-attention的計算效率,提速至少4倍。實驗結(jié)果顯示,基于該網(wǎng)絡(luò),達摩院通義AliceMind體系下的多模態(tài)預(yù)訓(xùn)練模型mPLUG用1300萬公開圖文數(shù)據(jù)預(yù)訓(xùn)練的模型,超越了傳統(tǒng)模型上億訓(xùn)練數(shù)據(jù)的效果。相關(guān)研究可應(yīng)用于圖像描述、圖文檢索、視覺定位和視覺問答等領(lǐng)域,基于該底座,達摩院于2021年在VQA(視覺問答)任務(wù)上實現(xiàn)了首次超越人類結(jié)果的突破。
據(jù)介紹,達摩院研發(fā)的阿里通義AliceMind體系涵蓋預(yù)訓(xùn)練模型、多語言預(yù)訓(xùn)練模型、超大中文預(yù)訓(xùn)練模型等,具備閱讀理解、機器翻譯、對話問答、文檔處理等多種能力,該模型體系已斬獲36項冠軍。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- GitLab將停止為中國區(qū)用戶提供服務(wù),建議遷移到極狐,不遷或被刪賬號
- SUSE發(fā)布2025年技術(shù)趨勢預(yù)測:私有AI平臺的采用將會增加
- 重新定義金融服務(wù)體驗 奇富科技發(fā)布AI伴侶 “小奇”
- 大模型創(chuàng)企階躍星辰完成數(shù)億美元B輪融資 騰訊投資、啟明創(chuàng)投等有投資
- 百川智能發(fā)布全鏈路領(lǐng)域增強金融大模型Baichuan4-Finance,整體準(zhǔn)確率領(lǐng)先GPT-4o近20%
- 央視曝光未成年人可輕松繞開“防沉迷”系統(tǒng):租號玩游戲最低僅需4元
- 知乎發(fā)布2024“年度十問”:《黑神話:悟空》、諾貝爾物理學(xué)獎等問題在列
- 李斌回應(yīng)螢火蟲三重奏大燈設(shè)計:沒有參考iPhone
- 一周熱點匯總:特斯拉下月量產(chǎn)改款Model Y,阿里“甩賣”銀泰
- 蔚來第三品牌firefly螢火蟲首款車型正式亮相 預(yù)售價14.88萬元
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。