7月6日消息,7月6-8日,以“智聯(lián)世界 生成未來”為主題的第六屆世界人工智能大會(WAIC2023)在上海舉辦。百度CTO王海峰在會上首次披露了飛槳深度學(xué)習(xí)平臺最新數(shù)據(jù)。據(jù)王海峰現(xiàn)場透露,截至目前,飛槳已凝聚750萬名開發(fā)者。
百度自2010年起全面布局人工智能,是全球為數(shù)不多、進行全棧布局的人工智能公司。從昆侖芯片、飛槳深度學(xué)習(xí)平臺、文心大模型到人工智能應(yīng)用,百度在AI四層技術(shù)棧的各層都有布局。
其中,飛槳深度學(xué)習(xí)平臺位于框架層,向上支撐大模型生產(chǎn),提高模型部署效率和靈活性,向下適配各類硬件,提高硬件適配效率和降低成本。
文心大模型是飛槳模型庫的重要組成部分,以創(chuàng)新性的知識增強技術(shù)為核心。經(jīng)過飛槳與文心大模型的協(xié)同優(yōu)化,最新升級的文心大模型3.5的模型效果提升50%,訓(xùn)練速度提升2倍,推理速度提升30倍。
3月,百度發(fā)布大語言模型文心一言。文心一言是知識增強的大語言模型,首先從數(shù)萬億數(shù)據(jù)和數(shù)千億知識中融合學(xué)習(xí)得到預(yù)訓(xùn)練大模型,在此基礎(chǔ)上采用有監(jiān)督精調(diào)、人類反饋的強化學(xué)習(xí)和提示等技術(shù),并具備知識增強、檢索增強和對話增強等技術(shù)優(yōu)勢。
王海峰解讀了文心大模型3.5的核心技術(shù)創(chuàng)新,在基礎(chǔ)模型訓(xùn)練上,采用了飛槳最先進的自適應(yīng)混合并行訓(xùn)練技術(shù)及混合精度計算策略,并采用多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布,加快了模型迭代速度,顯著提升了模型效果和安全性。
同時,創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎勵模型、多損失函數(shù)混合優(yōu)化策略、雙飛輪結(jié)合的模型優(yōu)化等技術(shù),進一步提升模型效果及場景適配能力。
在知識增強和檢索增強基礎(chǔ)上,文心大模型3.5提出了“知識點增強技術(shù)”,對用戶輸入的查詢、問題等進行分析理解,解析出生成答案所需要的相關(guān)知識點,之后運用知識圖譜和搜索引擎為這些知識點找到相應(yīng)答案,最后再用這些知識點構(gòu)造輸入給大模型的提示,為大模型注入更具體、更詳細、更專業(yè)的知識點,顯著提升大模型對世界知識的掌握和運用。
在推理方面,通過大規(guī)模邏輯數(shù)據(jù)構(gòu)建、邏輯知識建模、多粒度語義知識組合以及符號神經(jīng)網(wǎng)絡(luò)技術(shù),提升文心大模型3.5在邏輯推理、數(shù)學(xué)計算及代碼生成等任務(wù)上的表現(xiàn)。
現(xiàn)場王海峰展現(xiàn)了文心一言在辦公、會議、編碼等場景的應(yīng)用,文心一言成為工作中的“超級助理”,幫助總結(jié)工作溝通要點,實時記錄會議內(nèi)容,形成會議議題、摘要及總結(jié)等關(guān)鍵信息,可以通過各類插件完成指令任務(wù),包括查詢?nèi)粘?、?chuàng)建會議、設(shè)置待辦、申請休假等,也可以在工程師編碼過程中自動推薦和生成代碼。據(jù)悉,目前這些功能已通過智能工作平臺“如流”應(yīng)用于百度的工作流程中,幫助提升工作效率,提高決策質(zhì)量。
王海峰表示,凡是要跟語言文字或程序代碼打交道的應(yīng)用場景,都可能有文心一言的用武之地。已經(jīng)有很多在積極應(yīng)用文心一言的場景,例如能源、金融、教育、辦公、媒體,等等。在文心一言這類大模型產(chǎn)業(yè)落地的進程中,可以采用“集約化生產(chǎn),平臺化應(yīng)用”的模式,即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢的企業(yè)將模型生產(chǎn)的復(fù)雜過程封裝起來,通過低門檻、高效率的生產(chǎn)平臺,為千行百業(yè)提供大模型服務(wù)。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 特斯拉CEO馬斯克身家暴漲,穩(wěn)居全球首富寶座
- 阿里巴巴擬發(fā)行 26.5 億美元和 170 億人民幣債券
- 騰訊音樂Q3持續(xù)穩(wěn)健增長:總收入70.2億元,付費用戶數(shù)1.19億
- 蘋果Q4營收949億美元同比增6%,在華營收微降
- 三星電子Q3營收79萬億韓元,營業(yè)利潤受一次性成本影響下滑
- 賽力斯已向華為支付23億,購買引望10%股權(quán)
- 格力電器三季度營收同比降超15%,凈利潤逆勢增長
- 合合信息2024年前三季度業(yè)績穩(wěn)?。籂I收增長超21%,凈利潤增長超11%
- 臺積電四季度營收有望再攀高峰,預(yù)計超260億美元刷新紀錄
- 韓國三星電子決定退出LED業(yè)務(wù),市值蒸發(fā)超4600億元
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。