極客網·人工智能(杭州)9月19日,在2024云棲大會上,阿里云正式發(fā)布百煉專屬版2.0,可基于公共云VPC和專有云部署,支持圖表、公式、圖片、音視頻等多模態(tài)、非結構數據的解析,幫助政企客戶安全快速地開發(fā)大模型。
當大模型引發(fā)新一輪AI創(chuàng)新浪潮后,阿里云于2023年10月推出了百煉平臺。該平臺集成了國內外主流優(yōu)質大模型,提供模型選型、微調訓練、安全套件、模型部署等服務和全鏈路的應用開發(fā)工具,為用戶簡化了底層算力部署、模型預訓練、工具開發(fā)等復雜工作。
但是,政企市場面臨一系列大模型落地“難題”:一方面,政企業(yè)務的獨特性、敏感性,對大模型開發(fā)環(huán)境有特殊要求;另一方面,政企市場歷史悠久,存在大量圖表、公式等復雜資料,如何將這些資料處理成大模型能夠理解的數據,成為政企訓練大模型、打造智能體的關鍵挑戰(zhàn)。
為此,阿里云于2024年推出百煉專屬版,是為政企客戶構建的一站式大模型及智能體服務平臺,提供從基礎模型推理服務到復雜模型定制化訓練、行業(yè)智能體搭建的全方位服務,實現AI能力的快速接入與應用。
2024云棲大會,百煉專屬版再升級,將提供以下能力:
在底層算力上,兼容“公共云VPC”和“專有云”環(huán)境,并已嵌入阿里云“飛天企業(yè)版”云平臺;支持多芯異構的算力調度,支持多租戶模式下的算力、模型、數據隔離與共享。
在大模型訓推方面,支持高性能分布式訓練,訓練吞吐率提升20%;基于軟硬協同的推理加速,將精度無損量化提升至0.5%,推理速度提升3倍以上。
在模型方面,預置通義7B到72B多尺寸大語言基礎模型及多模態(tài)大模型,同時兼容主流模型框架、支持三方大模型自定義接入。
在模型服務方面,支持圖表、公式、圖片、音視頻,以及大文件和巨量文件的解析;基于平臺豐富的工具和插件,開發(fā)者可通過“拖拉拽”快速搭建智能體。
目前,基于百煉專屬版打造的智能體已在政務、電力、醫(yī)藥研發(fā)、科學研究等多個領域落地。知名藥企阿斯利康基于百煉專屬版以及通義千問搭建的醫(yī)藥智能體,可對藥物不良反應進行自動分析和總結,將科研人員從繁瑣的文獻閱讀、篩選、撰寫工作中解放出來,提升藥物安全把控的效率和準確度。阿斯利康的藥物安全把控效率已提升300%,準確率已從90%提升至95%。
阿里云智能副總裁、解決方案研發(fā)部總經理曾震宇表示,行業(yè)大模型正在千行百業(yè)加速落地。相信大模型一定能夠助力行業(yè)智能化的發(fā)展,也希望百煉專屬版能夠與合作伙伴一起,為行業(yè)創(chuàng)新打造“好用”、“易用”的智能助手。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )