5月9日消息,ChatGPT的推出極大地激發(fā)了社會(huì)對(duì)生成式AI的興趣,自那以來(lái),相關(guān)創(chuàng)新的步伐不斷加速。企業(yè)已從對(duì)生成式AI服務(wù)的初步評(píng)估轉(zhuǎn)向開(kāi)發(fā)并啟用AI的應(yīng)用程序。為了真正降低進(jìn)入AI創(chuàng)新的門檻,企業(yè)需要擴(kuò)大參與AI項(xiàng)目的人員范圍,同時(shí)控制相關(guān)成本。
日前,開(kāi)源解決方案供應(yīng)商紅帽公司宣布推出紅帽企業(yè)Linux AI(RHEL AI)。這是一個(gè)基礎(chǔ)模型平臺(tái),能夠使用戶更加便捷地開(kāi)發(fā)、測(cè)試和部署生成式人工智能(GenAI)模型。
RHEL AI整合了IBM研究院的開(kāi)源授權(quán)Granite大型語(yǔ)言模型(LLM)系列、基于大規(guī)模對(duì)話機(jī)器人對(duì)齊(LAB)方法的InstructLab模型對(duì)齊工具,以及通過(guò)InstructLab項(xiàng)目實(shí)施的社區(qū)驅(qū)動(dòng)模型開(kāi)發(fā)方法。
該解決方案被封裝成一個(gè)優(yōu)化的、可啟動(dòng)的RHEL鏡像,用于在混合云環(huán)境中部署單個(gè)服務(wù)器,并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機(jī)器學(xué)習(xí)運(yùn)營(yíng)(MLOps)平臺(tái),能夠在分布式集群環(huán)境中大規(guī)模運(yùn)行模型和InstructLab。
InstructLab是一個(gè)圍繞LAB方法和IBM開(kāi)源Granite模型構(gòu)建的開(kāi)源社區(qū)。InstructLab項(xiàng)目的目標(biāo)是使開(kāi)發(fā)者通過(guò)簡(jiǎn)化LLM的創(chuàng)建、構(gòu)建和貢獻(xiàn)過(guò)程,像參與任何其他開(kāi)源項(xiàng)目一樣,將LLM開(kāi)發(fā)的權(quán)力交到開(kāi)發(fā)者手中。
具體來(lái)看,RHEL AI包括:
1.紅帽支持和保障的開(kāi)源許可Granite語(yǔ)言和代碼模型;
2.提供支持并具有生命周期管理的InstructLab分發(fā)版本,這是一種可擴(kuò)展且成本效益高的解決方案,能夠增強(qiáng)大型語(yǔ)言模型(LLM)的功能,并使知識(shí)與技能的貢獻(xiàn)得到更廣泛的用戶接納。
3.通過(guò)RHEL鏡像方式提供的優(yōu)化可啟動(dòng)模型運(yùn)行實(shí)例,包括Granite模型和InstructLab工具包,及優(yōu)化的Pytorch運(yùn)行時(shí)庫(kù)和針對(duì)AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。
4.紅帽提供的完整企業(yè)支持和生命周期保證,從可信的企業(yè)產(chǎn)品分發(fā)開(kāi)始,提供24小時(shí)全天候生產(chǎn)支持和擴(kuò)展的生命周期支持。
紅帽高級(jí)副總裁兼首席產(chǎn)品官Ashesh Badani表示,對(duì)企業(yè)來(lái)說(shuō),生成式AI(GenAI)代表了一次革命性的飛躍,但這需要企業(yè)真正部署起來(lái),并針對(duì)其具體業(yè)務(wù)需求使用AI模型。通過(guò)結(jié)合紅帽O(jiān)penShift AI的廣泛應(yīng)用,RHEL AI和InstructLab項(xiàng)目旨在降低混合云中生成式AI所面臨的多種挑戰(zhàn),從數(shù)據(jù)科學(xué)技能的限制到巨大的資源需求,同時(shí)促進(jìn)企業(yè)的部署并推動(dòng)上游社區(qū)的創(chuàng)新?!?/p>
據(jù)悉,紅帽O(jiān)penShift AI最新版本提供了:邊緣模型服務(wù)、增強(qiáng)型模型服務(wù)、采用Ray支持分布式工作負(fù)載、改進(jìn)模型開(kāi)發(fā)、模型監(jiān)控和可視化以及新的加速器配置文件。
目前,紅帽企業(yè)Linux AI已作為開(kāi)發(fā)者預(yù)覽版提供。在IBM云上已建立的GPU基礎(chǔ)設(shè)施用于訓(xùn)練Granite模型并支持InstructLab,現(xiàn)IBM云將增加對(duì)RHEL AI和OpenShift AI的支持。此整合將使企業(yè)能夠更輕松地將生成式AI部署至其關(guān)鍵任務(wù)應(yīng)用程序中。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )