8月9日消息,NVIDIA宣布推出搭載全新 NVIDIA? L40S GPU 的 NVIDIA OVX? 服務(wù)器。這款功能強(qiáng)大的通用數(shù)據(jù)中心處理器將通過(guò) NVIDIA Omniverse? 平臺(tái),加速計(jì)算密集型的復(fù)雜應(yīng)用,包括 AI 訓(xùn)練與推理、3D 設(shè)計(jì)與可視化、視頻處理以及工業(yè)數(shù)字化等。
這款全新 GPU 將加速生成式 AI 的計(jì)算工作負(fù)載。生成式 AI 為各行各業(yè)的工作流和服務(wù)都帶來(lái)了變革,如文本、圖像和視頻生成、聊天機(jī)器人、游戲開(kāi)發(fā)、產(chǎn)品設(shè)計(jì)以及醫(yī)療等。
NVIDIA 專業(yè)可視化副總裁 Bob Pette 表示:“生成式 AI 為各行各業(yè)都帶來(lái)了變革,企業(yè)也更需要為數(shù)據(jù)中心尋求大規(guī)模計(jì)算資源。配備 NVIDIA L40S GPU 的 OVX 系統(tǒng)能夠加速 AI、圖形和視頻處理工作負(fù)載,滿足不斷增加的復(fù)雜且多樣的應(yīng)用對(duì)性能的嚴(yán)苛要求?!?/p>
強(qiáng)大的 AI 和圖形性能
NVIDIA OVX 系統(tǒng)的每臺(tái)服務(wù)器最多支持 8 塊 NVIDIA L40S GPU,每塊 GPU 的顯存為 48GB?;?NVIDIA Ada Lovelace GPU 架構(gòu)的 L40S 搭載第四代 Tensor Core 和 FP8 Transformer Engine,可提供超過(guò) 1.45 PFLOP 的張量處理能力。對(duì)于擁有數(shù)十億個(gè)參數(shù)和多種數(shù)據(jù)模式(如文本和視頻)的復(fù)雜 AI 工作負(fù)載,與 NVIDIA A100 Tensor Core GPU 相比,L40S 能夠?qū)⑸墒?AI 的推理性能和訓(xùn)練性能分別提高 1.2 倍和 1.7 倍。
為了支持實(shí)時(shí)渲染、產(chǎn)品設(shè)計(jì)、3D 內(nèi)容創(chuàng)建等高保真專業(yè)可視化工作流,NVIDIA L40S GPU 搭載 142 顆第三代 RT Core,可提供 212 TFLOP 的光線追蹤性能,使專業(yè)創(chuàng)作者能夠創(chuàng)建沉浸式的視覺(jué)體驗(yàn)和逼真的內(nèi)容。
針對(duì)計(jì)算要求嚴(yán)苛的工作流,如工程和科學(xué)模擬等,NVIDIA L40S 搭載 18,176 顆 CUDA? Core,可提供近 5 倍于 NVIDIA A100 GPU 的單精度浮點(diǎn)計(jì)算(FP32)性能,以加快復(fù)雜計(jì)算和數(shù)據(jù)密集型分析的速度。
早期采用情況
專注于大規(guī)模 GPU 加速工作負(fù)載領(lǐng)域的CoreWeave 是首批提供 L40S 實(shí)例的云服務(wù)提供商之一。
CoreWeave 首席技術(shù)官 Brian Venturo 表示:“隨著生成式 AI 的爆發(fā)式增長(zhǎng),我們各行各業(yè)的客戶都在尋求性能強(qiáng)大的計(jì)算產(chǎn)品和規(guī)模上的擴(kuò)展,以應(yīng)對(duì)從交互式視頻到 AI 設(shè)計(jì)和自動(dòng)化等各類工作負(fù)載的復(fù)雜性。NVIDIA L40S GPU 將進(jìn)一步擴(kuò)大我們豐富的 NVIDIA 解決方案陣容,使 CoreWeave 成為首家提供這些新資源的專業(yè)云服務(wù)提供商,為下一批生成式 AI 應(yīng)用提供快速、高效、經(jīng)濟(jì)的加速計(jì)算?!?/p>
提升 AI 性能的軟件
部署 L40S GPU 的企業(yè)將受益于 NVIDIA AI Enterprise 軟件。該軟件今日發(fā)布了重大更新,能夠?yàn)?100 多個(gè)框架、預(yù)訓(xùn)練模型、工具套件和軟件提供生產(chǎn)就緒型企業(yè)級(jí)支持和安全,其中包括用于模擬的 NVIDIA Modulus、用于數(shù)據(jù)科學(xué)的 NVIDIA RAPIDS? 和用于生產(chǎn)型 AI 的 NVIDIA Triton? 推理服務(wù)器。
Omniverse的功能日益豐富
NVIDIA 還發(fā)布了對(duì) Omniverse 平臺(tái)的重大更新,新推出的各種功能和平臺(tái)升級(jí)將助力開(kāi)發(fā)者借助生成式AI的強(qiáng)大功能,加速并推進(jìn) OpenUSD 工作流程和工業(yè)數(shù)字化應(yīng)用。支持Omniverse Cloud 的下一代 NVIDIA OVX 系統(tǒng)將配備 L40S GPU,為大幅加速生成式 AI 流程和 Omniverse 工作負(fù)載提供所需的 AI 和圖形性能。
供應(yīng)情況
NVIDIA L40S 將于今年秋季上市。包括華碩、戴爾科技、技嘉、慧與、聯(lián)想、QCT、超微在內(nèi)的全球系統(tǒng)構(gòu)建商近期將提供搭載 NVIDIA L40S GPU 的 OVX 系統(tǒng)。該服務(wù)器將幫助全球?qū)I(yè)人士推進(jìn) AI 的發(fā)展。并為各行各業(yè)的用戶帶來(lái)智能聊天機(jī)器人、搜索和摘要工具等生成式AI應(yīng)用。請(qǐng)與這些系統(tǒng)構(gòu)建商聯(lián)系,了解具體的供應(yīng)地區(qū)、系統(tǒng)配置詳情和供貨情況。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 李斌回應(yīng)螢火蟲三重奏大燈設(shè)計(jì):沒(méi)有參考iPhone
- 一周熱點(diǎn)匯總:特斯拉下月量產(chǎn)改款Model Y,阿里“甩賣”銀泰
- 蔚來(lái)第三品牌firefly螢火蟲首款車型正式亮相 預(yù)售價(jià)14.88萬(wàn)元
- 首發(fā)線控轉(zhuǎn)向等多項(xiàng)技術(shù) 蔚來(lái)旗艦車型ET9正式上市:78.8萬(wàn)元起
- 網(wǎng)信辦:從嚴(yán)打擊網(wǎng)上侵害未成年人合法權(quán)益行為
- 豆包大模型全面升級(jí),相關(guān)概念股瘋漲,字節(jié)發(fā)布緊急警示
- “小紅書封號(hào)”沖上熱搜,小米YU7無(wú)偽裝實(shí)車首次曝光
- “小米SU7墜崖一家四口安然無(wú)恙”沖上熱搜 車主回應(yīng)
- 奇富科技發(fā)布AI產(chǎn)品小奇等金融AI大模型成果
- 消息稱極越公關(guān)負(fù)責(zé)人被開(kāi)除 當(dāng)事人回應(yīng)了
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。