英偉達(dá)宣布其人工智能計(jì)算平臺(tái)再次打破了最新一輪MLPerf的性能記錄。這反過(guò)來(lái)又?jǐn)U大了該公司在業(yè)界唯一一個(gè)衡量硬件、軟件和服務(wù)人工智能性能的獨(dú)立基準(zhǔn)上的領(lǐng)先地位。
NVIDIA在第二版MLPerf Inference中贏得了針對(duì)數(shù)據(jù)中心和邊緣計(jì)算系統(tǒng)的所有六個(gè)應(yīng)用領(lǐng)域的所有測(cè)試。這些測(cè)試的范圍從最初的兩個(gè)計(jì)算機(jī)視覺(jué)擴(kuò)展到了四個(gè)，涵蓋了AI增長(zhǎng)最快的領(lǐng)域：推薦系統(tǒng)、自然語(yǔ)言理解、語(yǔ)音識(shí)別和醫(yī)學(xué)成像。
各行各業(yè)的企業(yè)已經(jīng)在利用NVIDIA A100 Tensor Core GPU出色的推理性能，將AI從其研究團(tuán)隊(duì)帶入日常運(yùn)營(yíng)中。金融機(jī)構(gòu)正在使用對(duì)話式AI來(lái)更快地回答客戶問(wèn)題，零售商也在使用AI來(lái)保持貨架庫(kù)存。另一方面，醫(yī)療保健提供者正在使用AI分析數(shù)百萬(wàn)幅醫(yī)學(xué)圖像，以更準(zhǔn)確地識(shí)別疾病并幫助挽救生命。
MLPerf的最新結(jié)果來(lái)自NVIDIA在AI推理方面的足跡急劇增長(zhǎng)。五年前，只有少數(shù)領(lǐng)先的高科技公司使用GPU進(jìn)行推理?，F(xiàn)在，通過(guò)每個(gè)主要的云端和數(shù)據(jù)中心基礎(chǔ)設(shè)施提供商均可使用NVIDIA的AI平臺(tái)，代表各行各業(yè)的公司都在使用其AI推理平臺(tái)來(lái)改善其業(yè)務(wù)運(yùn)營(yíng)并提供其他服務(wù)。
此外，與CPU相比，NVIDIA GPU現(xiàn)在在公共云中首次提供了更多的AI推理能力。NVIDIA GPU的云AI推理計(jì)算能力每?jī)赡甏蠹s增長(zhǎng)10倍。
NVIDIA將AI推論推向新的高度
NVIDIA及其合作伙伴使用NVIDIA的加速平臺(tái)提交了MLPerf 0.7結(jié)果，該平臺(tái)包括NVIDIA數(shù)據(jù)中心GPU、Edge AI加速器和NVIDIA優(yōu)化軟件。
NVIDIA A100于今年早些時(shí)候推出，采用了第三代Tensor內(nèi)核和多實(shí)例GPU技術(shù)，在ResNet-50測(cè)試中提高了領(lǐng)先優(yōu)勢(shì)，在上一輪中以30倍的優(yōu)勢(shì)擊敗了CPU，而現(xiàn)在其性能已提高了6倍。此外，根據(jù)MLPerf Inference 0.7基準(zhǔn)測(cè)試，在針對(duì)數(shù)據(jù)中心推理的最新推薦測(cè)試中，A100的性能比最新CPU高出237倍。
這意味著單個(gè)NVIDIA DGX A100系統(tǒng)可以提供與大約1000個(gè)雙插槽CPU服務(wù)器相同的性能，從而使客戶在將AI推薦器模型從研究應(yīng)用于生產(chǎn)時(shí)可以實(shí)現(xiàn)極高的成本效益。
基準(zhǔn)測(cè)試還表明，NVIDIA T4 Tensor Core GPU仍然是主流企業(yè)，邊緣服務(wù)器和具有成本效益的云實(shí)例的可靠推理平臺(tái)。在相同的測(cè)試中，NVIDIA T4 GPU比CPU高出28倍。此外，NVIDIA Jetson AGX Xavier是基于SoC的邊緣設(shè)備中的性能領(lǐng)導(dǎo)者。
要獲得這些結(jié)果，需要高度優(yōu)化的軟件堆棧，包括NVIDIA TensorRT推理優(yōu)化器和NVIDIA Triton推理服務(wù)軟件，這兩種軟件都可以在NVIDIA的軟件目錄NGC上找到。
除了NVIDIA自己提交的文件外，還有11個(gè)NVIDIA合作伙伴使用NVIDIA GPU提交了總共1,029個(gè)結(jié)果，占數(shù)據(jù)中心和邊緣類別提交的文件總數(shù)的85％以上。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
