● 全新 Blackwell GPU、NVLink 和可靠性技術(shù)賦能萬億參數(shù)規(guī)模的 AI 模型

● 全新 Tensor Core 與 TensorRT- LLM 編譯器將 LLM 推理運行成本和能耗降低多達 25 倍

● 全新加速器助推數(shù)據(jù)處理、工程模擬、電子設(shè)計自動化、計算機輔助藥物設(shè)計和量子計算領(lǐng)域?qū)崿F(xiàn)突破

● 各大云提供商、服務(wù)器制造商和頭部 AI 企業(yè)紛紛采用

美國加利福尼亞州圣何塞 —— GTC —— 太平洋時間 2024 年 3 月 18 日 —— NVIDIA 于今日宣布推出 NVIDIA Blackwell 平臺以賦能計算新時代。該平臺可使世界各地的機構(gòu)都能夠在萬億參數(shù)的大語言模型(LLM)上構(gòu)建和運行實時生成式 AI，其成本和能耗較上一代產(chǎn)品降低多達 25 倍。

Blackwell GPU 架構(gòu)搭載六項變革性的加速計算技術(shù)，這些技術(shù)將助推數(shù)據(jù)處理、工程模擬、電子設(shè)計自動化、計算機輔助藥物設(shè)計、量子計算和生成式 AI 等領(lǐng)域?qū)崿F(xiàn)突破，這些都是 NVIDIA 眼中的新興行業(yè)機遇。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示： “三十年來，我們一直深耕加速計算領(lǐng)域，力求實現(xiàn)像深度學習和 AI 這樣的變革性突破。生成式 AI 是我們這個時代的決定性技術(shù)，Blackwell GPU 是推動新一輪工業(yè)革命的引擎。通過與全球最具活力的企業(yè)合作，我們將實現(xiàn) AI 賦能各行各業(yè)的承諾。”

許多企業(yè)都在計劃采用 Blackwell，其中包括亞馬遜云科技、戴爾科技、谷歌、Meta、微軟、OpenAI、Oracle、特斯拉和 xAI。

Alphabet 和谷歌首席執(zhí)行官 Sundar Pichai 表示： “通過擴展谷歌搜索和 Gmail 等服務(wù)以服務(wù)于數(shù)十億用戶，我們對于如何管理計算基礎(chǔ)設(shè)施有了更加深入的了解。隨著公司業(yè)務(wù)進入 AI 平臺轉(zhuǎn)型期，我們將繼續(xù)為自身產(chǎn)品和服務(wù)以及云客戶擴大基礎(chǔ)設(shè)施投資。我們有幸與 NVIDIA 建立了長期合作伙伴關(guān)系，并期待著將 Blackwell GPU 的突破性功能帶給我們的云客戶以及包括 Google DeepMind 在內(nèi)的谷歌團隊，以加速未來的探索進程?！?

亞馬遜總裁兼首席執(zhí)行官 Andy Jassy 表示： “我們與 NVIDIA 的深度合作可以追溯到 13 年前，當時我們在 AWS 上推出了全球首個 GPU 云實例。如今，我們在云端提供了最為廣泛的 GPU 解決方案，以支持全球那些技術(shù)上最先進的加速工作負載。正因如此，NVIDIA Blackwell GPU 能夠在 AWS 上運行得如此出色，NVIDIA 也選擇與 AWS 共同開發(fā) Project Ceiba，將 NVIDIA 新一代 Grace Blackwell 超級芯片與 AWS Nitro System 的高級虛擬化和超快速的 Elastic Fabric Adapter 網(wǎng)絡(luò)結(jié)合，以用于 NVIDIA 自身的 AI 研發(fā)。通過 AWS 與 NVIDIA 工程師的共同努力，我們將持續(xù)創(chuàng)新，使 AWS 成為每一個想要在云端運行 NVIDIA GPU 的用戶的最佳選擇?！?

戴爾科技董事會主席兼首席執(zhí)行官 Michael Dell 表示： “生成式 AI 對于創(chuàng)建更智能、更可靠和更高效的系統(tǒng)至關(guān)重要。戴爾科技與 NVIDIA 將攜手塑造未來科技。隨著 Blackwell 的發(fā)布， 我們將繼續(xù)為用戶提供新一代加速產(chǎn)品和服務(wù)，以提供推動跨行業(yè)創(chuàng)新所需的工具?！?

谷歌 DeepMind 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Demis Hassabis 表示：“AI 的變革潛力令人難以置信，它將幫助我們解決世界上那些最重要的科學問題。Blackwell 突破性的技術(shù)性能將提供所需的關(guān)鍵算力，從而幫助那些世界上最聰明的大腦繪制新的科學藍圖。”

Meta 公司創(chuàng)始人兼首席執(zhí)行官 Mark Zuckerberg 表示： “從我們的大語言模型到內(nèi)容推薦、廣告和安全系統(tǒng)，AI 已經(jīng)在賦能一切，而且 AI 在未來將會日益重要。我們期待通過 NVIDIA Blackwell 幫助訓練我們的開源 Llama 模型，打造下一代 Meta AI 和消費產(chǎn)品?！?

微軟執(zhí)行董事長兼首席執(zhí)行官 Satya Nadella 表示： “我們致力于為客戶提供最先進的基礎(chǔ)設(shè)施，以賦能其 AI 工作負載。一直以來，我們致力于為云端優(yōu)化 NVIDIA GPU，通過在我們的全球數(shù)據(jù)中心采用 GB200 Grace Blackwell 處理器，我們得以在這一進程中再進一步，助力世界各地的組織實現(xiàn) AI 落地。”

OpenAI 首席執(zhí)行官 Sam Altman 表示： “Blackwell 實現(xiàn)了巨大的性能飛躍，并將加速我們提供尖端模型的能力。我們很高興能繼續(xù)與 NVIDIA 合作，共同提升 AI 計算?！?

Oracle 董事長兼首席技術(shù)官 Larry Ellison 表示： “Oracle 與 NVIDIA 的緊密合作將推動 AI、機器學習和數(shù)據(jù)分析領(lǐng)域?qū)崿F(xiàn)質(zhì)和量的突破。為了讓用戶能夠獲取更多具有可操作性的洞察，正需要像 Blackwell 這樣專為加速計算和生成式 AI 而打造的、更強大的引擎?！?

特斯拉及 xAI 首席執(zhí)行官 Elon Musk 表示：“當下的 AI 領(lǐng)域，NVIDIA硬件無可比擬。”

新架構(gòu)以紀念 David Harold Blackwell 命名，他不僅是一位專門研究博弈論和統(tǒng)計學的數(shù)學家，也是第一位入選美國國家科學院的黑人學者。這一新架構(gòu)是繼兩年前推出的 NVIDIA Hopper? 架構(gòu)以來的全新架構(gòu)。

Blackwell 的多項創(chuàng)新技術(shù)為加速計算和生成式 AI 提供助力

憑借六項變革性的技術(shù)，Blackwell 能夠在擁有高達 10 萬億參數(shù)的模型上實現(xiàn) AI 訓練和實時 LLM 推理，這些技術(shù)包括：

● 全球最強大的芯片：Blackwell 架構(gòu) GPU 具有 2080 億個晶體管，采用專門定制的雙倍光刻極限尺寸 4NP TSMC 工藝制造，通過 10 TB/s 的片間互聯(lián)，將 GPU 裸片連接成一塊統(tǒng)一的 GPU。

● 第二代 Transformer 引擎：得益于全新微張量縮放支持，以及集成于 NVIDIA TensorRT?-LLM 和 NeMo Megatron 框架中的 NVIDIA 先進動態(tài)范圍管理算法，Blackwell 將在新型 4 位浮點 AI 推理能力下實現(xiàn)算力和模型大小翻倍。

● 第五代 NVLink：為了提升萬億級參數(shù)模型和混合專家 AI 模型的性能，最新一代 NVIDIA NVLink® 為每塊 GPU 提供突破性的 1.8TB/s 雙向吞吐量，確保多達 576 塊 GPU 之間的無縫高速通信，滿足了當今最復(fù)雜 LLM 的需求。

● RAS 引擎：采用 Blackwell 架構(gòu)的 GPU 包含一個用于保障可靠性、可用性和可維護性的專用引擎。此外，Blackwell 架構(gòu)還增加了多項芯片級功能，能夠利用 AI 預(yù)防性維護來運行診斷并預(yù)測可靠性相關(guān)的問題。這將最大程度地延長系統(tǒng)正常運行時間，提高大規(guī)模 AI 部署的彈性，使其能夠連續(xù)不間斷運行數(shù)周乃至數(shù)月，同時降低運營成本。

● 安全 AI：先進的機密計算功能可以在不影響性能的情況下保護 AI 模型和客戶數(shù)據(jù)，并且支持全新本地接口加密協(xié)議，這對于醫(yī)療、金融服務(wù)等高度重視隱私問題的行業(yè)至關(guān)重要。

● 解壓縮引擎：專用的解壓縮引擎支持最新格式，通過加速數(shù)據(jù)庫查詢提供極其強大的數(shù)據(jù)分析和數(shù)據(jù)科學性能。未來幾年，每年需要企業(yè)花費數(shù)百億美元的數(shù)據(jù)處理將越來越多地由 GPU 加速。

一個超大規(guī)模的超級芯片

NVIDIA GB200 Grace Blackwell 超級芯片通過 900GB/s 超低功耗的片間互聯(lián)，將兩個 NVIDIA B200 Tensor Core GPU 與 NVIDIA Grace CPU 相連。

為了實現(xiàn)超高的 AI 性能，搭載 GB200 的系統(tǒng)可與同在今天發(fā)布的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum?-X800 以太網(wǎng)平臺連接。這兩個平臺均可提供速度高達 800Gb/s 的高性能網(wǎng)絡(luò)。

GB200 是 NVIDIA GB200 NVL72 的關(guān)鍵組件。NVIDIA GB200 NVL72 是一套多節(jié)點液冷機架級擴展系統(tǒng)，適用于高度計算密集型的工作負載。它將 36 個 Grace Blackwell 超級芯片組合在一起，其中包含通過第五代 NVLink 相互連接的 72 個 Blackwell GPU 和 36 個 Grace CPU。此外，GB200 NVL72 還內(nèi)置 NVIDIA BlueField®-3 數(shù)據(jù)處理器，可在超大規(guī)模 AI 云中實現(xiàn)云網(wǎng)絡(luò)加速、組合式存儲、零信任安全和 GPU 計算彈性。對于LLM 推理工作負載，相較于同樣數(shù)量的 NVIDIA H100 Tensor Core GPU，GB200 NVL72 最高可提供 30 倍的性能提升以及多達 25 倍的成本和能耗降低。

該平臺可作為一個單 GPU，具有 1.4 exaflops 的 AI 性能和 30TB 的快速內(nèi)存，是組成最新一代 DGX SuperPOD 的基礎(chǔ)模塊。

NVIDIA 提供的 HGX B200 是一個通過 NVLink 連接 8 塊 B200 GPU 的服務(wù)器主板，支持基于 x86 的生成式 AI 平臺?；?NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 以太網(wǎng)網(wǎng)絡(luò)平臺，HGX B200 支持高達 400Gb/s 的網(wǎng)絡(luò)速度。

Blackwell 的全球合作伙伴網(wǎng)絡(luò)

合作伙伴將從今年晚些時候開始供應(yīng)采用 Blackwell 架構(gòu)的產(chǎn)品。

AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 將成為首批提供 Blackwell 驅(qū)動實例的云服務(wù)提供商。同時 NVIDIA 云合作伙伴計劃的公司 Applied Digital、CoreWeave、Crusoe、IBM Cloud 和 Lambda 也將提供上述服務(wù)。Indosat Ooredoo Hutchinson、Nebius、Nexgen Cloud、Oracle EU Sovereign Cloud、Oracle US, UK, and Australian Government Clouds、Scaleway、新加坡電信、Northern Data Group 的 Taiga Cloud、Yotta Data Services 的 Shakti Cloud 和 YTL Power International 等主權(quán) AI 云也將提供基于 Blackwell 架構(gòu)的云服務(wù)和基礎(chǔ)設(shè)施。

GB200 還將通過 NVIDIA DGX? Cloud 提供，NVIDIA DGX? Cloud 是一個與領(lǐng)先的云服務(wù)提供商共同設(shè)計的 AI 平臺，可為企業(yè)開發(fā)人員提供專門的基礎(chǔ)設(shè)施和軟件訪問權(quán)限，使他們能夠構(gòu)建并部署先進的生成式 AI 模型。AWS、Google Cloud 和 Oracle Cloud Infrastructure 計劃在今年晚些時候托管采用 NVIDIA Grace Blackwell 的新實例。

Cisco、戴爾科技、慧與、聯(lián)想和 Supermicro 預(yù)計將提供基于 Blackwell 產(chǎn)品打造的各種服務(wù)器。Aivres、永擎電子、華碩、Eviden、Foxconn、技嘉、Inventec、和碩、QCT、Wistron、緯穎和 ZT Systems 也將提供基于 Blackwell 的服務(wù)器。

此外，越來越多的軟件制造商網(wǎng)絡(luò)，包括工程仿真領(lǐng)域的全球領(lǐng)導者 Ansys、Cadence 和 Synopsys，將使用基于 Blackwell 的處理器來加速其用于設(shè)計和仿真電氣、機械和制造系統(tǒng)及零件的軟件。他們的客戶可以更低成本、更高能效地使用生成式 AI 和加速計算，來加速產(chǎn)品上市。

NVIDIA 軟件支持

Blackwell 產(chǎn)品組合由生產(chǎn)級 AI 端到端操作系統(tǒng) NVIDIA AI Enterprise 支持。NVIDIA AI Enterprise 中包含同日發(fā)布的 NVIDIA NIM? 推理微服務(wù)以及 AI 框架、程序庫和工具，企業(yè)可以部署在由NVIDIA 提供加速的云、數(shù)據(jù)中心及工作站上。