NVIDIA 今日發表新一代的 NVIDIA Blackwell 人工智慧（AI）工廠平台 NVIDIA Blackwell Ultra，為 AI 推理時代奠定基礎。
NVIDIA Blackwell Ultra 強化訓練與測試階段的推論擴展能力。這項技術在推論過程投入更多的運算資源，提高準確度，讓世界各地的組織都能加速應用 AI 推理、代理型 AI，以及實體 AI。
Blackwell Ultra 以一年前推出的劃時代 Blackwell 架構為建置基礎，包含 NVIDIA GB300 NVL72 機架規模解決方案與 NVIDIA HGX™ B300 NVL16 系統。GB300 NVL72 的 AI 效能比 NVIDIA GB200 NVL72 提升 1.5 倍，並且相比基於 NVIDIA Hopper™ 的 AI 工廠，將 Blackwell 在 AI 工廠市場的營收機會提升 50 倍。
NVIDIA 創辦人暨執行長黃仁勳表示：「AI發展突飛猛進，推理和代理型AI需要比當前高出數個量級的運算效能。Blackwell Ultra 就是為了這個時刻所設計。這個多功能的單一平台，可輕鬆高效執行預訓練、後期訓練與推理AI推論。」
NVIDIA Blackwell Ultra是AI推理的推手
NVIDIA GB300 NVL72 採用機架規模設計，連接 72 顆 Blackwell Ultra GPU 與 36 顆 Arm Neoverse 架構 NVIDIA Grace™ CPU，是專為測試階段擴展打造的單一大型 GPU。有了 NVIDIA GB300 NVL72，AI模型便可利用平台更強大的運算能力，探索問題的各種解決方案，並將複雜的請求分解為多個步驟，締造更高品質的回應內容。
NVIDIA DGX™ Cloud 預計也會提供 GB300 NVL72。這個位於主要雲端上的端對端全託管 AI 平台，利用軟體、服務和 AI 專業，因應不斷演變的工作負載將效能最佳化。採用 DGX GB300 系統的 NVIDIA DGX SuperPOD™ 使用 GB300 NVL72 機架設計，提供客戶一站式 AI 工廠。
相較於 Hopper 世代，NVIDIA HGX B300 NVL16 在大型語言模型上的推論速度提升 11 倍、運算能力提升 7 倍、記憶體容量增加 4 倍，可為 AI 推理這類最複雜的工作負載，提供劃時代的效能。
此外，Blackwell Ultra 平台非常適合以下應用，包括：
- 代理型 AI，運用精密複雜的推理與迭代規劃，自主解決複雜的多步驟問題。AI 代理系統不只是聽從指令行事，還可推理、規劃並採取行動，達成特定目標。
- 實體 AI，讓公司能夠即時生成合成的逼真影片，用於大規模訓練機器人和自駕車等應用情境。
NVIDIA橫向擴充基礎架構，實現最佳效能
先進的橫向擴充網路是 AI 基礎架構的關鍵元件，可提供最佳效能，並減少延遲和抖動程度。
Blackwell Ultra 系統無縫整合 NVIDIA Spectrum-X™ Ethernet 與 NVIDIA Quantum-X800 InfiniBand 平台，透過 NVIDIA ConnectX®-8 SuperNIC，為系統的每個 GPU 提供 800 Gb/s 的資料傳輸量。這項整合提供了頂尖的遠端直接記憶體存取能力，讓AI工廠和雲端資料中心能夠順利處理AI推理模型，避免瓶頸問題。
此外，Blackwell Ultra 還採用 NVIDIA BlueField®-3 DPU，可實現多租戶網路、GPU 運算彈性、加速資料存取，以及即時網路安全威脅偵測。
全球科技領導廠商採用Blackwell Ultra
合作夥伴預計自 2025 年下半年起推出搭載 Blackwell Ultra 的產品。
除了 Aivres、華擎科技、華碩、鴻海科技集團、技嘉科技、英業達、和碩聯合科技、雲達科技、緯創與緯穎，思科、戴爾科技集團、慧與科技、聯想集團與美超微預計也將推出各樣搭載 Blackwell Ultra 產品的伺服器。
雲端服務供應商 Amazon Web Services、Google Cloud、Microsoft Azure 與 Oracle Cloud Infrastructure，以及 GPU 雲端供應商 CoreWeave、Crusoe、Lambda、Nebius、Nscale、Yotta 與 YTL，將率先提供 Blackwell Ultra 驅動的執行個體。
NVIDIA軟體創新技術減少人工智慧瓶頸
全端的 NVIDIA 人工智慧平台支援整個 NVIDIA Blackwell 產品組合。同樣於今日發表的 NVIDIA Dynamo 開源推論架構，提供最高效的測試階段擴展運算解決方案，可擴大推理AI服務、大幅提升傳輸量，並且縮短回應時間及降低模型服務成本。
NVIDIA Dynamo 是全新的 AI 推論服務軟體，可為部署推理 AI 模型的 AI 工廠產生最大化的 詞元收益。這個軟體協調並加速成千上萬個 GPU 的推論通訊，並利用分散式服務，將大型語言模型的處理與生成階段，分配到不同的 GPU 執行。這樣一來，便可針對特定需求單獨將每個階段最佳化，並確保 GPU 資源使用率最大化。
Blackwell 系統非常適合執行全新的 NVIDIA Llama Nemotron Reason 模型與 NVIDIA AI-Q Blueprint，並在 NVIDIA AI Enterprise 軟體平台享有對正式作業環境級 AI 的支援。NVIDIA AI Enterprise 包含 NVIDIA NIM™ 微服務，以及企業可部署於 NVIDIA 加速雲端、資料中心和工作站的AI架構、函式庫與工具。
Blackwell 平台的建置基礎包括 NVIDIA 強大的開發工具生態系、NVIDIA CUDA-X™ 函式庫、逾 600 萬名開發人員，以及 4,000 多個應用程式，可透過成千上萬顆 GPU 調整效能。
觀看 NVIDIA GTC 主題演講深入瞭解，並報名參加 NVIDIA 與業界領導者在會場舉辦的各項分場活動，活動期間為即日起至 3 月 21 日止。
