戴爾科技集團、慧與科技和聯想即將推出搭載NVIDIA L40S GPUs和NVIDIA BlueField的伺服器以支援VMware Private AI Foundation with NVIDIA
NVIDIA 今天宣布全球領先系統製造商將提供人工智慧就緒伺服器，支援今日另行發表的 VMware Private AI Foundation with NVIDIA，幫助企業使用其專有業務資料自定和部署生成式 AI 應用程式。
NVIDIA 人工智慧就緒伺服器將具備 NVIDIA L40S GPU、NVIDIA BlueField-3 DPU 和 NVIDIA AI Enterprise軟體，使企業能夠微調生成式人工智慧基礎模型，並部署像是智慧聊天機器人、搜尋和摘要工具等生成式人工智慧的應用。這些伺服器還提供了 NVIDIA 加速的基礎設施和軟體，為 VMware Private AI Foundation with NVIDIA 提供動力。
由全球領先系統製造商戴爾科技集團、慧與科技和聯想推出搭載 NVIDIA L40S GPUs 的伺服器將於年底前上市，以加速企業的人工智慧應用。
NVIDIA 創辦人暨執行長黃仁勳表示：「一個新的運算時代已經開始。各產業的企業都在競相採用生成式人工智慧。透過我們全球領先軟體和系統合作夥伴生態系統，我們將生成式人工智慧帶給全球的企業。」
NVIDIA 人工智慧就緒伺服器對部署 VMware Private AI Foundation with NVIDIA 的企業來說，是一個理想的平台。
VMware 執行長 Raghu Raghuram 表示：「生成式人工智慧正在加速數位轉型，企業需要一個完全整合的解決方案更安全的建構應用程式，從而推動業務發展。透過結合 VMware、NVIDIA 和我們伺服器製造夥伴的專業，企業能夠開發和部署具有資料隱私、安全和控制能力的人工智慧。」
推動企業生成式AI轉型
NVIDIA 人工智慧就緒伺服器旨在為競相採用生成式 AI 進行廣泛應用的各產業提供全套的加速基礎設施和軟體，包括藥物發現、零售產品描述、智慧虛擬助理、製造模擬和欺詐檢測。
這些伺服器採用 NVIDIA 人工智慧平台操作系統 NVIDIA AI Enterprise，該軟體為準備就緒即可部署上線的企業提供超過 100 種框架、預訓練模型、工具套件和軟體的支援和安全性。這些框架、預訓練模型、工具包和軟體包括用於大型語言模型的 NVIDIA NeMo、用於模擬的 NVIDIA Modulus、用於資料科學的 NVIDIA RAPIDS 和用於生產人工智慧的 NVIDIA Triton 推論伺服器。
L40S GPU是專為處理具有數十億個參數的複雜人工智慧工作負載而設計，搭載第四代 Tensor Core 和 FP8 Transformer Engine，與NVIDIA A100 Tensor Core GPU 相比，可提供超過 1.45 petaflops 的處理能力並可提升最高達 1.7 倍的訓練效能。
對於像是智慧聊天機器人、助理、搜尋和摘要等生成式人工智慧應用，NVIDIA L40S 的生成式人工智慧推論效能比 NVIDIA A100 GPU 高出 1.2 倍。
整合 NVIDIA BlueField DPU 可透過加速、卸載和區隔虛擬化、網路、儲存、安全和其他雲原生人工智慧服務所帶來的龐大運算工作負載，進一步提高速度。
NVIDIA ConnectX-7 SmartNIC 提供先進的硬體卸載和超低延遲，為資料密集型的生成式人工智慧工作負載提供一流的可擴充效能。
廣大的生態系統加速企業生成式人工智慧的部署
全球領先的電腦製造商正在打造 NVIDIA 人工智慧就緒伺服器，其中包括戴爾 PowerEdge R760xa、慧與科技 VMware Private AI Foundation with NVIDIA 用 ProLiant Gen11 伺服器以及聯想 ThinkSystem SR675 V3。
戴爾科技集團董事長暨執行長 Michael Dell 表示：「生成式人工智慧是創新的催化劑，幫助解決世界上最緊迫的挑戰。戴爾使用 NVIDIA 人工智慧就緒伺服器平台的生成式人工智慧解決方案，將帶來前所未有的生產力並徹底改變產業營運的方式，在人類發展進程上發揮關鍵角色。」
慧與科技總裁暨執行長 Antonio Neri 表示：「透過生成新的見解、設計和解決方案，生成式人工智慧有能力從資料中創造新的價值，是數位轉型的下一個發展機會。我們很高興與 NVIDIA 緊密合作，於企業調整和推論工作解決方案中使用其 GPU 和軟體，加速部署生成式人工智慧。」
聯想集團董事長暨執行長楊元慶表示：「企業渴望採用生成式人工智慧來推動智慧創新，聯想與 NVIDIA 和 VMware 合作將進一步擴大我們在生成式人工智慧領域的領導地位，並鞏固我們在客戶人工智慧之旅中提供協助的獨特定位。。」
上市時間
搭載 L40S GPU 和 BlueField DPU 的NVIDIA AI Enterprise 就緒伺服器將會在年底上市，雲端服務供應商預計於數月之後將提供執行個體。
