AI與儲存技術深度整合，助力合作夥伴全面優化AI工作負載效能
企業級儲存領導品牌 Solidigm（思得）宣布正式啟用全新的 AI 中央實驗室 (AI Central Lab)，該實驗室擁有專為AI工作負載打造的儲存測試叢集， 其效能與儲存密度皆為業界之最。
Solidigm AI 中央實驗室設於美國加州 Rancho Cordova，位於鄰近 Solidigm 總部的 FarmGPU 設施內。該實驗室可讓 Solidigm 在最新一代 NVIDIA B200 與 H200 圖形處理器 (GPU) 上運行並分析真實世界的 AI 工作負載，進一步深入研究頂尖儲存技術如何優化叢集運算效能，並開放世界級硬體資源供 Solidigm AI 生態系的關鍵合作夥伴進行實驗與驗證。
Solidigm AI 生態系與策略夥伴關係資深總監 Avi Shetty 表示：「我們的 AI 中央實驗室結合了當前最強大的 GPU 與領先的儲存基礎架構，為客戶與開發者社群開啟全新層次的測試能力與共同創新機會。這些原本僅限少數企業使用的資源，如今由 Solidigm 提供應用，並展現了將儲存貼近 GPU 設計的重要性。」
該實驗室依照常見的參考架構所打造，讓客戶能在與全球大型資料中心標準一致的環境中，搭配 Solidigm 固態硬碟 (SSD) 進行解決方案測試。此實驗室也將加速儲存技術的研究，推進超越傳統元件層級的測試，深入理解真實應用中在伺服器、機架與叢集層級的實際使用情境。
Avi Shetty 補充說道：「現在僅僅進行儲存測試已不再足夠。我們在 AI 中央實驗室中，可執行真實的 AI 工作負載，並運用最先進的遙測技術來優化系統效能與能源效率，同時掌握新興工作負載對儲存的實際需求。」
AI 中央實驗室配備了最新的高效能運算設備，主要亮點包括：
● 效能最高的儲存測試叢集： 搭載超高速的 Solidigm™ D7-PS1010 SSD，在 MLPerf Storage (AI 模型訓練) 測試中，每個節點實現高達 116 GB/s 的最高吞吐量，並可彈性擴充至多節點部署。
● 密度最高的儲存測試叢集： 配置 192 顆 Solidigm D5-P5336 SSD，每顆容量高達 122TB，整體僅使用 16U 機架空間就可容納高達 23.6PB 的儲存容量。
● 其他技術支援： 實驗室同時配備 NVIDIA B200 與 H200 GPU、800Gbps 乙太網路技術，並整合多家領先供應商的儲存伺服器，Solidigm 亦持續擴充與探索最新技術應用。
AI 中央實驗室可支援測試的工作負載範圍包括：
● 各類 AI 專屬與新興應用工作負載，如高度依賴 GPU 的模型訓練與推論任務，並支援創新技術如 KV 快取卸載與 VectorDB 微調等創新技術。
● 可針對不同系統配置進行耗電量的基準測試，發展符合現今 AI 最關鍵資源—能源，所優化的系統架構。
● 分析如何以更高效率將資料傳送至高成本的 GPU 加速器，使其持續保持高效運作。
● 實驗室產出的數據可協助將 SSD 規格轉化為系統層級、具產業參考價值的 AI 效能指標，例如每美元處理字元數 (tokens per dollar) 與每瓦處理字元數 (tokens per watt) 。
目前已有多家機構在 Solidigm AI 中央實驗室展開合作研究。舉例來說，Solidigm 與 Metrum AI 專家攜手開發出一項創新技術，透過將 AI 資料從記憶體卸載至 SSD，在使用檢索增強生成 (RAG) 推論時，可將 DRAM 使用量降低最多達 57%。
此外，透過與 FarmGPU 的深度合作，Solidigm 也持續支持其在優化 AI 基礎架構效能與效率方面的研發工作。
欲了解更多關於 Solidigm AI中央實驗室的資訊，請造訪此處。
