什麼是 NVIDIA DGX Spark？

NVIDIA DGX Spark 是一款可擺放在桌上的迷你「AI 超級電腦」。 該系統以 NVIDIA 的 GB10 Grace Blackwell 超級晶片為核心，旨在讓開發人員和研究人員無需預訂資料中心叢集的運算時間，即可在本地端對大型 AI 模型進行原型開發、微調及推論運算。它採用緊湊的機身設計，提供高達 1 佩塔浮點運算 (FP4) 的 AI 效能與 128GB 統一記憶體，並預先安裝了 NVIDIA 的 AI 軟體堆疊。

• GB10 Grace Blackwell Superchip（Grace CPU 與 Blackwell GPU 整合於單一封裝中）
• 128GB LPDDR5x 統一系統記憶體（CPU 與 GPU 透過 NVLinkC2C 以一致性方式共享）
• NVIDIA ConnectX 網路功能（內建 10GbE；ConnectX7 SmartNIC）
• 最高 4TB NVMe 儲存空間
• 體積小巧：約 150 × 150 × 50.5 毫米；重量約 1.2 公斤
• 開箱即用的 DGX 作業系統 + NVIDIA AI 軟體套件

DGX Spark 是專為人工智慧的「讓它在我桌上運作」階段所打造：

• 原型開發：在本地環境中建置並驗證模型及人工智慧增強型應用程式，必要時再將其移交至更龐大的基礎架構。
• 微調：直接在本地對參數多達約 700 億的模型進行微調。
• 推論：運行具備高達約 2000 億個參數的頂尖模型，以進行測試與驗證。透過 ConnectX 將兩台 DGX Spark 裝置相互連結，將參數規模推升至約 4050 億個參數的層級。
• 資料科學：透過 NVIDIA RAPIDS 加速端到端處理流程（甚至可利用 RAPIDS 加速器提升 Apache Spark 的效能）。
• 邊緣運算與機器人開發：在桌面系統上嘗試使用 Isaac、Metropolis 和 Holoscan 等框架。

• 統一記憶體與獨立 VRAM 的比較：DGX Spark 的 128GB 屬於 CPU 與 GPU 共享的相容系統記憶體，非常適合處理大型上下文視窗及高效能的資料傳輸。傳統個人電腦則將 RAM 與 GPU VRAM 分開。
• 以 AI 為先的晶片：GB10 的第五代 Tensor Cores 及 FP4 支援功能，專為現代大型語言模型（LLMs）與 AI 代理而設計。這並非一台以每秒幀數為導向的機器。
• 內建套件：DGX 作業系統與 NVIDIA 的 AI 平台均已預先安裝，因此您距離「打開筆記型電腦、執行模型」的目標，遠比「安裝驅動程式、尋找容器」更近一步。

不，DGX Spark 是一個硬體系統，而 Apache Spark 則是一個分散式資料處理框架。值得欣慰的是，若您確實使用 Apache Spark，NVIDIA 針對 Apache Spark 所開發的 RAPIDS 加速器可將您資料處理管線的部分工作負載卸載至 GPU，而 DGX Spark 亦支援此套件。

NVIDIA 的 DGX Spark 官方產品頁面主要介紹規格與預購資訊，而實際供貨則透過 NVIDIA 及其合作 OEM 廠商進行。NVIDIA 宣布，宏碁、華碩、戴爾、技嘉、惠普、聯想及微星都將提供 DGX Spark 系統，預計自 7 月起開始供貨（各區域上市時間有所不同）。

至於定價方面，據報導，入門款配置的起價約為 3,999 美元，但最終價格將視原廠製造商（OEM）及儲存選項而定。部分零售頁面仍顯示「即將上市」，因此請查閱合作夥伴的商品列表，以確認最新價格及庫存狀況。

如果 DGX Spark 是您的桌邊開發機，那麼 DGX Station 便是桌面級 AI 性能怪獸。DGX Station (GB300 Ultra) 專為最嚴苛的訓練與微調任務而設計，可提供高達約 20 佩塔浮點運算 (FP4) 以及數百吉字節的統一記憶體。其體積更大，專為團隊或共享實驗室環境所設計。

是的，如果您是 AI 開發人員、資料科學家或研究人員，且持續針對大型語言模型（LLMs）、智能代理或多模態模型進行迭代開發，並需要快速的本地處理週期、私有資料處理能力，以及能與資料中心或雲端環境無縫整合的軟體堆疊，那麼這正是您所需的解決方案。

不過，若您的需求僅限於 GPU 渲染或遊戲，或是您已經能夠穩定取得叢集或高效能運算（HPC）資源，情況可能就不同了。在這種情況下，傳統工作站或雲端運算額度或許更具成本效益。

• AI 效能：最高可達 1 PFLOP（FP4）
• 記憶體：128GB LPDDR5x 統一記憶體（273 GB/s）
• 儲存空間：1TB 或 4TB NVMe（自加密）
• 網路連接：10GbE、ConnectX-7 SmartNIC、Wi-Fi 7、藍牙 5.3
• I/O：4 個 USB-C 埠、1 個 HDMI 2.1a 埠、NVENC/NVDEC (1/1)
• 尺寸與重量：150 × 150 × 50.5 毫米；約 1.2 公斤
• 作業系統：NVIDIA DGX OS