什么是 NVIDIA DGX Spark？

NVIDIA DGX Spark 是一款可放在桌面上的袖珍型“AI 超级计算机”。 该设备基于 NVIDIA 的 GB10 Grace Blackwell 超级芯片构建，旨在让开发人员和研究人员无需预订数据中心集群的计算时间，即可在本地对大型 AI 模型进行原型设计、微调和推理。它采用紧凑的外形设计，提供高达 1 拍FLOP（FP4）的 AI 性能和 128GB 的统一内存，并预装了 NVIDIA 的 AI 软件堆栈。

• GB10 Grace Blackwell Superchip（Grace CPU 与 Blackwell GPU 集成于单一封装中）
• 128GB LPDDR5x 统一系统内存（CPU 和 GPU 通过 NVLinkC2C 进行一致性共享）
• NVIDIA ConnectX 网络（板载 10GbE；ConnectX7 SmartNIC）
• 最高支持 4TB NVMe 存储
• 体积小巧：约150 × 150 × 50.5 毫米；重约1.2千克
• 开箱即用的 DGX 操作系统 + NVIDIA AI 软件栈

DGX Spark 专为人工智能开发的“在我的办公桌上让它运行起来”阶段而设计：

• 原型开发：在本地构建和验证模型及人工智能增强型应用，然后在需要时将其移交至更完善的基础设施。
• 微调：直接在本地对参数数量高达约700亿的模型进行微调。
• 推断：运行参数数量高达约2000亿的尖端模型，用于测试和验证。通过ConnectX将两台DGX Spark设备连接起来，将参数规模扩展至约4050亿。
• 数据科学：借助 NVIDIA RAPIDS 加速端到端数据处理管道（甚至可通过 RAPIDS 加速器提升 Apache Spark 的性能）。
• 边缘计算与机器人开发：在桌面系统上尝试使用 Isaac、Metropolis 和 Holoscan 等框架。

• 统一内存与独立显存的对比：DGX Spark 的 128GB 内存是 CPU 和 GPU 共享的连贯系统内存，非常适合处理大型上下文窗口并实现高效的数据传输。而传统 PC 则将 RAM 和 GPU 显存分开。
• 以AI为先的芯片：GB10的第五代张量核和FP4支持专为现代大型语言模型（LLM）和AI代理而设计。这并非一款以帧率为卖点的机器。
• 预装软件套件：DGX OS 和 NVIDIA 的 AI 平台均已预装，因此您离“打开笔记本，运行模型”的目标要比“安装驱动程序、寻找容器”近得多。

不，DGX Spark 是一个硬件系统，而 Apache Spark 是一个分布式数据处理框架。值得一提的是，如果你确实使用了 Apache Spark，NVIDIA 的 RAPIDS Accelerator for Apache Spark 可以将管道中的部分任务卸载到 GPU 上，而 DGX Spark 支持这一技术栈。

NVIDIA 针对 DGX Spark 的官方产品页面主要介绍产品规格和预订信息，而产品供应则通过 NVIDIA 及其合作伙伴 OEM 厂商进行。NVIDIA 宣布，宏碁、华硕、戴尔、技嘉、惠普、联想和微星将提供 DGX Spark 系统，预计将于 7 月起开始供货（各地区上市时间有所不同）。

关于定价，有报道称起售价约为3,999美元，但最终价格取决于OEM厂商和存储选项。部分零售页面仍显示“即将上市”，因此请查看合作伙伴的商品列表以了解当前价格和库存情况。

如果说 DGX Spark 是您的桌面开发机，那么 DGX Station 就是桌面级 AI 性能怪兽。DGX Station（GB300 Ultra）专为最苛刻的训练和微调任务而设计，可提供高达约 20 佩塔FLOPs（FP4）的性能以及数百千兆字节的统一内存。其体积更大，专为团队或共享实验室环境而设计。

是的，如果您是人工智能开发者、数据科学家或研究人员，需要不断对大型语言模型（LLMs）、智能代理或多模态模型进行迭代，并且需要快速的本地处理、私有数据处理，以及一套能与数据中心或云端无缝对接的软件栈，那么这正是您需要的。

不过，如果您的需求仅限于GPU渲染或游戏，或者您已经能够稳定地使用集群或高性能计算（HPC）资源，情况可能就不同了。在这种情况下，传统工作站或云计算积分可能更具成本效益。

• AI性能：最高可达1 PFLOP（FP4）
• 内存：128GB LPDDR5x 统一内存（273 GB/s）
• 存储：1TB 或 4TB NVMe（自加密）
• 网络：10GbE、ConnectX-7 SmartNIC、Wi-Fi 7、蓝牙 5.3
• I/O：4个USB-C接口、1个HDMI 2.1a接口、NVENC/NVDEC（1/1）
• 尺寸和重量：150 × 150 × 50.5 毫米；约 1.2 千克
• 操作系统：NVIDIA DGX OS