Hvad er NVIDIA DGX Spark?

NVIDIA DGX Spark er en lille "AI-supercomputer" til dit skrivebord. Den er bygget op omkring NVIDIAs GB10 Grace Blackwell Superchip og er designet til at give udviklere og forskere mulighed for at prototypeteste, finjustere og køre inferens på store AI-modeller lokalt uden at skulle reservere tid på et datacenter-cluster. Den tilbyder op til 1 petaFLOP (FP4) AI-ydeevne og 128 GB samlet hukommelse i en kompakt formfaktor med NVIDIAs AI-softwarestack forudinstalleret.

• GB10 Grace Blackwell Superchip (Grace CPU + Blackwell GPU i én pakke)
• 128 GB LPDDR5x samlet systemhukommelse (CPU og GPU deler den sammenhængende via NVLinkC2C)
• NVIDIA ConnectX-netværk (10 GbE indbygget; ConnectX7 SmartNIC)
• Op til 4 TB NVMe-lagerplads
• Lille fodaftryk: ca. 150 x 150 x 50,5 mm; ca. 1,2 kg
• DGX OS + NVIDIA AI-softwarestak klar til brug

DGX Spark er udviklet til AI's "få det til at fungere på mit skrivebord"-fase:

• Prototyping: Byg og valider modeller og AI-forbedrede apps lokalt, og overfør dem derefter til større infrastruktur, hvis det er nødvendigt.
• Finjustering: Juster modeller med op til ~70B parametre direkte på boksen.
• Konklusion: Kør avancerede modeller med op til ~200 mia. parametre til test og validering. Forbind to DGX Spark-enheder via ConnectX for at nå op på ~405 mia. parametre.
• Data Science: Fremskynd end-to-end-pipelines med NVIDIA RAPIDS (og boost endda Apache Spark med RAPIDS Accelerator).
• Edge- og robotudvikling: Eksperimenter med rammer som Isaac, Metropolis og Holoscan på et deskside-system.

• Unified Memory vs. Separate VRAM: DGX Spark's 128 GB er sammenhængende systemhukommelse, der deles mellem CPU og GPU, hvilket gør den ideel til store kontekstvinduer og effektiv databehandling. Konventionelle pc'er opdeler RAM og GPU VRAM.
• AI-First Silicon: GB10's femte generation af Tensor Cores og FP4-understøttelse er designet specielt til moderne LLM'er og AI-agenter. Dette er ikke en maskine, der tæller frames per second.
• Stack inkluderet: DGX OS og NVIDIAs AI-platform er forudinstalleret, så du er meget tættere på at kunne "åbne notebook, køre model" end at skulle "installere drivere, lede efter containere".

Nej, DGX Spark er et hardwaresystem, mens Apache Spark er et distribueret databehandlingsframework. Det gode ved det er, at hvis du bruger Apache Spark, kan NVIDIAs RAPIDS Accelerator for Apache Spark overføre dele af dine pipelines til GPU'en, og DGX Spark understøtter denne stack.

NVIDIAs officielle produktside for DGX Spark fokuserer på specifikationer og tilmeldinger, mens tilgængeligheden varierer mellem NVIDIA og partner-OEM'er. NVIDIA har annonceret, at Acer, ASUS, Dell, GIGABYTE, HP, Lenovo og MSI vil tilbyde DGX Spark-systemer, som vil være tilgængelige fra juli (regional udrulning varierer).

Hvad angår priserne, tyder rapporter på, at konfigurationer starter ved omkring 3.999 dollars, men de endelige priser afhænger af OEM- og lagerindstillingerne. Nogle detailhandlende viser stadig "kommer snart", så tjek partneroversigterne for aktuelle priser og lagerbeholdning.

Hvis DGX Spark er din udviklingsboks ved skrivebordet, er DGX Station det kraftfulde desktop-AI-system. DGX Station (GB300 Ultra) er beregnet til de mest krævende trænings- og finjusteringsopgaver og leverer op til ~20 petaFLOPs (FP4) og hundredvis af gigabyte samlet hukommelse. Den er meget større og designet til teams eller delte laboratoriemiljøer.

Ja, hvis du er AI-udvikler, dataforsker eller forsker, der konstant arbejder med LLM'er, agenter eller multimodale modeller og har brug for hurtig lokal behandling, privat datahåndtering og en softwarestack, der kan mappes rent til datacentret eller skyen.

Måske ikke, hvis dine behov er begrænset til GPU-rendering eller gaming, eller hvis du allerede har stabil adgang til cluster- eller HPC-tid. I så fald kan en traditionel arbejdsstation eller cloud-kreditter være mere omkostningseffektive.

• AI-ydeevne: op til 1 PFLOP (FP4)
• Hukommelse: 128 GB LPDDR5x samlet (273 GB/s)
• Opbevaring: 1 TB eller 4 TB NVMe (selvkrypterende)
• Netværk: 10 GbE, ConnectX-7 SmartNIC, Wi-Fi 7, Bluetooth 5.3
• I/O: 4x USB-C, 1x HDMI 2.1a, NVENC/NVDEC (1/1)
• Størrelse og vægt: 150 x 150 x 50,5 mm; ~1,2 kg
• OS: NVIDIA DGX OS