Wat is NVIDIA DGX Spark?

NVIDIA DGX Spark is een kleine 'AI-supercomputer' voor op uw bureau. Het is gebouwd rond NVIDIA's GB10 Grace Blackwell Superchip en is ontworpen om ontwikkelaars en onderzoekers in staat te stellen lokaal prototypes te maken, te verfijnen en inferenties uit te voeren op grote AI-modellen zonder tijd te hoeven reserveren op een datacentercluster. Het biedt tot 1 petaFLOP (FP4) aan AI-prestaties en 128 GB aan uniform geheugen in een compacte vorm, met NVIDIA's AI-softwarestack vooraf geïnstalleerd.

• GB10 Grace Blackwell Superchip (Grace CPU + Blackwell GPU in één pakket)
• 128 GB LPDDR5x geïntegreerd systeemgeheugen (CPU en GPU delen dit coherent via NVLinkC2C)
• NVIDIA ConnectX-netwerk (10 GbE ingebouwd; ConnectX7 SmartNIC)
• Tot 4 TB NVMe-opslag
• Kleine voetafdruk: ongeveer 150 x 150 x 50,5 mm; ongeveer 1,2 kg
• DGX OS + NVIDIA AI-softwarestack direct klaar voor gebruik

DGX Spark is ontwikkeld voor de fase van AI waarin het moet 'werken op mijn bureau':

• Prototyping: Bouw en valideer modellen en AI-augmented apps lokaal, en draag ze vervolgens over aan een grotere infrastructuur indien nodig.
• Fijnafstemming: Pas modellen met maximaal ~70 miljard parameters rechtstreeks op de box aan.
• Conclusie: Voer geavanceerde modellen uit met maximaal ~200 miljard parameters voor testen en validatie. Koppel twee DGX Spark-units via ConnectX om ~405 miljard parameters te bereiken.
• Datawetenschap: versnel end-to-end-pijplijnen met NVIDIA RAPIDS (en geef Apache Spark zelfs een boost met de RAPIDS Accelerator).
• Edge- en roboticaontwikkeling: experimenteer met frameworks zoals Isaac, Metropolis en Holoscan op een deskside-systeem.

• Unified Memory vs. Separate VRAM: De 128 GB van DGX Spark is coherent systeemgeheugen dat wordt gedeeld tussen de CPU en GPU, waardoor het ideaal is voor grote contextvensters en efficiënte gegevensverplaatsing. Conventionele pc's splitsen RAM en GPU VRAM.
• AI-First Silicon: De vijfde generatie Tensor Cores en FP4-ondersteuning van de GB10 zijn speciaal ontworpen voor moderne LLM's en AI-agents. Dit is geen machine die draait op frames per seconde.
• Stack inbegrepen: DGX OS en het AI-platform van NVIDIA zijn vooraf geïnstalleerd, zodat u veel dichter bij 'notebook openen, model uitvoeren' bent dan bij 'stuurprogramma's installeren, containers zoeken'.

Nee, DGX Spark is een hardwaresysteem, terwijl Apache Spark een gedistribueerd framework voor gegevensverwerking is. Het mooie is dat als u Apache Spark gebruikt, NVIDIA's RAPIDS Accelerator voor Apache Spark delen van uw pijplijnen naar de GPU kan overbrengen, en DGX Spark ondersteunt die stack.

De officiële productpagina van NVIDIA voor DGX Spark richt zich op specificaties en aanmeldingen, terwijl de beschikbaarheid verloopt via NVIDIA en partner-OEM's. NVIDIA heeft aangekondigd dat Acer, ASUS, Dell, GIGABYTE, HP, Lenovo en MSI DGX Spark-systemen zullen aanbieden, die vanaf juli beschikbaar zullen zijn (de regionale uitrol varieert).

Wat betreft de prijsstelling, suggereren rapporten configuraties vanaf ongeveer $ 3.999, hoewel de uiteindelijke prijzen afhankelijk zijn van de OEM en opslagopties. Sommige verkooppagina's vermelden nog steeds 'binnenkort beschikbaar', dus kijk bij de partnerlijsten voor de huidige prijzen en voorraad.

Als DGX Spark uw ontwikkelingsbox voor op uw bureau is, dan is DGX Station de krachtige desktop-AI. DGX Station (GB300 Ultra) is bedoeld voor de meest veeleisende training- en afstemmingsopdrachten en levert tot ~20 petaFLOPs (FP4) en honderden gigabytes aan uniform geheugen. Het is veel groter en ontworpen voor teams of gedeelde labomgevingen.

Ja, als u een AI-ontwikkelaar, datawetenschapper of onderzoeker bent die voortdurend werkt aan LLM's, agents of multimodale modellen en behoefte heeft aan snelle lokale doorlooptijden, vertrouwelijke gegevensverwerking en een softwarestack die naadloos aansluit op het datacenter of de cloud.

Misschien niet, als uw behoeften beperkt zijn tot GPU-rendering of gaming, of als u al vaste toegang hebt tot cluster- of HPC-tijd. In dat geval kunnen een traditioneel werkstation of cloudcredits voordeliger zijn.

• AI-prestaties: tot 1 PFLOP (FP4)
• Geheugen: 128 GB LPDDR5x unified (273 GB/s)
• Opslag: 1 TB of 4 TB NVMe (zelfversleutelend)
• Netwerken: 10GbE, ConnectX-7 SmartNIC, Wi-Fi 7, Bluetooth 5.3
• I/O: 4x USB-C, 1x HDMI 2.1a, NVENC/NVDEC (1/1)
• Afmetingen en gewicht: 150 x 150 x 50,5 mm; ~1,2 kg
• Besturingssysteem: NVIDIA DGX OS