NVIDIA DGX Spark란 무엇인가요?

NVIDIA DGX Spark는 책상 위에 올려놓을 수 있는 소형 'AI 슈퍼컴퓨터'입니다. NVIDIA의 GB10 Grace Blackwell 슈퍼칩을 기반으로 제작된 이 제품은 개발자와 연구자가 데이터 센터 클러스터 사용 시간을 예약하지 않고도 로컬에서 대규모 AI 모델의 프로토타이핑, 미세 조정 및 추론을 실행할 수 있도록 설계되었습니다. 컴팩트한 폼 팩터에 최대 1 페타플롭(FP4)의 AI 성능과 128GB의 통합 메모리를 제공하며, NVIDIA의 AI 소프트웨어 스택이 사전 설치되어 있습니다.

• GB10 그레이스 블랙웰 슈퍼칩 (그레이스 CPU + 블랙웰 GPU를 하나의 패키지에 통합)
• 128GB LPDDR5x 통합 시스템 메모리 (CPU와 GPU가 NVLinkC2C를 통해 일관성 있게 공유)
• NVIDIA ConnectX 네트워킹 (10GbE 내장; ConnectX7 스마트NIC)
• 최대 4TB NVMe 스토리지
• 작은 설치 공간: 약 150 x 150 x 50.5 mm; 약 1.2 kg
• DGX OS + NVIDIA AI 소프트웨어 스택 즉시 사용 가능

DGX Spark는 AI의 "내 책상 위에서 작동하게 하라" 단계에 맞춰 설계되었습니다:

• 프로토타이핑: 모델과 AI 강화 앱을 로컬에서 구축 및 검증한 후, 필요 시 더 큰 인프라로 이관합니다.
• 미세 조정: 최대 ~700억 개의 매개변수를 가진 모델을 직접 기기에서 조정하세요.
• 추론: 테스트 및 검증 목적으로 최대 ~2000억 개 매개변수를 가진 최신 모델을 실행합니다. ConnectX를 통해 두 개의 DGX Spark 유닛을 연결하여 ~4050억 개 매개변수 영역으로 확장합니다.
• 데이터 사이언스: NVIDIA RAPIDS로 엔드투엔드 파이프라인 가속화(RAPIDS 가속기로 Apache Spark 성능까지 향상).
• 에지 및 로봇 공학 개발: 데스크사이드 시스템에서 Isaac, Metropolis, Holoscan과 같은 프레임워크를 실험해 보세요.

• 통합 메모리 대 분리형 VRAM: DGX Spark의 128GB는 CPU와 GPU 간 공유되는 일관성 있는 시스템 메모리로, 대규모 컨텍스트 윈도우와 효율적인 데이터 이동에 이상적입니다. 기존 PC는 RAM과 GPU VRAM을 분리합니다.
• AI 중심 실리콘: GB10의 5세대 텐서 코어와 FP4 지원은 현대적인 대규모 언어 모델(LLM)과 AI 에이전트를 위해 특별히 설계되었습니다. 이는 초당 프레임 수(FPS) 중심의 기계가 아닙니다.
• 포함된 스택: DGX OS와 NVIDIA AI 플랫폼이 사전 설치되어 있으므로, "드라이버 설치하고 컨테이너 찾기"보다 "노트북 열고 모델 실행하기"에 훨씬 가깝습니다.

아니요, DGX Spark는 하드웨어 시스템인 반면 Apache Spark는 분산 데이터 처리 프레임워크입니다. 좋은 점은 Apache Spark를 사용할 경우 NVIDIA의 RAPIDS Accelerator for Apache Spark가 파이프라인의 일부를 GPU로 오프로드할 수 있으며, DGX Spark가 해당 스택을 지원한다는 것입니다.

NVIDIA의 DGX Spark 공식 제품 페이지는 사양과 신청 절차에 중점을 두고 있으며, 구매는 NVIDIA 및 파트너 OEM 업체를 통해 가능합니다. NVIDIA는 Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI가 DGX Spark 시스템을 제공할 예정이며, 7월부터 순차적으로 출시될 것이라고 발표했습니다(지역별 출시 일정은 상이함).

가격 측면에서는 약 3,999달러부터 시작하는 구성으로 알려졌으나, 최종 가격은 OEM 및 저장 장치 옵션에 따라 달라집니다. 일부 소매 페이지에는 아직 '출시 예정'으로 표시되어 있으므로, 현재 가격 및 재고 정보는 파트너 목록을 확인하시기 바랍니다.

DGX Spark가 책상 위 개발용 시스템이라면, DGX Station은 데스크탑 AI의 핵심 시스템입니다. DGX Station(GB300 Ultra)은 가장 까다로운 훈련 및 미세 조정 작업을 목표로 하며, 최대 ~20 페타플롭스(FP4)의 성능과 수백 기가바이트의 통합 메모리를 제공합니다. 이 시스템은 훨씬 더 크며 팀 또는 공유 연구실 환경을 위해 설계되었습니다.

예, AI 개발자, 데이터 과학자 또는 연구원으로서 대규모 언어 모델(LLM), 에이전트 또는 다중 모달 모델을 지속적으로 반복 개발하며 빠른 로컬 처리, 비공개 데이터 처리, 그리고 데이터 센터나 클라우드로 깔끔하게 매핑되는 소프트웨어 스택이 필요하다면.

GPU 렌더링이나 게임에만 관심이 있거나, 클러스터나 HPC 사용 시간이 이미 안정적으로 확보된 경우에는 그렇지 않을 수 있습니다. 그런 경우 전통적인 워크스테이션이나 클라우드 크레딧이 더 비용 효율적일 수 있습니다.

• AI 성능: 최대 1 PFLOP (FP4)
• 메모리: 128GB LPDDR5x 통합 메모리 (273 GB/s)
• 저장 용량: 1TB 또는 4TB NVMe (자체 암호화)
• 네트워킹: 10GbE, ConnectX-7 스마트NIC, Wi-Fi 7, 블루투스 5.3
• I/O: USB-C 포트 4개, HDMI 2.1a 포트 1개, NVENC/NVDEC (1/1)
• 크기 및 무게: 150 x 150 x 50.5 mm; 약 1.2 kg
• OS: NVIDIA DGX OS