tl;dr: DGX Spark는 확산 작업의 경우 RTX5090보다 약 3.1배 느립니다.

우연히 DGX Spark(Asus Ascent GX10 모델)를 구매하게 되었습니다. 이 제품은 DGX Spark의 저렴한 모델로, 약 3,000달러 정도입니다. PCIe 5.0 4TB NVMe 디스크를 PCIe 4.0 1TB 디스크로 교체하여 가격 인하를 이뤘습니다.

( https://www.asus.com/networking-iot-servers/desktop-ai-supercomputer/ultra-small-ai-supercomputers/asus-ascent-gx10/ 찾아보니 이렇게 생긴 제품입니다

구글링 해보면.. 이런 차이점이 있다고 알려주는군요

주요 차이점은 다음과 같습니다.NVIDIA DGX Spark는 최대 4TB의 NVMe 스토리지와 보다 학문적/전문적 디자인을 제공하는 플래그십 모델로 자리매김한 반면, ASUS Ascent GX10은 낮은 시작 스토리지 용량(1TB)과 듀얼 200GbE NIC와 같은 휴대성과 엔터프라이즈급 연결에 중점을 둔 보다 저렴한 대안입니다.두 제품 모두 NVIDIA GB10 Grace Blackwell Superchip을 기반으로 구축된 소형 AI 슈퍼컴퓨터로 128GB의 통합 메모리를 제공하지만, 기능, 스토리지 옵션, 가격대를 통해 다양한 시장 부문을 충족합니다.

)

이제 확산 모델에 초점을 맞춘 벤치마크를 살펴보겠습니다. DGX Spark는 컴퓨팅에 더욱 중점을 두고 있기 때문에, AMD Strix Halo나 Apple Sillicon과 같은 다른 경쟁 제품에 비해 DGX Spark가 우위를 점할 수 있는 몇 안 되는 사례 중 하나입니다.

관련 시스템:

• DGX Spark, 128GB 코히어런트 통합 메모리, Phison NVMe 1TB, DGX OS(6.11.0-1016-nvidia)

• AMD 5800X3D, 96GB DDR4, RTX5090, 삼성 870 QVO 4TB, 윈도우 11 24H2

ComfyUI를 사용하여 다음 모델에 대한 벤치마크가 수행되었습니다.

• 4단계 LoRA(fp8_e4m3n)를 탑재한 Qwen Image Edit 2509

• 뛰어난 모델(SDXL)

• SD3.5 대형(fp8_scaled)

• 4단계 LoRA(fp8_scaled)를 갖춘 WAN 2.2 T2V

모든 테스트는 ComfyUI에서 직접 제공하는 워크플로 템플릿을 사용하여 수행했습니다. 단, Illustrious 모델은 제가 "연구" 목적으로 civitai에서 가져온 무작위 모델이었습니다.

ComfyUI 설정

• DGX Spark: v0.3.66 사용. 플래그: --use-flash-attention --highvram

• RTX 5090: v0.3.66, Windows 빌드 사용. 기본 설정.

렌더링 지속 시간(첫 번째 실행)

첫 번째 실행 시에는 모델이 아직 메모리에 캐시되지 않았으므로 디스크에서 로드해야 합니다. 이 경우 Asus Ascent의 디스크 성능이 상당히 느린 디스크를 사용하기 때문에 모델 로드 시간에 영향을 미칠 수 있으므로, 실제 DGX Spark는 이 부분에서 더 빠를 것으로 예상됩니다.

다음 차트는 배치 크기 1을 완료하는 데 걸리는 시간을 초 단위로 보여줍니다.

처음 렌더링하는 경우, 시스템 간 격차는 디스크 속도에도 영향을 받습니다. 제가 사용하는 특정 시스템의 경우 디스크 속도가 특별히 빠르지는 않지만, 훨씬 더 빨리 모델을 로드할 수 있는 다른 사용자들도 분명 있을 것입니다.

렌더링 지속 시간(후속 실행)

모델이 메모리에 캐시되면 후속 패스가 훨씬 빨라집니다. DGX Spark의 경우, 일관된 메모리 사용을 극대화하고 모델이 메모리에 유지될 가능성을 높이기 위해 `--highvram`을 설정해야 합니다. 일부 모델에서 관찰된 바에 따르면, DGX Spark에서 이 플래그를 생략하면 후속 실행(특히 Qwen 이미지 편집)의 성능이 크게 저하될 수 있습니다.

다음 차트는 배치 크기 1을 완료하는 데 걸리는 시간을 초 단위로 보여줍니다. 정상 상태에 도달할 때까지 여러 번의 패스가 수행되었습니다.

또한 반복 속도를 기반으로 두 시스템 간의 상대적인 GPU 컴퓨팅 성능을 추론할 수 있습니다.

전반적으로 우리는 다음과 같이 추론할 수 있습니다.

• DGX Spark 렌더링 시간은 약 3.06배 더 느리며 더 큰 모델을 사용할 때 격차가 더 커집니다.

• RTX 5090 컴퓨팅 성능은 약 3.18배 더 빠릅니다.

DGX Spark는 Blackwell 데스크톱 GPU만큼 빠르지는 않지만, 확산 작업의 경우 RTX3090과 비슷한 성능을 보이며, 훨씬 더 많은 양의 메모리를 사용할 수 있습니다.

노트

• 이것은 후원을 받아 작성한 리뷰가 아닙니다. 저는 제 돈으로 이 리뷰를 작성했습니다.

• nccl로 시도해 볼 두 번째 DGX Spark가 없습니다. DGX Spark를 구매한 매장에 재고가 남아 있지 않아서요. 재고가 없었다면 Hunyuan Image 3.0을 사용했을 겁니다.

• 저는 Strix Halo 기계를 사용할 수 없으므로 그 기계와 비교해달라고 요청하지 마세요.

• 저는 M4 Max Macbook을 가지고 있지만, 더 큰 모델 중 일부는 10분만 기다려도 받을 수 없어서 포기했습니다.

----

흠........... 가격대비.. 실맹이군요.....