100B 넘는 대형모델을 Cuda 기반으로 돌리고 싶다면 최적의 아이템이 아닐까 싶습니다. 그런데 지금 가격이 계속 오르고 있어서 관심이 있으시다면 바로 지르시는게..
제가 지를때도 올라서 500(서드파티 모델은 Asus GX10) 이었는데 지금은 동일 모델 가격이 675만원이네요

전 amd ai max 395 + 128g짜리 사용중인데 이거랑 dgx spark랑 많이 고민하다가 이걸로 넘어 왔어요 그런데 실사용으로는 30b모델이 최선이던데.. dgx spark는 비슷한 성능인걸로 알고 있슴미다 100b넘는게 실사용 할 만 한가요??? 전 대화 말고 일 시키는거로 하니 성능이 많이 딸리는거 같아요

디코드야 둘 다 DDR5 메모리를 사용하니 엇비슷하지만, 작업용으로 사용할 때 프롬프트 길이가 길어지면 프리필 속도가 중요해지는데, 그때 GPU성능이 좋은 Spark 가 월등하게 유리해질 겁니다.