빅데이트 (112.♡.148.44)
2026년 7월 14일 PM 08:06
요즘 로컬 LLM 시장이 정말 핫하네요.
512GB 메모리 모델이 귀하다고는 하지만, 이 정도일 줄은 몰랐습니다.
당근에 M3 Ultra 512GB 메모리 모델이 2,600만 원에 올라온 것을 보고 이게 과연 팔리기나 할까? 싶었는데 얼마안되 팔리네요.
어떤 분이 이걸 쓸까 싶네요. (보안 빼고) 상용 쓰는 비용이 아까워 이걸 써야 할 정도라면..
왠만한 오픈소스 LLM 모델은 다 돌릴 수 있긴한데 참 대단한 시장 상황입니다.
저는 가지고 있는 M2 Ultra 64GB나 잘 굴려보려고 합니다. 어려운건 상용 쓸래요.
최근 글
댓글 (11)
-
SShue
20:09 · 141.♡.148.192
- 빅
빅데이트
→ Shue 작성자 20:13 · 112.♡.148.44
dgx spark 도 거의 1.6~1.7배 정도 오른거 같습니다. 얘는 그래도 두대 연결해서 사용하는게 가능하지 않나요 ? 한대 더 사서 256GB 만들어보세요. 전 호기심에 맥끼리 클러스터링하는거 조금 알아봤는데 험난할거 같아 포기합니다. 이게 되면 128GB 만들 수 있는데 주객이 전도되는 느낌이라.
-
폭폭풍의눈
→ Shue 20:23 · 218.♡.229.122
스파크는 cuda되는 장점은 있지만, 메몰 속도가 많이 느려서 로컬 llm만 보면 맥스튜디오가 더 나을거 같던데요
- 빅
빅데이트
→ 폭풍의눈 작성자 20:27 · 112.♡.148.44
맞습니다. 그래서 128GB 맥 제품은 구하기가 어렵습니다.
- 폭
폭풍의눈
→ 빅데이트 20:36 · 218.♡.229.122
m5max 맥북프로 128 사려다 m5 ultra 나오면 사야지 한게 패착이네요. 통수 맞을줄이야 ㅎㅎㅎ
-
CContainer
20:12 · 118.♡.80.110
로컬 llm은 아무리 해봤자 상용 프론티어 모델에 비해 성능이나 속도 면에서 절대 따라 갈수가 없다더군요. 저는 아직 시기상조인거 같아 시도를 못하고 있습니다(정확히 말하면 고사양의 pc를 살 돈이 없.....ㅠㅜ).
- 빅
빅데이트
→ Container 작성자 20:14 · 112.♡.148.44
저 비용을 상쇄할만큼 상용 비용이 엄청 나온다는건데(매달 몇백만원 나와야) 도무지 상상이 잘 안됩니다.
-
55호라
20:19 · 125.♡.113.200
올초에 맥미니 지르려다가.. 걍 포기 했습니다.
어설프게 사봤자.. 못 돌릴거 같더라구요.
- 빅
빅데이트
→ 5호라 작성자 20:28 · 112.♡.148.44
맥미니 되게 애매한데 많이들 사시더라구요.
- P
pillllll
20:33 · 14.♡.67.49
잠깐...
SSD가 아니고
DRAM이 512요??
댓글을 작성하려면 이 필요합니다.
클라우드에 input 파일을 넣지 못하기때문에 LLM 으로 개발하면서 필요해 DGX SPARK를 한대 구매했네요. 한대면 어지간한건 다 될줄 알았는데 더 큰 메모리가 필요하단것만 배우고있습니다 ㅠㅠ