요즘 LLM 학습에 있어 의외로 가성비 좋은 컴퓨터

코미 (180.♡.243.17)

2025년 2월 22일 PM 09:13 · 수정됨(02. 23. 04:43)

조회 2,799 공감 0

맥미니와 맥스튜디오라고 합니다.

저걸 이렇게 병렬연결 하는데 엔디비아 그래픽카드보다 싸다네요.

에

에피네프린

25.02.22 · 121.♡.158.120

싼거 맞는거죠 ㄷ
L

LeoNa → 에피네프린

25.02.22 · 116.♡.222.15

싸죠. 1억 이상 낼래? 천단위 낼래? 니까요.
4

404page

25.02.22 · 211.♡.225.193

저거 깡통이 90만원이었던가요?
S

SDK

25.02.22 · 127.♡.0.1

{emo:damoang-meme-034.gif:500}
E

Ecridor

25.02.22 · 91.♡.196.218

Exo던가요. 같은 네트워크면 라즈베리파이고 리눅스 머신이고 다 묶어서 돌리더라고요.
전

전복죽

25.02.22 · 104.♡.68.24

이게 m4 특성상 글카도 시스템메모리 전체를 호출할 수 있어서요.

12기가 8기가 혹은 16기가 단 엔비디아 글카보다
128기가 풀뱅 채운 맥북프로가 더 효율이 좋다고합니다.

적 맥미니는 풀뱅이 64기가인가 그래서 저것도 클러스터로 묶어서 팔려가는것 같더군요.
칼

칼쓰뎅 → 전복죽

25.02.23 · 119.♡.210.192

일단 vram용으로는 전체메모리의 70%? 정도까지가 한계인걸로 압니다.
속도 문제로 개발용도로는 사용가능하나, 실 상용성으로는 불가능하다고 하고요.

더불어 저 클러스터링해서 쓰는건... sw버젼이 0.0.1 수준인걸로 압니다.
굉장히 불안정하다고 합니다.
다만 되기만 하면 일단 돌아는가니까... deepseek r1 같은것도 local로 돌려볼순 있다고 하네요.
https://www.youtube.com/watch?v=sxye9Ul7ppI 에서 시험해본 내용이 있습니다.
곽

곽공

25.02.22 · 220.♡.159.119

[https://s3.damoang.net/data/editor/2502/comment_1568024947_fVaTwzeU_6fef6836f308a1e7f54496226f26872eda1ace28.jpg]
맥미니 1천대,,,,인것 같죠? ㅎㄷㄷ
칼

칼쓰뎅

25.02.23 · 119.♡.210.192

참고로 m4 pro macmini가 대역폭이 273GB/s 이라서...
올해 새로나온 amd ai max 계열로 나온 애들도 그정도 합니다.
윈도도 사용하겠다하면 그게 더 나은 선택일꺼 같네요. (가격도 뭐 비슷하지않을까 싶어요)
수

수필

25.02.23 · 208.♡.249.100

학습은 모르겠는데 돌려보는 용도로는 맥스튜디오가 가성비입니다.