정보
외국 유투버의 맥 미니 클러스터 사용기
M
MDBK (45.♡.210.104)
2024년 11월 25일 AM 02:53 · 수정됨(02. 16. 12:17)
조회 2,308 공감 0
제가 자주보는 유투버중 한명입니다
맥미니 신형 여러 버전으로 사서 5개 클러스터 (썬볼 독 문제로 4개 까지만 실사용)로 LLM을 돌렸다고 합니다
결과는 용량이 큰 모델같은경우 돌릴 순 있지만 그냥 128기가짜리 맥북프로 m4 max사는게 성능은 훨씬좋고
맥북프로 보단 엔비디아 사서 쓰는게 훨씬 좋다 입니다.
다만 돈이 없으면 이렇게도 해서 쓸 수는 있다 정도로 요약 가능합니다
댓글 (6)
-
Wwera
24.11.25 · 211.♡.84.48
- M
MDBK
→ wera 작성자 24.11.25 · 172.♡.52.230
전 맥미니 말고 맥북프로 풀옵이 점점 땡깁니다… 7백만원…. 억…. -
칼칼쓰뎅
→ wera 24.11.26 · 119.♡.210.192
m4 max 는 좀 넘사...가 될꺼 같고요.
썬더볼트로 아무리 엮어봤자 대역폭 한계때문에 써먹질못할겁니다.
다들 추론쓰지 학습할껀 아니잖아요? ㅎㅎ
https://damoang.net/free/2193620 에 대역폭 계산해놨습니다. 참고해보시면 될꺼 같아요. -
간간실장
24.11.25 · 1.♡.173.35
좋은 정보네요..
감사합니다.. ^^; - N
nextmobil
25.02.16 · 218.♡.114.67
LLM 큰 모델 돌리려면 그냥 3090 중고(80만원대) 여러대 사는게 훨씬 낫더군요. - M
MDBK
→ nextmobil 작성자 25.02.16 · 172.♡.52.226
Sli4090에서 빼버린것도 황화장의 큰그림
댓글을 작성하려면 이 필요합니다.
M4 구매에 대한 욕구가 자연스럽게 사라지고 있습니다 ㅋㅋㅋㅋㅋ
돈 벌었습니다