빅데이트 (112.♡.148.44)
2026년 7월 6일 PM 10:16
로컬 LLM 전용으로 M2 ultra 64GB 를 최근에 마련해서 잘 쓰고 있습니다.
제 환경에서 분리는 당연했습니다.
요즘 와선 코딩 업무용 쓰고 있는 M1 max 32GB 도 살짝 부족하다는 느낌입니다.
메모리 줄이려고 VS code 쓰는데 말이죠.
CPU 는 괜찮은데 메모리만 64GB 였으면 좋겠네요.
댓글 (10)
-
YYBman
07.06 · 211.♡.87.197
- 빅
빅데이트
→ YBman 작성자 07.06 · 112.♡.148.44
32gb 에서 코딩+local llm 다 하기 힘듭니다. 부팅하고 암것도 안하면 할만해요 (메모리 적게 먹는 llm 돌리면 되요, 이것도 용도에 따라선 쓸만합니다). 그런데 툴 하나씩 올리기 시작하면 공간 나눠쓰기 문제에 걸립니다. 그래서 M2 ultra 구한거구요. 얘는 일단은 아무것도 안올리고 쓰려고 합니다. 심지어 에이전트도요.
: 에이전트는 m1 mac mini 구형으로 돌리고 있습니다.
64gb 에 대해선, 메모리야 올리면 올릴수록 큰 모델 올릴 수 있는거 아실거구. 64gb 는 되어야 제 기준 최소 모델 올리는게 가능해서요. 128gb 되면 좋지만 돈이 문제죠. (128gb 에 올릴 모델은 제 로컬은 아니지만 테스트용 dgx spark 사용이 가능하긴 합니다)
-
알알아야면장
07.06 · 150.♡.101.71
24GB를 가진 저는 9B 모델이 최선입니다. 27B 어찌어찌 우겨넣어보니 컴터가 녹아내릴려고 하드라구요...그리곤 현타와서 로컬LLM 싹 다 지웠습니다. 2,3년뒤 다시 도전하려고요
- 빅
빅데이트
→ 알아야면장 작성자 07.06 · 112.♡.148.44
한대의 컴에서 다 하려면 힘들더라구요. 그래서 4090 같이 분리된 VRAM 쓰는게 좋긴 좋습니다. 2-3년 뒤에 메모리값 안정되면 맥이면 96GB 제품 사세요. 근데 안정될지..
-
남남극백곰
07.06 · 114.♡.188.135
48g는 움미다 ㅜㅜ 그냥 클라우드가 짱짱맨이에요
- 빅
빅데이트
→ 남극백곰 작성자 07.06 · 112.♡.148.44
코딩용 컴 48GB 만 되도 좋겠습니다. 근데 남극백곰님 로컬 장비 빵빵하지 않으세요 ? ^^ dgx spark 도 가지고 계신거 같은데. 그리고 전 하이브리드 모드에요. 클라우드도 쓰고 로컬 둘 다 돌립니다.
- 남
남극백곰
→ 빅데이트 07.07 · 223.♡.74.140
이것저것 있는데 메인은 클라우드모델과 클로드,코덱스 임미다 주식모델 관련 파인튜닝 하는데 생각보다 잘 안되고 게임용 오토봇 강화학습도 하니 기기가 모자르네요
-
권권도안
07.07 · 125.♡.69.126
흠... 으흠흠... 흠흠... 가격오르기 전에 max pro m5 64gb 질렀습니다. 흠흠... 부... 부럽습니까?
하지만 오랜시간 윈도우만 써서 개발하다보니 아직도 불편은 하더라구요, 그리고 나름 십수년 개발 했는데 노트북보단 pc만쓴 시즈탱크라서... 나따위에겐 노트북+맥은 사치인가 생각하는 요즘입니다. 맥어렵네용 ㅎㅎ - Y
YBman
→ 권도안 07.07 · 218.♡.152.147
흠... 으흠흠... 흠흠... 저.. .전.. 혀 부... 부럽지 않아요..ㅜㅜ
- 빅
빅데이트
→ 권도안 작성자 07.07 · 112.♡.148.44
제가 max 에서 못 벗어나는 이유가 모니터 3개 때문인데 m5 는 pro 부터 3개 되는거 같더라구요. 부.... 럽습니다.
어제 밤에 이불킥하고 64GB 저렴한거 찾아봤지만 적당한게 안보여서 일단 접어두고 오전에 메모리 문제 있을만한거 클로드와 상의하면서 정리했습니다. 일단 쓸만해진 상황입니다. 당분간 이렇게 버텨보려구요.
댓글을 작성하려면 이 필요합니다.
오우 m1 max 32gb에서 코딩하시는데 local llm을 사용중이신가요? 쓸만하신지 어떠신지 궁금합니다. 64gb가 좋은 이유도 궁금합니다.