M1 Ultra 20 core 64GB (Mac Studio) vs M4 Max 16 core 128GB (MBP) 에서 gemma3
H
hayandora (118.♡.2.203)
2025년 3월 19일 PM 05:10 · 수정됨(03. 24. 08:36)
조회 1,449 공감 0
AI당에 쓸까 하다가 맥유저들께서 더 관심있는 주제일 것 같아 여기 씁니다.
M1 Ultra 20 core 64GB (Mac Studio) 과 M4 Max 16 core 128GB (MBP) 에 LM Studio 를 설치하고
gemma3-Q8 로 속도 테스트를 해봤는데요
M1이 살짝 우위에 있습니다. 이런 결과가 나올줄을 몰랐는데 의외네요.
M1 Ultra 는 이제 곧 퇴역아닐까 싶었는데 아니네요.
한참 더 이뻐해줘야겠습니다.
댓글 (7)
-
따따끈따끈
25.03.19 · 106.♡.145.134
- H
hayandora
→ 따끈따끈 작성자 25.03.19 · 221.♡.155.30
그럴 가능성이 있겠네요. 메모리는 128이 다 필요한 것 같지는 않으니 메모리 대역폭이 영향을 줄 수 있을 것 같구요 병열처리에서 코어 숫자의 역할도 의미가 있을 수 있겠네요. -
어어머
25.03.20 · 141.♡.119.11
Inference라면 메모리 대역폭이 영향을 주는게 맞을 거에요. 그래서 최신 스튜디오 리뷰보면 m3 ultra기본형은 돈 가치가 없는걸로 생각하는 사람들이 있는데 local LLM용으로는 m3울트라랑 m4 max 체감 차이가 좀 있습니다. 괜히 애플이 울트라 기본형을 그 가격에 포지션한 이유가 있죠
최신형 스튜디오가 m4 max가 램이 128인가까지가 될텐데 어차피 그 크기 모델 올리면 답변이 너무 느려요.
M4 max 128기가보다는 m3 ultra 96기가로 가는게 좋아 보입니다 - M
molla
25.03.20 · 121.♡.107.235
메모리 대역폭도 있지만, GPU 성능 차이도 있을 것 같습니다.
M4가 GPU 속도가 많이 올라왔다지만, 여전히 코어수 차이가 큰 듯 하네요.
3D mark 기준으로 M1 Ultra가 1.4만, M4 Max가 1.1만 으로 M1 Ultra 가 GPU 성능은 아직 우위인듯 합니다. -
헤헤에
→ molla 25.03.20 · 203.♡.8.208
https://nanoreview.net/en/gpu-compare/apple-m4-max-gpu-40-core-vs-apple-m1-ultra-gpu-64-core
제가 찾아본 링크에서는 M4 Max 13500 정도, M1 Ultra 14000 정도네요.
성능차는 거의 안나고 대역폭 차이에 기인한 것이 아닌가 합니다. - M
molla
→ 헤에 25.03.21 · 121.♡.107.235
같은 사이트를 본 것이네요. 다만, 제가 본 건 M4 MAX GPU 32 core 짜리였네요.
M4 MAX 에 GPU가 32개 짜리와 40개 짜리가 있다는 걸 모르고 잘 못 봐서 그런 것이었네요. -
오오늘을산다
25.03.24 · 199.♡.58.197
와 댓글들 너무 좋네요. 저도 굉장히 관심가지고 있는 주제인데. 5090이 아닌 좋은 구성을 찾아보고 있는 중인데요.
댓글을 작성하려면 이 필요합니다.
M1 Ultra 819.2GB/s vs. M4 Max 546GB/s