AI용 PC로 Mac이 대세가 될가요?
페이지 정보
작성자
시골길농부
시골길농부
작성일
2025.04.02 07:03
본문
Macbook Pro M4 Max (64G)를 쓰고있습니다..
LM Studio에서 Gemma 3 27b가 훌륭하게 돌아가네요..
M2에서는 12b 정도가 한계였는데 말입니다..
여기서 이어지는 질문은,
앞으로 점점 많은사람들이 로컬에서 AI를 사용하게될텐데,
AI용으로 Mac보다 더 가성비 좋은 머신은 뭐가있을까요?
왠지 AI시대에 Mac이 피씨 시장을 장악해가지 않을까 하는 생각입니다...
0명
추천인 목록보기
댓글 15
/ 1 페이지
규링님의 댓글
작성자
규링
규링
작성일
04.02 12:46
arm 프로세서 기반의 ai 개발 전용 soc들 나오고 하면 어떨지 모르겠군요.
엔비디아에서 발표했던 그 300만원짜리 미니피씨도 그렇고요.
엔비디아에서 발표했던 그 300만원짜리 미니피씨도 그렇고요.
간큰남자님의 댓글
작성자
간큰남자
간큰남자
작성일
04.03 15:23
NVIDIA에서 새 모델을 출시했습니다.
https://people.utm.my/shahabuddin/?p=8109
DGX Spark라고 $3,999, Ascent GX10(NVME 1TB, 플라스틱 케이스) $2,999인데 미국에서는 사전예약 받는다고 하더라구요.
한국은 아직이네요.
일단 메모리가 128GB 이고 AI 특화 모델로 나오는 만큼 맥북프로/맥스튜디오랑 해당 분야에서 경쟁이 치열할 것 같습니다.
https://people.utm.my/shahabuddin/?p=8109
DGX Spark라고 $3,999, Ascent GX10(NVME 1TB, 플라스틱 케이스) $2,999인데 미국에서는 사전예약 받는다고 하더라구요.
한국은 아직이네요.
일단 메모리가 128GB 이고 AI 특화 모델로 나오는 만큼 맥북프로/맥스튜디오랑 해당 분야에서 경쟁이 치열할 것 같습니다.
간큰남자님의 댓글의 댓글
작성일
04.03 21:31
@멤피스님에게 답글
ㅎㅎㅎ 맥 스튜디오에 비해 2/3 수준이니 까일 만 아지요. 하지만 뉴럴 엔진 성능이 더 뛰어나니 실제 성능을 출시후에 벤치마크를 보아야 정확히 알 것 같습니다.
빅데이트님의 댓글
작성자
빅데이트
빅데이트
작성일
04.06 01:08
3 27B 를 M4 64GB 로 양자화 Q4 Q5 하지 않고 돌릴 수 있나요 ? 궁금해서 여쭤봅니다. 만약 FP16 으로 돌릴 수 있다면 대박이네요.
시골길농부님의 댓글의 댓글
작성일
04.07 06:46
@빅데이트님에게 답글
제가 워낙 초보라 잘 모르는데, 그냥 LM Studio에서는 잘 돌아가네요... ㅎ 줄줄줄 답 잘해줍니다~
불휘나무님의 댓글
작성자
불휘나무
불휘나무
작성일
04.10 23:47
최근에서야 거의 신품 M1 맥북 프로 14"를 들여와서 이것저것 테스트 해 보고 있습니다. 10코어 CPU, 16코어 GPU와 32GB Shared 램 모델인데, 참 다양한 AI 기술들을 시험해 볼 수 있네요. 물론 느리지만요.. CUDA는 없지만, MPS Backend PyTorch Training도 되구요, 유행하는 플럭스 및 다양한 T2I 모델도 돌릴 수 있고, N8N도 잘 되구, Hunyuan T2V까지도 성공했습니다. 용량이 큰 모델들은 4Bit 양자화 시켜서 테스트 해 볼 수 있기도 하니 여튼 AI 공부를 하는데 참 괜찮은 기종 같습니다. 또 해외 맥 개발자들의 커뮤니티 지원도 무시할 수 없죠. 하지만, 커머셜로 나가자면 AI에 CUDA를 빼 놓을 수 없으니, 집에 NVIDIA 카드가 탑재된 PC도 한 대 있으면 금상첨화일 겁니다. ㅋ
메르시퓨탕님의 댓글
외국 유튜브에서 맥 vs 5090 비교 실험한 거 보니 토큰 몇 개 차이 안나는 처리속도 더라구요