어머 (66.♡.126.27)
2025년 3월 6일 AM 01:51 · 수정됨(08:15)
루머대로 m4 맥스가 기본 상위모델이 m4 울트라가 아닌 m3 울트라로 나왔습니다;;;
왜 상위 모델이 m3 울트라냐 m4 맥스가 더 상위칩 아니냐 하실지 모르는데 울트라 라인이 더 고급입니다. 한세대 전이라 해도. M2 울트라가 특정 벤치에서는 m4 맥스 이깁니다.
일단 애플 제품 설명을 보면 대놓고 이 모델은 집에서 큰사이즈 llm을 돌려라 라고 하고 있습니다. 특히 최상위 모델은 램이 512라 대놓고 이건 딥시크를 로컬로 돌려라 하고 광고하는 느낌입니다. 만불로 딥시크를 돌리는 모델이 초점이 될거같고 출시되면 과연 혜자인지 아닌지 알겠네요.
5090만 해도 비디오램이 32기가라 큰 모댈은 돌리기 힘들죠. Rtx 6000 ada로 갼다쳐도 48기가인데 가격은 8천불?이라 맥스튜티오 가격 입니다
맥 스튜디오는 다시봐도 가격이 장난 없는데 엔비디아 옆에 두면 혜자로 변합니다
참고로 m4 울트라는 맥프로 출시때 공개한다는 루머가 있습니다.
앤비디아 시스템으로 딥시크를 돌릴려면 최소 십만불입니다 ;;; 물론 속도눈 훨씬 빠르죠.

댓글 (23)
-
SSaracen
25.03.06 · 67.♡.13.158
울트라가 칩 두개를 붙이는 것이라 까다롭죠. 선 한두개가 아니라 엄청나게 많은 선이 연결되고, 그 선이 제대로 붙었는지 테스트 하는게 상당히 어렵습니다. 그냥 연결되었다만 확인하면 되는게 아니라, 연결된후 capacitance특성을 만족하는지를 특수한 회로를 통해서 확인해야 하는데, HBM도 1024개니 뭐니 선이 그렇게 많아서 힘들다고 하는데, Ultra는 정말 많으니 (1만개 이상) 별수가 없죠. 물론 기술적으로 해결은 되는데 돈이 드니, 수요나 여러가지 고려해야 만들어야죠. 반도체는 생산을 위해서 투자하는 돈이 수백업은 우습게 들어가니까요. -
어어머
→ Saracen 작성자
25.03.06 · 66.♡.126.27
제 생각에도 아직 m4 울트라는 출시하기 이른거 같습니다. 일부러 출시안한게 아니라 이시기에 못한거요.
맥프로 올해말 내년초 예상하던데 그때 나올거 같아요 일단 저는 m2 울트라 보고 있었는데 갑자기 출시되서 같은 가격에 m3 울트라로 갑니다 ㅎㅎ -
뚱뚱굴넓적
25.03.06 · 49.♡.212.131
쿠다 땜에 엔비디아 못 벗어난다고 하는 분들 많던데 맥으로 해도 되는건가요? -
어어머
→ 뚱굴넓적 작성자
25.03.06 · 66.♡.126.27
아직 쿠다가 넘사벽 맞아요 특히 훈련 쪽은 따라갈수가 없죠. 다만 애플실리콘이 메모리가 비디오램이기도 해서 모델을 돌리는건 가능합니다. 큰 모델도 돌릴수가 있습니다 ㅎㅎ -
권권콩이아빠
→ 뚱굴넓적
25.03.06 · 221.♡.79.43
물론 엔비디아를 쓰면 빠른 연산 능력을 활용할 수 있지만 문제는 터무니 없는 가격 때문에 망설여지는 시점인거죠.
근데 맥 한대로도 딥시크를 로컬 구동이 가능하다라는 얘기가 나오면서 클러스터링하면 같은 가격에 충분히 로컬 구동 능력이 되기 때문에 맥이 최근에 각광받고 있습니다 -
어어머
→ 권콩이아빠 작성자
25.03.06 · 66.♡.126.27
웃긴게 애플실리콘이 상대적으로 엔비디아보다 혜자 소리를 듣는 부분이죠 ㅎㅎㅎㅎ -
SSaracen
→ 뚱굴넓적
25.03.06 · 67.♡.13.158
쿠다만 AI가 가능한건 절대로 아닙니다. AI가 2가지 특성이 있는데, 대용량의 데이터를, 비교적 단순한 수많은 반복 연산을 하는 것인데, CUDA는 이 두가지를 쉽게 만들어 줍니다 그리고 NVIDIA칩의 메모리 대역폭이 무척 크거든요. 내부에 있는 여러 캐쉬나, interconnect로 데이터를 쉽게 옮길수 있게 해 주고.
그래서 아주 대용량 모델은 개발하는데 6개월씩 안 걸리고 싶으면 CUDA쓰는게 맞고, 조금 작은 모델은 메모리 대역폭이 큰 다른 시스템을 써도 되죠. Intel이나 다른 CPU는 메모리는 느리고 중간에 있는 L1/L2/L3 캐쉬를 사용해서 CPU성능을 올립니다. 그런데 M series는 SoC에 엄청 큰 대역폭의 메모리를 달고, CPU/3D/2D 다 공유하는 방식이라, 인텔 CPU보단 훨씬 유리해요. -
김김링크
→ 뚱굴넓적
25.03.06 · 210.♡.105.1
실 서비스에는 성능이 중요하기 때문에 당연히 쿠다를 쓸수밖에 없지만
개발하는 장비에는 그렇게 퍼포먼스가 나오지 않아도 되기 때문에
상대적으로 저렴하게 고용량 메모리로 구축할 수 있는 맥을 사용해서 개발할 수도 있습니다. -
RRealtime
25.03.06 · 75.♡.158.112
맥 스튜디오는 책상에 올려놓기만 해도 든든하죠.
(돌아가기만 한다면) 뭐든 할 수 있을 것 같은 느낌. -
어어머
→ Realtime 작성자
25.03.06 · 66.♡.126.27
요새 인공지능 연구한다하면 왠지 한대는 있어야 할거같은 느낌같은 느낌이죠. 맥미니 샀는데 돌아가는 가는데 속도가 미칩니다;;
댓글을 작성하려면 이 필요합니다.