남극백곰 (114.♡.188.135)
2026년 4월 28일 PM 07:31
맥처럼 통합램을 사용하는 제품을은 한번에 많은 램을 사용할 수 있으니
개인이 사용하는 무거운 모델을 사용 할 수 있죠
120b도 돌릴 수 있는데
대신 통합램은 전용 gpu대비 느리죠
gpu에 달린 램이 속도나 대력폭이 엄청 차이가 난다고 하는데 그래도 gpu의 체급빨이 있으니 동급 모델 사용시 대답하는 속도 자체가 다르죠
그래서 나중에 뭔가 특이한 제품이 나올거 같아요 고용량 램에서 칩을 적출해서 gpu에 설치!! 그래서 vram 용량을 64~128g로 뙇!!
이렇게 나온다면 통합램을 사용하는 컴보다 ai답변 속도가 훨씬 빠르고 일반 그래픽카드의 몇배 용량의 vram을 가지게 되어 큰 모델을 뙇!!
예상답변 vram 대역폭 때문에 트래픽 병목 현상 나와서 제속도가 안 나올검미다??
그것도 어느정도 해결한 뭔가 나올 수 있겠죠 지금 전용 머신은 용량대비 너무 비싸요
5070에 램 128달고 나오면 적당할 거 같아요
댓글 (6)
-
MMarino
04.28 · 119.♡.213.13
-
DDINKIssTyle
→ Marino
04.28 · 61.♡.73.102
일반용(?) 모델들 중점 타겟으로 나오는 램이 24GB (<-Nvidia 지포스가 만들어 놓은 ㅎㅎㅎ) 입니다.
많은 사람들이 돌리는 20~30B 모델들이 올라가긴 합니다.
-
MMarino
→ DINKIssTyle
04.28 · 119.♡.213.13
올라기긴 합니다에서 많은 감정들이 느껴집니다 흐흐흐
-
DDINKIssTyle
→ Marino
04.28 · 61.♡.73.102
M3울트라~M4~M5 정도면 올라가기만 하면 컨텍스트 예산이 적어서 그렇지 돌릴만 하실거에요~
-
지지나가던행인이
04.28 · 61.♡.201.240
셀레브라스 한번 찾아보세요 😁 전 게임체인져라고 생각했습니다. 아직은 멀티모달도 안되는 멍청이(?)지만 셀레브라스가 글카수준으로 빌드 되는 순간이 변곡점이 되지 않을까 하는 생각입니다
-
쩝쩝쩝박사
04.28 · 222.♡.88.247
그것을 해결하려고 제시한 해결책이 HBM입니다 ㅋ
댓글을 작성하려면 이 필요합니다.
맥에서 48기가 램 정도면 어떤 모델들을 돌릴 수 있을까요?