m4 max는 진짜 ai용 머신되겠네요 ㄷㄷㄷ
알림
|
페이지 정보
작성일
2024.11.23 23:43
본문
현재 ddr5는 100GB/s 근처고요 (듀얼채널 기준)
4090 gpu는 1TB/s 라고합니다.
모델 돌려보면 ddr메모리에 올라가면 초당 한 단어씩 나옵니다.
4090에 올라가면 휘리릭 빠르고요.
m4 pro가 273GB/s 이라길래 '그래봤자... 1초에 3단어 정돈데?'싶었는데요.
m4 max는 546GB/s이라네요? (2개붙였으니까...)
그름 4090 절반이라는 얘긴데 ㄷㄷㄷ
거기에 미니멈 48GB, 맥시멈 128GB 메모리...
공개된 모델들은 죄다 올라갈수있을듯요.
그리고 속도도 실사용하기 적합한 수준이 되겠네요.
(물론 가격은...많이 비싸겠지요 ㅋ)
댓글 8
/ 1 페이지
MDBK님의 댓글의 댓글
@건강한전립선님에게 답글
max풀옵급은 크로스오버로도 대충 돌릴수 있습니다. 4090급은 아니래도 4070급 성능은 뽑아주는거 같더라고요.
그런데 7백만원....
그런데 7백만원....
백에이커의숲님의 댓글
단순히 대역폭만으로 추측하긴 어렵죠. Gpu처리속도도 보긴해야하는데… cuda코어 속도를 과연 얼마나 따라잡을지는 모르겠네요 ㅎㅎ
칼쓰뎅님의 댓글의 댓글
@백에이커의숲님에게 답글
의외로 추론쪽은 gpu속도에 따른 아주큰차이가 없다고하더라구요.
원아리님의 댓글
추론 자체는 GPU 성능보다는 메모리 속도가 핵심이니까... 현재 단일 제품으로 서버급 100B LLM을 오프라인으로 돌릴 수 있는 유일한 제품... ㄷㄷㄷ
칼쓰뎅님의 댓글의 댓글
@원아리님에게 답글
검색해보니 4070ti보다 대역폭이 더 높네요 ㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷㄷ
진짜 실사용 쌉가능이겠습니다.
진짜 실사용 쌉가능이겠습니다.
건강한전립선님의 댓글