남극백곰 (114.♡.188.135)
2026년 4월 26일 PM 03:58
어디서 본 자료로는 뉴럴엔진 덕분에 m4보다 m5에서 ai가 4배는 더 빨라진다고 어설프게 본거 같은 기억이 있슴미다
그래서 클로드님께 지금 m4max 사용하는데 m5max가면 로컬모델 4배는 더 빨라지는거 아니냐?? 하니...
gpu가 가장 중요 하다고 함미다
다시 생각해 보니 지금 ai 모델들 배부분 gpu의 vram이나 통합램 용량과 대역폭이 가장 중요하고 그 다음 gpu속도인데 맞는거 같은??? 그런거 같아요
댓글 (5)
-
FF3YNM4N
04.26 · 175.♡.147.253
-
지지나가던행인이
04.26 · 61.♡.201.240
역시 클로드네요 ㅎㅎ 믿숩니다!
-
DDINKIssTyle
04.26 · 61.♡.73.102
지금 NPU들 제도권(?)에 들어왔지만 대부분 놀고 먹고 있습죠...
-
리리코리안
04.26 · 220.♡.231.167
ollama 같은게 이제 mlx 다 지원합니다. (3월 말인가 시작됐죠.)
뉴럴엔진과 상관없지만 암튼 빨라졌. 근데 그건 m4max 도 똑같...
-
PPigKing
04.26 · 211.♡.226.176
할루시네이션 피해자가 생기네요.
프리필 4배 성능이 향상된 것입니다.
프리필-디코드 방식인데, 프리필(프롬프트 처리) 안 쓰는 LLM은 없으므로, 특정 벤치마크라는 저 말은 거짓입니다.
사람들이 M3 Ultra VRAM 512GB라 용량 커서 써볼까 했는데 못 쓰는 물건이 된 게 저 프리필 속도 때문이지요.
댓글을 작성하려면 이 필요합니다.
맞는말하네요 클로드 똑띠