빈약한 제 장비들 놀지 말라고 벤치 돌려 봤슴미다
남
남극백곰 (223.♡.78.169)
2026년 5월 5일 AM 08:59
조회 1,930 공감 0
요즘 llm에 빠져서 그냥 로컬 모델 하나 다운받아서 토큰생성 속도 측정 한 검미다
| 항목 | Mac Studio M4 Max | RTX 5070 Ti |
| ------- | ------------------ | ------------------ |
| 모델 | gemma4:e4b (9.6GB) | gemma4:e4b (9.6GB) |
| 프롬프트 속도 | 1,423 t/s | 1,216 t/s |
| 생성 속도 | 90.9 t/s | 85.0 t/s |
| 프롬프트 토큰 | 26 | 26 |역시 외장 그래픽이 강력한 속도라고 해도 vram이 작아서 그런지 제 속도를 다 못 내고 있슴미다
m4맥스튜디오가 통합램이라 애플이 램 버스를 튜닝해서 400대 속도가 나오는데 m3ultra는 900대
그래도 쿠다가 아직은 더 좋다고 들었슴미다 그런데 vram이 발목을 잡았어요
이래서 5060 16g가 인기가 많았던 거네요
댓글 (5)
- 남
남극백곰
작성자 05.05 · 114.♡.188.135
-
셀셀빅아이
→ 남극백곰 05.05 · 125.♡.200.218
이상하다 했더니 노트북용 이었군요. :)
-
RRider_man
05.05 · 180.♡.225.117
{emo:damoang-meme-72.webp}
-
일일리케
05.05 · 169.♡.222.131
5060 16g 두개로 묶으니 신세계이긴 했었습니다. ㅋㅋㅋㅋ
근데 시끄럽고.....'보다 많은 램!!!!' 의 압박에 맥스튜디오 64G로 왔네요.....물론 M1 이지만....ㅋㅋㅋㅋ. ㅠㅠㅠㅠ
어제 하이닉스 주식만 오전에 안팔았어도....바꿀수 있었는데....이놈의 손모가지를 그냥 콱~ ㅡㅡ;;;
- 셀
셀빅아이
→ 일리케 05.05 · 125.♡.200.218
지나고 나니 아깝네요. :)
댓글을 작성하려면 이 필요합니다.
5070ti 12g 짜리임미다 노트북용이에요