셀빅아이 (125.♡.200.218)
2025년 10월 19일 PM 01:43 · 수정됨(19:12)
i3-12100 / A770 16G / 32G
이 사양에 LMstudio로 최근엔 qwen3-14b를 썼었습니다. (초당 27.25토큰)
qwen3가 은근 괜찮더라구요.
gemma-3-27b는 16.43GB라 무겁고 출력하는데 오래걸렸습니다. (초당 3.43토큰)
최근에 qwen3-30b-a3b-2507 18.56GB가 떠서 느려도 한번 써보자 했는데 (초당 11.42토큰)
나오네요?
속도가 쾌적합니다.
이상해서 검색해보니 활성파라메터가 3B 밖에 안되어서 빠르다고 합니다.
풀어준 설명도
최근에 써본 젬마3, GPT-OSS, 딥시크R1 이런것보다 훨씬 보기 좋게 설명해주네요.
이정도 용량이면 버벅이고 느려서 쓰기 힘들 정도였는데, 쓰기 충분한데다가
내용도 괜찮으니 당분간은 이걸 주력으로 써볼까 합니다.
댓글 (10)
-
오오년삼촌
25.10.19 · 61.♡.135.139
앗.. 33이라 적으셔서 어? 싶어 순간 두근두근 했네요..T.T - 셀
셀빅아이
→ 오년삼촌 작성자 25.10.19 · 125.♡.200.218
감사합니다. 수정하였습니다. :) -
어어머
25.10.19 · 141.♡.116.199
MOE적용 모델들이 크기에 비해 반응이 매우 빠릅니다 - 셀
셀빅아이
→ 어머 작성자 25.10.19 · 125.♡.200.218
실시간 사용량 봤는데 메모리, 전기도 적게 먹고 이래저래 좋네요. -
DDINKIssTyle
25.10.19 · 39.♡.28.38
MOE라 해도 qwen이 유독 빠릅니다. 신기해요.
그렇다고 품질이 떨어지는 것도 아니고 알리바바가 ai에 이렇게 잘할줄은 ㄷㄷ - 셀
셀빅아이
→ DINKIssTyle 작성자 25.10.19 · 125.♡.200.218
든금없이 중국어 튀어나오는것도 없고 좋습니다.
이게 또 공개니 ai쪽 중국발전 무섭네요. -
타타브리스
25.10.19 · 211.♡.81.172
흠...회사에서 파인튠 작업을 한번 해봐야겠네요 -
배배불뚝이아저씨
25.10.19 · 222.♡.55.158
이미지 생성이나 편집도 가능한가요??? - 셀
셀빅아이
→ 배불뚝이아저씨 작성자 25.10.19 · 125.♡.200.218
물어봤더니 아래에 해당하는걸 할 수 있다고 하는데, 이미지 생성은 안되네요.
질문에 답하기
글쓰기 (소설, 공문, 이메일, 스크립트 등)
논리적 추론 및 문제 해결
프로그래밍 지원
의견 및 아이디어 제안
다양한 언어로 번역하기 - 배
배불뚝이아저씨
→ 셀빅아이 25.10.19 · 222.♡.55.158
그렇네요...노트북 AMD 4800U에서 느리지만 돌아가긴하네요.
댓글을 작성하려면 이 필요합니다.