deepseek 7b,8b와 14b 차이가 크네요.
페이지 정보
작성자
셀빅아이
셀빅아이
작성일
2025.03.09 15:05
본문
이번에 램을 32G로 업그레이드 하면서 돌려봤는데
복리계산 문제인데 7b,8b는 자꾸 엉뚱하게 표현해주는데
14b는 그래도 제대로 표현해주네요.
게다가 한글로도 간간히 답해주고요.
그런데 너무 느립니다.
GPU도 중요하지만, 계산 후 뿌려줄 때는 CPU자원을 쓰네요.
재미삼아 로컬로 돌려보는데, 그래도 재밌긴 하네요. :)
사양은 i3-12100(4c8t), 램 32G, RX580 8G 입니다.
0명
추천인 목록보기
댓글 8
/ 1 페이지
셀빅아이님의 댓글의 댓글
작성일
03.10 11:04
@이런저런님에게 답글
차이가 나는군요.
화웨이 qwq 32b 모델도 잘 나왔다고 하는데 써보고 싶네요.
화웨이 qwq 32b 모델도 잘 나왔다고 하는데 써보고 싶네요.
셀빅아이님의 댓글의 댓글
작성일
03.11 07:23
@어머님에게 답글
gpu로 계산하고 텍스트는 cpu로 뿌려줍니다.
그래도 모델자체가 크니까 10~15분 정도 걸리네요.;
8b보다 결과물도 괜찮고 한글 출력도 나름 되니 14b 모델로 써보게 되네요.
그래도 모델자체가 크니까 10~15분 정도 걸리네요.;
8b보다 결과물도 괜찮고 한글 출력도 나름 되니 14b 모델로 써보게 되네요.
셀빅아이님의 댓글의 댓글
작성일
03.16 21:42
@Nesffer님에게 답글
젬마3 쓰고 나서 번역기 띄워서 영어로 질문하고, 영어로 답변 받은걸 다시 번역기로 돌린것에 해방되었습니다.ㅋ
이런저런님의 댓글