[LLM] LG Exaone-Deep:32B 사용소감
페이지 정보
작성자
Dymaxion
Dymaxion
작성일
2025.03.18 22:15
본문
오늘 LG에서 엑사원-딥 이라고 추론모델이 새로 발표되었는데
QWQ:32B와 비슷하고, 딥시크:671B와 동등하거나 더 낫다는거죠.
암튼 설치해서 몇 마디 말을 섞어 봤는데.... 결과는....
이제까지 제가 LLM을 사용하면서 만나본
가장 수다스러운 놈입니다.
뭔 말을 이리 많이 하는지 원.
2명
추천인 목록보기
댓글 3
/ 1 페이지
칼쓰뎅님의 댓글의 댓글
작성일
03.18 23:43
@damoim님에게 답글
보통 32b쯤 되는 사이즈면 24GB vram에서 4비트 양자화 모델이 돌아갑니다.
3090, 4090 같은 놈들이요.
3090, 4090 같은 놈들이요.
남녀칠세마동석님의 댓글
이것도 제대로 계산 못합니다. 7.8b는 계속 무한으로 생각하고만 있고, 32b도 마찬가지입니다.
너무 급하게 내놓은게 아닌가 싶습니다.