fullmoon에도 deepseek-r1 1.5b 8bit 모델을 설치할 수 있게되었습니다.
D
DINKIssTyle (61.♡.73.102)
2025년 2월 4일 AM 10:34 · 수정됨(11:10)
조회 530 공감 0
이 모델은.. llama-3.2-3b-instruct-4bit 랑 비교해서 한참 바보군요 ㅠㅠ
댓글 (1)
- 수
수필
25.02.04 · 208.♡.249.100
distill 모델은 진짜 deepseek은 아니라고 합니다. 현재 증류된 모델은 qwen과 llama 모델이 있습니다. 이 경우 본체는 각각 qwen이나 llama이고 얘들이 deepseek처럼 작동하도록 바꾼 모델이 distill된 모델이라고 하더군요. 진짜 deepseek을 로컬로 돌리려면 1.58b를 받아서 돌려야 하는데 이게 수백기가라 쉽지 않습니다 ㄷㄷ
댓글을 작성하려면 이 필요합니다.