https://qwenlm.github.io/blog/qwq-32b-preview/

답을 내보고 '이게 맞나?' 하고 검증하는 과정을 거치는 모델들이 나오기 시작하나봅니다.

몇몇 분야에서 테스트 결과가 좋게나오나봐요.

8비트 양자화만 해도 34.82GB 라니까... 플래그쉽 gpu 2개 있으면 돌려볼만할거 같네요.

(3090 or 4090 24GB x 2)

물론 전 없습니다 ㄷㄷㄷㄷ

ps : qwen쪽은 중국어 제어좀 했음 좋겠는데 말이죠.

     뭐 좀 물어보면 중국어가 계속 튀어나와서;;;;

     (물론 집에서 돌려보는건 파라미터 작은 모델이라 더 그럴수도...)

ps2 : llama 쪽도 뭔가...나오겠죠? ㅎㅎ