방금나온 뜨끈 뜨끈한 모델이라 아직 양자화가 없어서

Qwen3.6 35B A3B Q4 K XL 모델을 설치해보았습니다.

양자화가 달라서 지금 애용중인 MLX 3.5랑 직접 비교는 어렵지만..

우선 4GB차이가 납니다. 양자화 때문이라고 생각되는군요?

컨텍스트 길이 30000 잡고, 올리니깐 22.22GB쯤 올라갑니다.

초당 토큰은 3.5 MLX 4bit의 반토막이지만..

런타임들 업데이트가 아직이라 .. MLX나오고 런타임 업데이트되면 달라지겠죠~

LM Studio 현재 버젼들 기준..

툴 사용이 적절하지 않아보이네요~ 날씨 찾아 가져오는데 2분 50초라니.. ㄷㄷ