​아까 올린 크롬 Local LLM 확장을 마구 업그레이드 시켰습니다.jpg​

여기저기 LM Studio 모델을 4개 띄워놓고 테스트해서..

어떤 모델이었는지 모르겠지만 엄청 빨리 향상 완료했네요.

지금 이 로컬 LLM 어시스턴트 의 테스트 요약, 이미지 분석, 작성글 검수 정도는...

역할상 3~4B 정도면 충분히 그 역할 다 해냅니다.

물론 27B~30B쓰면 품질은 더 향상되겠지만.. 투입 에너지나 소요 시간대비 3~4B면 충분해 보여요.

이미 Qwen3 VL 4B 같은 경우에는 Qwen 2.5 VL 7B에 해당하는 능력을 보여주고 있고요..

CUDA없는 윈도우나 리눅스에서는 Gemma3 4B 또는 Qwen3 VL 4B를 추천합니다.

Vulkan으로 그나마 숨쉴 수 있는 속도의.....

같은 하드웨어서 Qwen3가 더 쾌적하긴해요~ 가끔 외계어 튀어나는 게 단점인데 매우 빈도가 낮아서 쓸만합니다.