남극백곰 (114.♡.188.135)
2026년 4월 25일 PM 06:44
| 모델 | 크기 | 단순 응답 | 코딩 응답 |
| --------- | ---- | ----- | ----- |
| 35b-a3b | 21GB | 5.4초 | 7.5초 |
| 27b-nvfp4 | 19GB | 11.7초 | ~9초 |
| 모델 | 시간 | 토큰 |
| --------- | ------ | ----- |
| 35b-a3b | 18초 | 25.8k |
| 27b-nvfp4 | 1분 23초 | 25.5k |
35b-a3b가 4.5배 정도 더 빠르게 나왔슴미다 짧은거 시켜서 이정도 차이가 났을지... mlx라서 맥의 지원을 더 받아서 그런건지 모르겟슴미다
메인은 클라우드모델 사용하고 이건 코딩전용 서브에이전트에 물려 줬슴미다
댓글 (4)
-
CCrossFit
04.25 · 14.♡.138.160
- 남
남극백곰
→ CrossFit 작성자 04.25 · 114.♡.188.135
서브 에이전트 전용으로 등록해 놨슴미다 메인은 클라우드 모델로 하고 저건 코딩에 특화된 모델이라 메인 에이전트가 저 모델에 명령하면 바로바로 처리해 줌미다
-
일일리케
04.25 · 169.♡.222.131
어떤 툴이나 도구를 가지고 이렇게 LLM을 두개 세개 사용을 하시는 건가요? 그냥 vscode 인가요? 아니면 open web ui ??? 아니면 Aider 커스텀 해서 사용하시는지요? 요즘 저도 각 임무에 따라 LLM을 두세개 사용해보려고 이것저것 찾아보고 있는데 맘에 맞는 도구를 찾지를 못하겠네요...
- 남
남극백곰
→ 일리케 작성자 04.25 · 114.♡.188.135
ollama 사용하고 openclaw 물려뒀습니다 메인은 올라마에서 서비스 하는 클라우드 모델을 사용하고 이 메인모델에게 서브에이전트 만들어서 로컬모델 사용하게 하면 훈늉한 부하가 생김미다
댓글을 작성하려면 이 필요합니다.
답변 품질은 어떻던가요? 솔직히 중국 모델들의 답변 품질이 별로 좋지 않아서...