꼬부기부 (211.♡.204.156)
2026년 6월 19일 AM 09:57
Qwen3.6, Gemma4 소식과 함께 LocalLLM을 제대로 써보고 싶다해서
큰 돈 들여 맥북을 구입한지 2달 정도 되었습니다.
로컬 모델로 의미있는 무언가를 할 수 있게 하기위해서 다양하게 시도해보았죠.
cline, pi, opencode 전부 만족스러운 결과는 안나왔습니다.
버그투성이에 UI도 엉망이고..수정하라면 30분 이상 기다려야 하고 등등..
그러다 어제 claude code로 스킬을 하나 만들었습니다.
opus가 계획을 짜고 task를 잘게 쪼개고 테스트코드까지 작성
pi -p "task1 실행"명령어로 Qwen3.6-27B모델로 task 를 실행opus가 최종 검수
로컬 모델을 이용한 가장 만족스러운 결과를 얻었습니다.
처음으로 버그없이 완벽히 동작하는 프로그램이 한 번에 만들어지더군요.
근데 claude에게 비용절감효과가 있냐고 물어보니 효과가 없답니다.
계획, task 작성하는 토큰과 직접 코드짜는 토큰이 거의 똑같다는 겁니다.
오히려 좀더 많이 썼다고 하네요.
이게 의미가 있나 좀 좌절하게 되네요.
다른 분들은 로컬 모델 어떻게 활용하시는지 궁금하네요.
댓글 (5)
-
YYBman
06.19 · 218.♡.152.147
-
남남극백곰
06.19 · 223.♡.249.27
코딩보다 리뷰가 토큰을 더 많이 사용한다고 하죠
-
Bboolsee
06.19 · 211.♡.80.125
Plan 등은 상용 AI 사용하고 간단하고 자잘한 작업에는 Local 사용합니다.
-
Kkamziki
06.19 · 112.♡.3.91
오.. 클로드가 영업질을 하는것 같은데.. 저만의 착각일까요 ㅋㅋㅋ
-
칼칼쓰뎅
06.19 · 124.♡.49.145
로컬은 그냥...장난감이나 간단한거 위주로 하는거죠.
정밀하지않아도 되는 번역, 손쉬운 분류 등등이요.
정밀함이 요구되면 무조건 유료모델들 쓰는게 정신건강에 좋습니다.무료모델이 발달하는만큼 유료모델들은 더 좋아지거든요...
댓글을 작성하려면 이 필요합니다.
여기 '지나가는행인'님의 tuna시리즈 활용해보시면 어떠실까 싶습니다. 짧은거는 오히려 토큰 더 나갈 수 있는데 긴거는 확실히 절감되더라구요.