Qwen3.6정도면 비빌만 한데, 그걸 돌릴 시스템 가격이면 차라리 유료 llm을 쓰는게 더 나은 선택일수도 있습니다. 최소는 rtx3090 정도고 rtx5090 써야 쾌적한 속도가 나올겁니다. 5060ti(16gb)에서 qwen3.6-27b 돌려보면, 너무너무 느려서 실무에는 못 쓰는 속도가 나왔습니다.

deepseek 가 그 용도로 나온거니 유료를 사용해보시는게 나을거 같습니다. 돈을 쓰시는게 속편합니다.

오픈 웨이트 모델 중엔 그나마 Qwen3.6-27B 이 제일 소넷과 유사한 응답을합니다 .. 개중에 Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 이런식으로 증류한 모델도있으니 참고하세요.

다만 응답속도는 100배 정도 느려질걸 예상하셔야하고요..

속도를 맞추시려면 억대급 장비를 장만하시면 됩니다...

저라면 소넷급 응답이 필수인 업무에는 그냥 토큰 돈 내고 쓰는게 더 쌀 수도있다는 생각을 해봅니다

이리 저리 테스트 해봐도, 장비 투자하시는 돈이면, 아직은 유료 모델을 쓰시는게 나은 선택입니다.

말씀들 감사합니다. 일단은 토큰태우면서 살펴봐야겠군요

소넷급을 쓸 수 있는 하드웨어를 구비하시는 비용이면 max100 같은 플랜을 5년은 넘게 쓰실 것 같습니다 😁

한 줄 답변 : 불가능합니다! ㅎ

로컬 돌리는 이유는...

1. 보안때문에 외부 클라우드 모델을 못써서

2. 간단한 작업에 토큰 녹이는게 아까워서 서브로 돌리려고

1번은 클라우드보다 비용이 높아지지만 정책상 어쩔 수 없는거고,

2번은 실제로 토큰값 많이 아낄 수는 있습니다. 하지만 절대로 메인(추론필요한) 모델은 로컬에서 못돌립니다. 서브없이 로컬만 메인 쓸거면, 역시 GPU 살 돈으로 에이전트에 붙는 gpt 구독하는게 낫습니다.