로컬LLM과 클라우드 LLM 차이가 많이 나나요?
사
사미사 (221.♡.175.185)
2026년 2월 20일 AM 08:46 · 수정됨(02. 21. 05:57)
조회 622 공감 0
전제는 당연히 고사양 컴퓨터일 경우입니다. 맥 기준 최소 64gb이상
로컬 llm은 ollama나 Qwen, DeepSeek 정도만 알고 있습니다.
용도는 개발(개발자는 아니고 기획자), 기타 인문학, 예술 관련 대화 정도 입니다.
댓글 (10)
- 카
카나
02.20 · 219.♡.3.85
-
사사미사
→ 카나 작성자
02.20 · 221.♡.175.185
상세한 답변 너무 감사드립니다. 약시 클라우드를 써야 하나보내여 -
차차단된회원
→ 카나
02.20 · 119.♡.240.173
antigravity 쪽은 근래 주간 리밋 생겨서 메리트가 많이 사라지지 않았나요? 주간 리밋이 너무 짜서 답이 없더라구요... - 카
카나
→ 차단된회원
02.21 · 219.♡.3.85
5시간 리셋만 기다리면서 클로드도 좀 섞어 쓰다가 사용량 바닥나면 좀 쉬어 갑니다 ㅎㅎ 그래도 어쨌든 로컬보다는 결과물이 빨리, 좋게 나오는 편입니다. -
예예지
02.20 · 49.♡.83.205
성능 테스트 꾸준히 나오는 것들 보면 모델 엄청 큰 놈들은 유료랑 별 차이는 안 나 보이긴 하는데요... 그거 원활히 돌아갈 성능의 컴퓨터를 구성하려면 AI 평생 구독 하는게 더 쌀겁니다. -
차차단된회원
→ 예지
02.20 · 119.♡.240.173
그럼에도 불구하고 로컬 LLM 에 자꾸 눈이 가는게, 클로드 맥스 20x 1년 구독하면 맥스튜디오 m4 max 16코어짜리 엔트리 가격이 나오다 보니 자꾸 눈이 가는건 어쩔 수 없나봅니다. ㅎㅎ 당연히 성능은 하늘과 땅 차인줄 알면서도 매년 400만원 가까이를 지불한다는게 많이 부담스럽기도 하죠. ㄷㄷ -
셀셀빅아이
02.20 · 169.♡.212.88
일단 현재 pc용 앙자화모델 LM Studio로 테스트해보세요.
단순한건 쓸만한데 내용이 좀 커지면 힘듬니다. -
사사미사
→ 셀빅아이 작성자
02.21 · 121.♡.94.91
댓글 감사합니다. 역시 아직 초보라 더 많은 공부와 도전이 필요하내요. - K
kevin1
02.21 · 172.♡.94.6
로컬 ai가 빛을 발하는 상황은 저난이도 고반복 작업으로 비싸고 똑똑한 유료모델에 쓰기엔 단가가 안나오는 단순반복 작업일때로 극명하게 나눌수 있습니다. 말씀하신건 짧고 고추론 작업같아보여 유료 구독모델이 맞아보입니다~ -
사사미사
→ kevin1 작성자
02.21 · 121.♡.94.91
아.. 업무에 따라 달라질 수 있겠네요. 생각지 못 한 지점입니다.
감사해요!
댓글을 작성하려면 이 필요합니다.
복잡한 질문일수록 클라우드가 좋습니다. 그리고 로컬 모델은 8비트 양자화 이하 모델은 결과물이 좀 애매한 느낌이 있습니다.
그래도 요즘 로컬 모델들이 많이 좋아지긴 했는데, 추론 수준이 좋은 큰 모델들은 속도가 많이 아쉽습니다.
그냥저냥 막 쓰기엔 로컬에서 gpt-oss-120b q8 정도면 괜찮을 것 같네요. 코딩은 glm-4.7 q8은 결과물이 꽤 좋은데 ram을 80% 이상 쓰니까... 전기도 많이 먹고 상대적으로 좀 느리기도 합니다.
또, mlx 환경이 cuda보다는 속도가 안 나올 것 같기도 하고요.
클라우드는 토큰 사용량 압박이 좀 있는 게 문제지만 속도와 퀄리티는 역시 좋았습니다. 로컬에서는vscode+cline+lmstudio 조합으로 쓰다가 요즘은 antigravity+google ai pro 구독해서 쓰고 있습니다.