로컬LLM으로 qwen 설치 하기로 했습니다.
6
6미리 (218.♡.67.124)
2026년 6월 16일 PM 02:44
조회 1,009 공감 0
회사에 남는 컴퓨터들 부품 하나하나 모으다 보니... 원기옥 모으는 기분이 이런건가 싶습니다.
램 8기가지만 gtx3050도 어디서 하나 구했고, 램32기가 데탑도 구했습니다. ㅎㅎㅎ
이제 파워만 하나 적당히 크고 좋은걸로 사면 될거 같네요.
제미나이에게 물어보니 7B모델 정도는 넉넉히 돌릴거 같다네요.
repo 하나 던져놓고 분석 돌리는 용도로 쓸거 같아서 이게 돈주고 사용하는걸로는 한달에 정말 몇백 들거 같습니다. ㅎㄷㄷㄷ
잘 되면 좋겠네요.
댓글 (5)
-
말말없는
06.16 · 134.♡.40.125
- 치
치와왕
06.16 · 14.♡.24.112
이런 시도 좋습니다. 응원합니다. : )
-
66K2KNI
06.17 · 222.♡.88.247
엑사원도 좋은 편이니 함께 고려해보시기 바랍니다.
-
Kkimjason
06.18 · 110.♡.89.164
5050도 실사용은 어렵더라구요 ㅜㅜ 최소 5060ti 16g 모델은 있어야 쓸만 하더라구요 ㅜㅜ
-
CCaTo
06.21 · 112.♡.38.222
7B가 쉬워보이는데 절대 쉽지않습니다
요즘 잘나가는 Gemmar 26BA4B, Qwen 3.6 35BA3B 얘네들 동작 할때는 4B, 3B라 그른속도 나오는거라 7B Dense 는 왠만한데서 돌려도 답답합니다.
차라리 LFM2.5 8BA1B를 돌려보세요
댓글을 작성하려면 이 필요합니다.
로컬로 repo 분석하는건 얼마나 잘될지 궁금하네요. 잘 진행되시면 나중에 간단한 요약강좌 하나 올려주시면 큰 도움 되겠습니다.