로컬LLM으로 qwen 설치 하기로 했습니다.
6
6미리 (218.♡.67.124)
2026년 6월 16일 PM 02:44
조회 1,177 공감 0
회사에 남는 컴퓨터들 부품 하나하나 모으다 보니... 원기옥 모으는 기분이 이런건가 싶습니다.
램 8기가지만 gtx3050도 어디서 하나 구했고, 램32기가 데탑도 구했습니다. ㅎㅎㅎ
이제 파워만 하나 적당히 크고 좋은걸로 사면 될거 같네요.
제미나이에게 물어보니 7B모델 정도는 넉넉히 돌릴거 같다네요.
repo 하나 던져놓고 분석 돌리는 용도로 쓸거 같아서 이게 돈주고 사용하는걸로는 한달에 정말 몇백 들거 같습니다. ㅎㄷㄷㄷ
잘 되면 좋겠네요.
최근 글
최근 댓글
- 근데 보면서 미국도 보이스피싱 이런거 꽤나 심각하구나... 싶었습니다.저는 재밌게 봐서요. ㅎㅎㅎ 그리고 비키퍼2가 촬영중이라는거 보면 생각보다
- 사실 안티그라비티가 지들의 야심작이 아닐수도 있습니다. ㅋㅋㅋㅋ (겉으로는 그래 홍보하지만요)
- 그리고 1998년에 20% 금리가 잠깐 나옵니다.(IMF시절) 사람 죽으라고 등 떠밀어주던 시기였죠 ㅠㅠ그런데 저 시기엔 금리가 높아봐야 은행에
- 국내에서 씨티100은 중국집 오토바이라는 인식이 너무너무 깊게 박혀 있어 그런게 아닐까 싶습니다.아시는 분도 씨티100 사서 본인은 만족하는데
- 정말 진지하게 묻고 싶은데.... 이만희가 영원히 살거라고 믿는 사람이 진짜 존재해요??? 와;;;;
댓글 (5)
-
말말없는
06.16 · 134.♡.40.125
- 치
치와왕
06.16 · 14.♡.24.112
이런 시도 좋습니다. 응원합니다. : )
-
쩝쩝쩝박사
06.17 · 222.♡.88.247
엑사원도 좋은 편이니 함께 고려해보시기 바랍니다.
-
Kkimjason
06.18 · 110.♡.89.164
5050도 실사용은 어렵더라구요 ㅜㅜ 최소 5060ti 16g 모델은 있어야 쓸만 하더라구요 ㅜㅜ
-
CCaTo
06.21 · 112.♡.38.222
7B가 쉬워보이는데 절대 쉽지않습니다
요즘 잘나가는 Gemmar 26BA4B, Qwen 3.6 35BA3B 얘네들 동작 할때는 4B, 3B라 그른속도 나오는거라 7B Dense 는 왠만한데서 돌려도 답답합니다.
차라리 LFM2.5 8BA1B를 돌려보세요
댓글을 작성하려면 이 필요합니다.
로컬로 repo 분석하는건 얼마나 잘될지 궁금하네요. 잘 진행되시면 나중에 간단한 요약강좌 하나 올려주시면 큰 도움 되겠습니다.