남극백곰 (114.♡.188.135)
2026년 4월 8일 PM 09:42
LLM을 로컬로 구성하고 싶어서 최대한 돈 안쓰는 거로 하고 싶었는데
너무 느리고 속터지고 오류는 계속 나오고 해서 OLLAMA CLOUD 한달만 결제 했슴미다
20달라(30000원)
OLLAMA의 모델들 중 CLOUD붙은 모델을 사용하는 그런 기능인데 아직 초보에 그냥 막 아무거나 이것저것 시작하고 있어서 이게 갠찬아 보여 질렀슴미다
구글 API는 너무 비싸요
지금은 세팅하고 제가 원하는 봇끼리 대화하고 지들끼리 치고박고 싸우는..그런거까진 아니여도 내 IQ 50 네 IQ50 합쳐서 IQ100 이런걸 만들어 보고 싶었슴미다
대충 1시간 반 사용했는데 5퍼 가까이 사용한거 같슴미다 어짜피 퇴근하고 몇시간 사용하고 주말에 사용하고 하니 지금 패턴이면 충분할거 같은데... 남으면 CLOUD모델을 하나 더 띄워서 사용량을 더 소모해볼 생각임미다
\(ㅇㅁㅇ)/ 오토봇!!!
댓글 (9)
-
설설중매
04.08 · 211.♡.2.238
- 남
남극백곰
→ 설중매 작성자 04.08 · 114.♡.188.135
IQ50이 40명 모여야 되는 그것!!!
- T
tessking
→ 설중매 04.08 · 218.♡.68.230
처음 저기다 팩 꽂고 컬러화면으로 게임을 했을 때의 감동이란... (물론 부자인 친구네집에서 해봤음요)
- 설
설중매
→ tessking 04.08 · 211.♡.2.238
부자는 아니었지만 집에 있었습죠 ㅋㅋ
- 설
설중매
04.08 · 211.♡.2.238
무적엘쥐! 이김요 ㅋㅋ
-
일일리케
04.08 · 169.♡.222.131
해당 요금제면 3개 모델을 8쓰레드까지 동시에 사용이 가능할겁니다.
일단 저는 안전하게 1개 모델을 8쓰레드까지 동시에 사용중인데 ollama 는 관대해서 토큰이 계속 리셋되니 걱정없이 주구장창 사용중이네요 ㅋㅋㅋ
- N
neutro
04.08 · 61.♡.130.69
ollama 는 프롬프트를 로그로 보관하지 않고, 학습에도 사용하지 않겠다고 밝히고 있습니다.
로컬 LLM 만한 안심은 아니지만 민감 정보를 먹이는데 조금 덜 불안합니다.
GLM-5.1 이 추가되었더군요. 이친구 일 잘합니다. 아직은 자꾸 터지지만 ;; -
5500원
04.08 · 223.♡.45.186
먼저 축하드립니다.
그런데......
선 결재는 받으시고 후 결제 집행 하셨을지요? ^^
{emo:damoang-emo-047.webp}
- 다
다시머리에꽃을
04.08 · 124.♡.159.179
아직은 로컬llm으로 우리가 일반적으로 퍼포먼스나 퀄리티를 기대하기는 어려운거 같습니다.
그정도 생각하려면 천만원 이상의 사양을 갖춰야 좀 쓸만하지 싶고요
그래서 비용효율적인 부분을 따진다면 그냥 클라우드 llm을 메인으로 쓰고.. 좀 간단한 연산른 로컬 llm에 할당하는게 맞다 봅니다
댓글을 작성하려면 이 필요합니다.
IQ2000!
\(ㅇㅁㅇ)/