맥미니를 하나 사서 오픈클로 전용으로 하나 맹글었는데...
Freedaemon

Lv.1 Freedaemon (218.♡.36.6)

2026년 3월 9일 AM 10:27

조회 1,085 공감 0

재미는 있는데

후아...

토큰 잡아먹는게 어마무시 하네요.

일단 토큰 최적화 작업에 들어가야 겠네요.

근데 신기한 놈이긴 하네요.

간만에 시간 가는 줄 모르고 셋팅했네요.

댓글 (10)

  • 셀레본 Lv.1

    03.09 · 112.♡.41.1

    전 토큰 감당이 안돼서 로컬 LLM으로 바꿔 봤는데, 그랬더니 일을 못하네요. 로컬 LLM으로 세팅하려면 이것저것 툴 세팅하고 추가로 해야할게 너무너무 많더구뇽.
  • Freedaemon

    Freedaemon Lv.1 → 셀레본 작성자

    03.09 · 218.♡.36.6

    저도 손대다가 귀찮아서 그냥 클로드 붙였는데...
    Llm 여러개 나눠서 해야겠어요. ㅜㅜ
  • 가꾸

    가꾸 Lv.1

    03.09 · 168.♡.128.42

    일단 오래걸리는 작업 전에 한글로 입력한 것을 영어로 변환해서 작업 진행하게 하면 토큰 길이가 줄어서 어느정도 절약이 됩니다.
    출력물도 영어에서 한글로 바꿔달라고 추가하면 되고요
  • Freedaemon

    Freedaemon Lv.1 → 가꾸 작성자

    03.09 · 218.♡.36.6

    오호 그런 방법이...
    토큰 절약 방법 찾아서 수정 예정인데
    이것도 참고 하겠습니다. 캄사합니다.
  • 일리케

    일리케 Lv.1

    03.09 · 169.♡.222.131

    ollama cloud 사용해보세요...ㅋㅋ
    토큰 무지하게 많더라구요.
  • Freedaemon

    Freedaemon Lv.1 → 일리케 작성자

    03.09 · 218.♡.36.6

    성능은 괜찮나요?
    일단 로컬로는 하다가 설정 손대기 귀찮아서... 안했는데...
  • 일리케

    일리케 Lv.1 → Freedaemon

    03.09 · 169.♡.222.131

    한달 20달러엔가 oss120b 사용중인데 8개 작업 동시에 작업중인데 토큰이 계속 남아도네요 ㅋㅋ
  • Freedaemon

    Freedaemon Lv.1 → 일리케 작성자

    03.09 · 223.♡.192.144

    한번 봐야겠습니다.
    싸단 얘긴 들었는데 성능이 어떨지
    감사합니다.
  • 플루

    플루 Lv.1

    03.09 · 118.♡.66.27

    저도 세팅좀 해볼라는데, 뭘 시켜야 할지 모르겠네요. 혼자 뭘하도 시켜야할지. ...흠
  • Freedaemon

    Freedaemon Lv.1 → 플루 작성자

    03.09 · 218.♡.36.6

    요즘은 맥미니 안쓰고
    구글 클라우드나, 호스팅에 올리는 분들도 꽤 되시더라구요.

댓글을 작성하려면 이 필요합니다.