11

추가 메뉴

AD
다모앙 마을 만들기 ♡ 다모앙 후원하기
♡ 후원하기 · 벽돌한장 · 광고 제거
오전내내 로컬 LLM을 갈궜더니 말도 짧아지고 당당해졌습니다!
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2026년 3월 6일 PM 02:23

조회 4,498 공감 0

.

사이드 패널 API를 알고 나서 열심히 기능 추가 및 개선중입니다!

로컬LLM 또는 LM Studio를 사용하고 계시다면 이용해보세요~

https://github.com/DINKIssTyle/DINKIssTyle-Chrome-Extensions

.

Qwen 3.5 9B를 추천합니다. 8GB 그래픽카드에서 적절하게 도움을 줄 속도로 작동합니다.

물론 CUDA가 있으시다면 훨씬 빠릅니다!

씽킹을 끄고 사용하면 응답이 빠릅니다. 봐줄만합니다.

씽킹을 켜고 쓰시면 응답 준비가 느리지만 9B 맞아? 싶을 정도로 훌륭합니다.

LLM서버에서 받을 Context를 10,000 이상으로 설정하세요.

.

LM Studio와 사용시 최신 기능들이 사용할 수 있습니다.

댓글 (7)

  • MeerKKat

    MeerKKat Lv.1

    03.06 · 202.♡.191.103

    파이어 폭스 용도 부탁드려요..!
  • DINKIssTyle

    DINKIssTyle Lv.1 → MeerKKat 작성자

    03.06 · 61.♡.73.102

    잘은 모르지만 둘이 호환이 안됩니까? ㄷㄷ

  • Lv.1 → MeerKKat

    03.06

    삭제된 댓글입니다.
  • 셀빅아이

    셀빅아이 Lv.1 → MeerKKat

    03.06 · 125.♡.200.218

    크롬 호환으로 하면 될껍니다.
  • 셀빅아이

    셀빅아이 Lv.1

    03.06 · 125.♡.200.218

    감사합니다. 잘 쓰고 있습니다.
    전 QWEN3-VL-8B 모델 쓰고 있는데 속도 괜찮습니다.

    OCR로 써봤는데, 영어는 잘하는 반면, 한국어는 제대로 못하네요.
  • 셀빅아이

    셀빅아이 Lv.1

    03.06 · 125.♡.200.218

    질문이 있습니다. 받을 Context 만개이상 설정이 최대토큰을 늘려주면 되는건가요?
  • DINKIssTyle

    DINKIssTyle Lv.1 → 셀빅아이 작성자

    03.06 · 118.♡.24.20

    LM Studio를 쓰신다면 그 서버 셋팅창에서 사용하시는 모델을 선택 후 우측 패널에 살펴보시면 있습니다 아마 4096으로 되어 있는 값을 찾으실 수 있을거 같습니다.

댓글을 작성하려면 이 필요합니다.