온디바이스 AI는 8B는 넘어가야 조금이라도 쓸만하네요...
배불뚝이아저씨

Lv.1 배불뚝이아저씨 (222.♡.55.158)

2025년 10월 8일 AM 10:14 · 수정됨(11:20)

조회 484 공감 0

10B 밑으로는 그냥 다 거짓정보투성이네요.

댓글 (2)

  • 에피네프린

    에피네프린 Lv.1

    25.10.08 · 118.♡.11.128

    저는 20b 정도를 다목적 LLM의 한계로 보고있습니다
    10b도 쓸수는 있다 정도지 왠만하면 그냥 안쓰고 온라인 모델 쓸거같아요
  • 조알

    조알 Lv.1

    25.10.08 · 75.♡.52.153

    맥북프로에 128GB 램 쓰니깐 gpt-oss-120b 도 빠르고 쾌적합니다. 공유메모리 모델이 LLM 돌리긴 좋네요

댓글을 작성하려면 이 필요합니다.