LLM 처음 사용해 봤는데요
남
남극백곰 (114.♡.188.135)
2026년 1월 8일 PM 08:10 · 수정됨(01. 09. 19:19)
조회 1,340 공감 0
llama 3 8b 모델로 설치했슴미다
이름을 계속 틀리게 대답하고 숫자도 일부러 틀린듯 하고 해서 오늘 날짜를 물어보니 다 틀림미다
전 실시간으로 온라인이나 컴터에서 정보를 가지고 오는 줄 알았는데
아닌가 봐요
chatGPT가 더 나은거 같기도...
댓글 (7)
-
DDINKIssTyle
01.08 · 118.♡.7.154
-
DDazi
01.08 · 1.♡.31.227
그냥 모델을 돌리기만 하시면 학습된 정보내에서만 대답을 하게 되구요.
Chat GPT , 제미나이 웹 처럼 하시려면 웹검색은 따로 구현을 하셔야 되는 부분입니다.
그리고 8b 모델은 워낙 작은 모델이라서 기대하시는 성능은 안나올거에요.
딥시크 671b 정도는 되야 구 GPT 웹버전에 비벼볼 수 있을까 ? 하는 수준이라서요. -
Kkamziki
→ Dazi 01.08 · 112.♡.3.91
qwen 30b code만 해도 gpt 4와 비슷한 성능을 보이고 있습니다. 아주 어려운 일이 아니라면 쓸만합니다. -
칼칼쓰뎅
→ kamziki 01.09 · 124.♡.49.145
gpt4요...? 안될꺼 같은데요...흠;;;
상용적 사용을 하려면 250b급은 되어야 된다는 평입니다.
프런티어 모델들이 요새 너무 많이 발달해서 더 그렇게 느껴지는것일수도 있겠습니다만 ㅎㅎ - K
kamziki
→ 칼쓰뎅 01.09 · 112.♡.3.91
https://llm-stats.com/leaderboards/llm-leaderboard에 가면 LLM별 비교평가표에서 gpt-4o보다 qwen 32b 모델 성능이 더 좋은걸로 나오네요. [https://s3.damoang.net/data/editor/2601/79d90e1.png] - K
kamziki
01.08 · 112.♡.3.91
로컬 LLM은 당연히 인터넷에 액세스하지 않기 때문에 자기가 훈련한 마지막 데이터가 오늘인줄 아는게 당연한겁니다. 인터넷에 액세스 하게 하려면 웹검색 툴을 access하게 코드를 짜거나, 브라우저에 접근하기 위해 playwright mcp 를 설치하는 등 작업이 필요합니다. 사실 chatgpt 같은것들도 훈련된 LLM에 웹에 대한 액세스 기능을 넣어서 현재 데이터에 접근이 가능한겁니다. -
셀셀빅아이
01.08 · 125.♡.200.218
라마 말고 Qwen 써보세요.
댓글을 작성하려면 이 필요합니다.
입문으로 Gemma3 Qwen3 Mistral3 계열을 추천해봅니다. 개인적으로는 최적화 왕은 Qwen입니다. 저 사양에서도 쓸만한 속도를 보여주죠!
참고로 LLM은 쉽게 생각해서 키보드 자동 완성의 고도화 된 버젼이라고 보시면 이해하기 쉽습니다.