ollama 인가요?

뭐 돌리신거에요? 저도 해보고싶은데 말이죠

라마3 상당히 좋아요. 저도 4090으로 돌리는데 쓸만하더군요

저는 개인적으로 로컬 LLM 을 돌린다면 find-tuning 을 하는 경우에 한한다고 보는데요.
무료로 쓸 수 있는 클라우드 LLM 들도 꽤 있는데 굳이 로컬 쓰시는 이유가 있을까요?

이 글 보고 aya:8b 모델 받아서 테스트 해봤는데 한국어 답변 잘하네요. llama3 도 그렇고 한국어 받으려면 프롬프트 귀찮게 입력할게 많았는데 이건 괜찮네요.

한국말을 잘하긴 하는데... 대화를 이어보니 좀 뻘하게 멍청한 느낌이 있네요. 맥락을 이어가는 대화는 좀 어려운 느낌이랄까. (답변은 잘하는데 좀 맹한 느낌이...) 뭐 그래도 일단 한국말을 제대로 하니... RAG 이것저것 붙여서 돌려봐야겠네요.