홍천브람스 (112.♡.106.194)
2025년 7월 11일 PM 11:22 · 수정됨(07. 12. 09:00)
개인적인 용도로
그날그날 업무 일지와 연구노트 등을 업로드 시켜서
챗봇 형태로 질문 하면 관련 사항을 답해주는..
이를테면 프로젝트별 타임라인을 정리 해 준다던가
진행사항을 요약한다던가.. 프로젝트 일정을 알려준다던가 하는
그런 용도로 사용하고 싶은데, 상용 AI에 집어넣기엔 좀 찝찝할 수 있는 내용들이라
개인용으로 적용 해 보고 싶어서요
투자는 대략 500만원정도 생각하고 있지만 이게 다소 막막한 부분이라 애매하네요
perplexity한테 물어본 바로는, 요즘은 노코딩으로도 구축이 가능하다고는 하는데
제가 이해 할 만큼 상세하게는 설명을 안해줘서 말이죠
혹시 저같은 사람을 위해서 어디 설명이 좀 되어있는 곳이나 혹은 유튜브 영상 같은거 추천 해 주실수 있는분 계신가요
큰 도움이 될 것 같습니다.
댓글 (10)
-
아아찌
25.07.11 · 58.♡.152.90
-
홍홍천브람스
→ 아찌 작성자
25.07.11 · 112.♡.106.194
오 아닙니다. 그런게 있는줄 모르고 있었어요. 뭔지 찾아보겠습니다 ㅎㅎ -
가가랑비
25.07.11 · 58.♡.137.93
기존 서비스 중 좀 비싼 요금제에 있을 것 같은데.
서버에 저장 안하고
학습에 사용하지 않는 것으로
한번 찾아보셔도 될듯요.
엔터프라이즈가 보통 그런 용도일텐데
소규모 회사에는 어떨지 모르겠네요. -
홍홍천브람스
→ 가랑비 작성자
25.07.11 · 112.♡.106.194
답변 감사합니다. 검색 한번 해봐야겠네요 - 김
김진사
25.07.11 · 125.♡.32.73
ollama로 한번 돌려보세요. 생각보다 쉽습니다. 제한된 용도로 특별히 튜닝된 모델을 쓰면 모르겠지만 범용 llm과 유사한 품질이나 속도를 생각 하신다면 어렵지 싶습니다. 특히 자료 올려놓는게 리소스 많이 잡아 먹는걸로 알고 있습니다. 저도 로컬로 한번 돌려보고 바로 포기했네요. pc로 돌리기엔 무리 같습니다. -
홍홍천브람스
→ 김진사 작성자
25.07.11 · 112.♡.106.194
감사합니다. ollama가 뭔지부터 알아봐야겠네요 ㅎㅎ -
아아찌
→ 김진사
25.07.12 · 58.♡.152.90
죄다 gpu빨(?)이 필요하긴 하죠 메모리도 많이 먹고..
pc에서 소형모델로 돌려보고 부족하다 싶으면 하드웨어에 투자를 좀 해볼만은 합니다
총알은 있으시다니 웬만큼 큰 모델도 사용 가능할겁니다 -
칼칼쓰뎅
25.07.12 · 119.♡.210.192
말씀하시는게 구글의 notebooklm 가 가깝지않나 싶습니다.
근데 local llm으로 하기에는...좀 쉽지가않은게, llm의 급수가 낮은것도 문제고,
무엇보다 정제된 데이터를 llm에게 넣어줄수 있어야합니다.
근데 보통은 개떡같이 말해도 찰떡같이 알아듣는 ai를 원하죠 ㅋㅋㅋㅋ -
MMDBK
25.07.12 · 104.♡.44.89
물어보신거랑 제가 생각한게 맞다면 Ollama랑 obsidian으로 구성가능 할듯합니다.
저도 비슷한걸 꾸미려고 하는데 옵시디언이 webui로 좀 구성이 되면 좋겠지만 그냥 로컬로만 깔아야해서 안하던 컨셉입니다.
아래 영상 같은걸 원하시는거 같은데 뒷부분에 ollama랑 연결해서 사용합니다.
간단하게 ollama obsidian이라고 유투브에 치시면 영상 더 나오니 확인해보시고 따라할 만한 영상 있으시면 더 찾아보시면 될듯 합니다
https://youtu.be/tC9wegnRyZk?si=9Y9z8fmPrV2DplbQ -
홍홍천브람스
→ MDBK 작성자
25.07.12 · 39.♡.46.56
제가찾던 내용입니다. 정말 감사드립니다!
댓글을 작성하려면 이 필요합니다.
오픈소스로 공개되어있는 llm을 로컬에 설치해서 사용하시는 정도로는 용도에 부족하신건가요?
개인적으로 따로 돈 투자하실만한 내용은 아닌듯 보이긴 합니다.
본문 내용상으론 AnythingLLM 같은 거 이용하시면 손쉽게 구축이 가능해 보이는데요, 써보셨는데 부족하셨던건지 궁금하네요