솔고래 (223.♡.78.112)
2026년 4월 9일 PM 04:31
물론 아직 어떻게 써야할지 감은 없는데
제미나이에서 대화 목록 가져와서
밀어넣어서 데이터 뽑아 먹을라 해도
램 영역으로 넘어가면 속도도 떨어지지만
연속성으로 데이터를 뽑지 못하는 군요
음.. 이건 단순 텍스트라서 그런거 일수 있고
그럼 긁어서 던져주면 context window 초과군요. 최대치도 한계가 크니 그럼 나누어서 해야 되겠지만 막연하게 들이밀기엔 제약이 크군요
GPU 성능이 8GB고 램이 DDR5 64GB면 조금이나마 머라도 될지 않았던 제 노트북은 제미나이랑 그냥 노는게 맞는거 같네요 ㅎㅎ
사실 어떻게 써야 할지 감도 없는것도 있고 하니..
댓글 (14)
-
크크레이지호
04.09 · 106.♡.243.34
- 솔
솔고래
→ 크레이지호 작성자 04.09 · 223.♡.78.112
체험한거로 정리해야 될거 같습니다 흑흑
-
남남극백곰
04.09 · 114.♡.188.135
통합램 좋아요~ 제가 요즘 LLM만지면서 느낀건 그냥 유료모델이 최고다 로컬은 진짜 가벼운 모델아니면 답이 없다 임미다 ollama에서 20달러 짜리 프로 사용하는데 cloud모델로 하면 반응은 느려도 큰 모델 사용할 수 있어서 좋아요
- 솔
솔고래
→ 남극백곰 작성자 04.09 · 223.♡.78.112
진짜 맛만 봤다고 생각하려구요 ㅎㅎ
업그레이드 생각만 드네요 ㅋㅋ
- 남
남극백곰
→ 솔고래 04.09 · 114.♡.188.135
ollama에서 무료로 사용가능한 용량 조금 주는데 cloud모델 사용해 보세요 전 로컬에서 gemma4 26 사용하다가 glm5 cloud로 바꿨는데 확실히 클라우드가 서버에서 운영하는거라 그런지 좋은거 같아요
- 솔
솔고래
→ 남극백곰 작성자 04.09 · 223.♡.79.252
ollama도 마저 경험해보겠습니다 ㅎ
-
냉냉동실발굴단
04.09 · 58.♡.128.33
그래서 그냥 제가 월 20달러짜리 구독형으로 클라우드 LLM 돌리고 노는 거죠. +_+ 빵빵하게 잘 돌아가는데 하드웨어는 남의 것이라 나이 많은 제 컴에는 무리도 가지 않습니다. ㅎㅎㅎ
- 솔
솔고래
→ 냉동실발굴단 작성자 04.09 · 223.♡.78.112
제 업무용 노트북은 제미나이나 쓰는걸로요 ㅋ
- 냉
냉동실발굴단
→ 솔고래 04.09 · 58.♡.128.33
저도 위에 남극백곰님처럼 ollama 굴리는데 유료로 씁니다. api 받아서 LLM으로 자잘한 생각 정리할 때 쓰니 유용하더라구요. ㅎㅎㅎ
- 솔
솔고래
→ 냉동실발굴단 작성자 04.09 · 223.♡.79.252
유료까지 갈진 모르지만 이것도 마저 경험해봅니다 ㅎ
댓글을 작성하려면 이 필요합니다.
네..청킹해서 맵리듀스해도....결국 리소스가 작아서 품질은 떨어지게 되어있습니다....결국 돈주고 쓰게 되더라고요..
앞에 내용은 다 날려먹고....이상한 결과만 나오더군요..ㅠㅠ