컨텍스트가 다 차면 그 대화는 끝인가요?
페이지 정보
작성자
웬디
웬디
작성일
2025.03.16 19:21
본문
안녕하세요?
chatgpt plus 및 pro 찍먹으로 ai를 사용하면서, 제가 썻던 방법은 계속해서 내용을 질문하고, 수정 요청하고,
마음에 드는 결론이 나올 때까지 축적된 데이터를 활용하는 방법으로 이용 중입니다.
이번에 로컬에 lm studio로 딥시크 70b 경량화 버전과 gemma3 27를 설치해서 사용하고 있는데,
컨텍스트가 몇 퍼센트 찼다는 안내문구가 입력창 아래에 뜨더라구요. 그래서 물어보니 100%가 차면 이전 대화를 지우던지, 대화가 제대로 진행이 안된다고 설명해주네요.
새로운 채팅으로 시작해도 연동이 안된다고하고... 어떻게 사용하고들 계신지 궁금하고, 계속해서 채팅을 연동할 수 있는 방법이 있는지도 여쭤봅니다~
1명
추천인 목록보기
댓글 2
/ 1 페이지
웬디님의 댓글의 댓글
작성일
03.21 15:48
@RadFaith님에게 답글
그냥 제가 필요한 정보 검색하고 몇번 대화 나누니 금방 차더라구요...
요약이나 정리, 여러 정보를 저장하기 위해 길게 쓰기도 하고요....
사용 -> 요약 -> 다시 사용이 일단 답이군요~ 감사합니다.
요약이나 정리, 여러 정보를 저장하기 위해 길게 쓰기도 하고요....
사용 -> 요약 -> 다시 사용이 일단 답이군요~ 감사합니다.
RadFaith님의 댓글
로컬에서 사용하면 메모리 관계상 긴 컨텍스트 쓰기가 어렵기도 하고 컨텍스트가 길어지는 만큼 속도가 느려지기도 하고 중간에 바뀐 내용과 처음 내용을 혼동하는 경우도 있어서 컨텍스트 꽉 차지 않더라도 중간중간 리셋해서 쓰고 있습니다.
저는 컨텍스트가 어느정도 차면 아래 문구와 유사한 내용으로 대화 내용을 요약해 달라고 하고 정리된 내용을 새 챗의 첫 문장에 집어넣습니다.
새로운 채팅을 시작하는데 사용할 수 있게 지금까지의 내용을 정리해 줘. 아래와 같은 점을 유의해서 정리해줘.
1. 내가 이야기한 요구사항들은 모두 포함해야해.
2. 내가 중간에 언급한 참고사항들을 모두 포함해야해.
3. 네가 작성해준 최신의 코드를 생략하는 부분 없이 포함해줘.