🛠️ 코어 및 백엔드 최적화

• 코드 리팩토링: App.js의 방대한 로직을 모듈별로 분리하고, 불필요한 레거시 함수(Dead Code)를 제거하여 유지보수성을 높였습니다.

• 설정 데이터베이스 마이그레이션: 기존 JSON 파일 기반의 사용자 설정을 DB 체제로 이전했습니다. 기존 설정은 실행 시 자동으로 마이그레이션됩니다.

• 네트워크 안정성 강화: SSE(Server-Sent Events) 연결 유지 로직을 개선하여 빈번한 서버 재호출 현상을 해결하고, 액티브 창이 비활성화되는 현상을 완화했습니다.

• 런타임 호환성: Windows 및 Linux 환경에서의 ONNX Runtime 관련 이슈를 수정하여 크로스 플랫폼 안정성을 확보했습니다.

📝 채팅 및 렌더링 개선

• 마크다운 엔진 수정: 렌더링 오류를 수정하고, 대화 저장 시 마크다운 형식이 유실되던 버그를 해결했습니다.

• 자동 스크롤 제어: 채팅 옵션에서 '응답 시 자동 스크롤' 여부를 선택할 수 있는 자동 스크롤 안 함 모드가 추가되었습니다.

• 모바일 사용성: 모바일 기기에서 메시지 전송 후 키보드 자동 닫기 옵션을 선택할 수 있습니다.

🎨 UI/UX 및 편의 기능

• 서버 관리 안내 강화: 서버 관리창의 각 섹션마다 도움말(?) 버튼을 추가했습니다. 클릭 시 이미지와 함께 상세한 안내 모달이 표시됩니다.

• 신규 사용자 가이드: 초기 실행 시 필수 에셋을 즉시 준비할 수 있도록 에셋 다운로드 창을 자동으로 제공합니다.

• MCP 도구 지원: MCP(Model Context Protocol) 통신 장애 시, 해결 방법 안내와 함께 mcp.json 작성 예시를 화면에 출력합니다.

• 디자인 및 로컬라이징:

  • 서버 관리창에 i18n(다국어화)을 적용하여 이제 모든 메뉴를 한국어로 이용할 수 있습니다.

  • 기본 폰트를 Noto Sans KR로 변경하고, Google Material Symbols를 최신 버전으로 업데이트했습니다.

  • 채팅 옵션 항목을 직관적으로 재구성하였습니다.

https://github.com/DINKIssTyle/DINKIssTyle-Local-LLM-Gateway-with-TTS/releases

와.. 주말간 엄청나게 달려보았습니다.

아직 미비된 작업으로는 웰컴스크린(언어 선택 - 모델 다운로드(구현됨) - 계정생성) 다단화인데,

어느정도 처음 접하시는 분들도 사용하시는 큰 어려움이 없을 듯합니다.

제가 만들었지만...

프리필 속도(FTS5+Vector를 이용한커스텀 배경/문맥 시스템)는 정말 좋습니다.

문맥의 지속도도 꽤 뛰어난데요..

사실상 RAG에 모든 히스토리를 다 기억하고(망각 기능이 있지만 중요도를 점수 냅니다),

개인 프로필을 스스로 판단해서 생성하기 때문에 쓰다보면 놀랄때가 있습니다.

예를 들어 5월 14일은 몇요일이지? 하고 물어보면 요일을 말해주며, 결혼기념일이네요~ 선물은 준비하셨나요? 이런식으로 대답하기도 하고. 처음 상상했던거 보다 개인화가 잘됩니다.

그래서.. 다음으로 생각중인 MCP도구는 일기 기능을...

뭐 이렇게 쌓다보면 늙어 죽을 때쯤 저 하나 복사 해놓고 죽는 기분이 들겁니다. ㅎㅎㅎ

이 글은 AI당 https://damoang.net/ai/2300/ 에서 복사 되었습니다!

LLM 가지고 놀거나, 뭘할까 고민하시는 분들~ DKST LLM Chat와 함께하세요~~