https://www.youtube.com/watch?v=guW-vdBLxtg

LM Studio 또는 OpenAI 엔드포인트 형식의 LLM과 연동할 수 있습니다.

Go와 Wails를 사용하여 제작했으며, Windows, macOS(Universal2), Ubuntu로 릴리즈했습니다.

어제 새벽에 마무리를 하긴 했지만 미비된 점이 있을 수 있습니다.

https://github.com/DINKIssTyle/DINKIssTyle-Local-LLM-Gateway-with-TTS

https://github.com/DINKIssTyle/DINKIssTyle-Local-LLM-Gateway-with-TTS/releases

베타2

• TTS 최적화를 극대화하고 있습니다.
• 이제 LLM 응답중에 TTS 생성을 시작합니다.

베타3

• TTS 음질 다양화
• WAV (Original): 로컬용 MP3 변환 자원없이 생성 그대로 재생
  • MP3 (High Quality - 128kbps): 음성으로 차고 넘치는 고음질 그러나 용량은 Wav의 1/10 수준 용량
  • MP3 (Medium - 96kbps): 밸런스가 적절한 음질
  • MP3 (Low Bandwidth - 32kbps): 느린 무선 네트워크의 모바일 기기용
• 모바일 사파리(웹킷)에서 TTS 재생 문제 해결
• 일부 특수문자에 의한 음성 생성 문제를 해결
• 말풍선 스피커 버튼 작동 이상 해결

베타4

• TTS 생성 및 재생에 더 많은 최적화
• 사용자 설정 추가
  • -- TTS 생성 추론 스텝을 지정할수 있습니다. 기본값은 5,
    • 스텝을 2로 해도 고전적인 TTS에 비해 훨씬 나은 품질입니다. 8스텝도 한번 경험해보세요.
  • -- TTS 생성 추론에 사용할 CPU 쓰레드를 조절할 수 있습니다.
    • 2 이상으로 올리면 병목 현상으로 더 느려집니다. 현재는...
• LLM 모델키를 수동으로 입력하지 않아도 되도록 LLM 서버의 목록을 보여줍니다 (첫 대화시 모델 로딩)
• TTS 음성 재생 중 모바일 기기의 화면 꺼짐을 방지하도록 노력중입니다.

베타5

부팅시 시작, 트레이로 내리기, 시작시 서버 자동 시작 옵션 추가
Windows와 Linux에서 창을 닫고 System Tray에 상주할 수 있습니다.
macOS의 경우 창을 닫고 Menubar(Syst2mUI)에 상주하나 Dock에 남아있습니다.

사용자는 System Prompt Preset 을 사전에 설정할 수 있습니다.
Windows와 Linux는 실행파일이 위치한 폴더내 system_prompt.json 을 이용하고,
macOS의 경우 ~/Documents/DKST LLM Chat/system_prompt.json 을 이용합니다.

사용자는 사용자화 된 발음 사전을 이용할 수 있습니다.
Windows와 Linux는 실행파일이 위치한 폴더내 dictionary_언어.txt 를 이용하고,
macOS의 경우 ~/Documents/DKST LLM Chat/dictionary_언어.txt 를 이용합니다.
웹 채팅 창의 설정 중 TTS 언어에 따라 사용 됩니다.
사용예: macOS, 맥오에스 ; macOS란 단어를 맥오에스라고 발음합니다.
개발 초기 단계의 사전편집기 (Dictionary_editor.py) GUI 도구가 있습니다.

웹 채팅 처음 접속시 사용환경을 체크하고, 문제 해결을 알려줄 준비 중에 있습니다.

콘솔로그에 사운드 파일 용량과 클라이언트에게 보내는 데 걸린 시간이 추가되었습니다