로컬 LLM을 이용하는 AI 번역기 제작해본 후기.gif
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2026년 4월 3일 AM 12:33

조회 2,498 공감 0

처음에는 구글이 젬마3을 배이스 모델로 이용해서

번역 특화 모델로 내놓은 TranslateGemma(4B가 배이스인 Gemma3의 9B~12B 품질)가 너무 궁금해서 시작했다가..

역할 전용 모델이라 프롬프트 확장이 제한적이라 마음대로 다루기가 어렵더라구요.

그래서 그냥 일반 Qwen 모델이나 돌리려고 방향을 선회했습니다.

Qwen이 한말이긴 하지만 자기가 TranslateGemma보다 번역에서 잘났다고 하더라구요 ㅋㅋㅋㅋ

여하튼 각설하고...

번역앱에서 중요한건 역시나 얼마나 긴 문장을 문맥을 유지하며 번역할 수 있는가? 입니다.

구글 번역이 5,000자 제한인데..

지금 만들고 있는 이 앱은 구글 번역보다는 훨씬 긴 글을 처리합니다..

10,000자 까지는 해보니 거뜬하고..

몇자까지 될지는 저도 사실 모르겠습니다.

구현 방법은 청킹을 나누고, 청킹과 청키 사이는 슬라이드 오버, 오버랩을 줍니다.

그리고 이미 번역이 완료된 문맥은 압축해서 참고합니다.

매번 번역 내용이 달라지기 때문에 온도 조절을 좀 해봐야 겠지만..

현재는 아래 처럼 작동합니다. 중간 중간 딸꾹질 하는 부분이 오버랩 해서 새롭게 이어가는 부분들입니다.

사용자 치침 프롬프트

고전 동화 스타일로 의역해서 번역하세요. 원본 형식을 유지하세요.

Important! 야드파운드법은 미터법으로 환산해서 미터법으로 표기하세요.

내부적으로는 TranslateGemma의 표준 프롬프트 조립을 참고해서 만들었습니다.


{ "model": "qwen3.5-4b", "input": "You are a professional source language to Korean translator. Your goal is to accurately convey the meaning and nuances of the original source language text while adhering to Korean grammar, vocabulary, and cultural sensitivities.\n\n고전 동화 스타일로 의역해서 번역하세요. 원본 형식을 유지하세요.\nImportant! 야드파운드법은 미터법으로 환산해서 미터법으로 표기하세요.\n\nCurrent section: Chunk 4/4.\n\nContext from the previous translated section:\nSource tail: This time she found a small bot-tle on it (\"which I am sure was not here just now,\" said Al-ice), and tied round the neck of the bot-tle was a tag with the words \"Drink me\" printed on it.\nTranslated tail: 이번에는 그 위에 작은 병 하나를 발견했는데, 알리스는 \"이게 지금 여기 있었겠는가?\"라고 생각했다. 병 목에 \"마셔라\"라는 글자가 적힌 라벨이 걸려 있었다.\nUse this only to preserve continuity and terminology. Do not repeat already translated content.\n\nRecent source overlap for continuity:\

*로딩이 다되었다면 1배속 GIF지만.. 사용자 컴퓨터, 핸드폰 성능에 따라 다를 수 있습니다.

"내가 어떻게 이렇게 이상하게 느껴지는지," 알리스는 말했다. "내가 예전보다 작아진 것 같아." 그렇던 것이다; 그녀는 이제 한 피트 (약 30 센티미터) 높이에 불과했고, 작은 문으로 들어가고 사랑스러운 정원을 나오기에 딱 맞는 크기가 되었다는 생각에 얼굴이 밝아졌다.

ㅋㅋㅋ 미터법 표기가 깨알같쥬~?

댓글 (11)

  • M

    M.M. Lv.1

    04.03 · 125.♡.138.133

    조용히 올라가는 추천 수... ㅋㅋㅋㅋ

  • 진짜메뚜기 Lv.1

    04.03 · 14.♡.42.248

    놀랍네요..

  • 농약벌컥벌컥

    농약벌컥벌컥 Lv.1

    04.03 · 211.♡.184.190

    {emo:damoang-meme-002.gif}

  • LOWES

    LOWES Lv.1

    04.03 · 218.♡.81.1

    오오..

  • Land.of.Sugar

    Land.of.Sugar Lv.1

    04.03 · 143.♡.84.155

    대단하시네요. 역시 맥락을 유지하는 스킬이 중요하네요.

  • DINKIssTyle

    DINKIssTyle Lv.1 → Land.of.Sugar 작성자

    04.03 · 118.♡.5.62

    계속 개선 중인데 쉽지만은 않군요 ㅎㅎ

  • blueship

    blueship Lv.1

    04.03 · 180.♡.248.31

    놀랍네요.ㅎㅎ 운영환경이 궁금해요.

  • DINKIssTyle

    DINKIssTyle Lv.1 → blueship 작성자

    04.03 · 118.♡.5.62

    M4 Pro 64GB 입니다

  • 샤카

    샤카 Lv.1

    04.03 · 221.♡.220.105

    대단합니다.

  • 동독도

    동독도 Lv.1

    04.03 · 198.♡.207.102

    You are a professional source language to Korean translator <--이런걸 system input에 넣으면 반응이 좀 다른가요? 항상 요런 칭찬 혹은 응원 비슷하게 시작하더라구요. 그래서 궁금합니다.

댓글을 작성하려면 이 필요합니다.