Qwen3.5:0.8b로 실시간 자막 생성하는 모습.gif
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2026년 3월 18일 AM 09:48

조회 680 공감 0

GIF파일이 다 로딩되었다면, 재생속도는 1배속입니다.

업로드를 위해서 5fps의 GIF파일이지만 실제로는 매우 부드럽게 생성하고 있습니다.

대충보니깐 매 프레임마다 아래와 같은 프롬프트로 생성되고 있습니다.

const SYSTEM_PROMPT =

'현재 비디오 프레임을 한국어로 간결한 실시간 자막처럼 설명하세요. 보이는 행동, 화면 구성 변화, 화면의 텍스트, 사람, 사물, 움직임을 중심으로 사실만 설명하고 추측은 피하세요.';

text: 현재 ${frameTimeLabel} 시점에 캡처한 비디오 프레임을 한국어로 설명하세요. 보이는 행동, 사람, 사물, 화면 텍스트, 주요 장면 변화를 포함하고 간결하고 사실적으로 작성하세요.,

자세히 더 살펴보니 토큰 제한을 500으로 두어 이런 속도가 가능한것입니다.

작은 모델, 필요한 만큼만 토큰 제한 이렇게 최적화되어 필요한 목적만 빠르게 달성!

https://github.com/stevibe/local-llm-video-captioning

uv 구성이라 macOS에서는 쉽게 사용해보실 수 있습니다.

댓글 (9)

  • 존슨즈베이비로션

    존슨즈베이비로션 Lv.1

    03.18 · 211.♡.160.142

    0.8B 가 성능이 좋네요 ㄷㄷㄷ
    근데 VLM 쪽이고 frame 별로 상황을 묘사하는거같은데요...?
    자막이라기보단 상황묘사 쪽

  • DINKIssTyle

    DINKIssTyle Lv.1 → 존슨즈베이비로션 작성자

    03.18 · 61.♡.73.102

    네, STT는 아닌거 같아요~

  • 고구마맛감자

    고구마맛감자 Lv.1

    03.18 · 124.♡.82.66

    보다 효율적인 자막 생성 및 상황설명기이군요.....

    그럼 오늘은 이걸로 정했습니닷~!

  • 셀레본 Lv.1

    03.18 · 112.♡.41.1

    프레임 별로 생성을 해서 그런가, 윗분 말씀대로 자막 생성이라기보다는 프레임 설명으로 보이고, 이걸 주기적으로 실행하다 보니 반복되는 내용이 상당히 많아 보이네요.

    그래도 이런게 된다는게 신기합니다. ㅎㅎ

  • 다시머리에꽃을 Lv.1

    03.18 · 106.♡.194.101

    0.8b 인데 잘해내네요.. 이게 특정 목적에(실시간 자막 등) 맞게 튜닝된 추론모델까지 쓴다면 더 잘될 수도 있겠네요

  • 플루

    플루 Lv.1

    03.18 · 118.♡.5.251

    어후.. 0.8b 라해도 계속 프레임 분석해서, 결과를 낸다는게.

    llm 성능이 년마다 급격히 상승하네요.

  • 스파크1004 Lv.1

    03.18 · 59.♡.23.253

    gpu는 어떤거에요?

  • DINKIssTyle

    DINKIssTyle Lv.1 → 스파크1004 작성자

    03.18 · 61.♡.73.102

    이건 mlx라는 애플 실리콘 전용 프레임웍스에요.

    애플 실리콘에서만 작동합니다.

    쿠다용은 다른 레포를 찾아보셔야 합니다.

    물론 성능은 쿠다쪽이 훨씬 좋겠죠 ㅎㅎ

  • 5호라

    5호라 Lv.1

    03.18 · 175.♡.10.77

    음.. 1660s에서 함 돌려봐야 겠네요.

댓글을 작성하려면 이 필요합니다.