[ComfyUI] GGUF를 사용하는 방법과 이유
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2025년 11월 17일 PM 01:56 · 수정됨(14:11)

조회 1,441 공감 0


ComfyUI와 같은 AI 이미지 생성 환경에서 SafetensorsGGUF는 모델을 저장하고 불러오는 두 가지 주요 파일 형식입니다. 이 둘은 사용 목적하드웨어 활용 방식에서 큰 차이가 있습니다.

핵심 차이를 한 줄로 요약하면 다음과 같습니다.

1. Safetensors (.safetensors)

현재 Stable Diffusion 및 대부분의 AI 모델의 표준 형식입니다.

"Safetensors는 GPU 성능을 극대화한 원본 품질의 표준 규격이고, GGUF는 저사양 하드웨어(적은 VRAM)에서도 거대 모델을 돌릴 수 있게 최적화(양자화)된 규격입니다."


  • 특징:

    • 안전성: 기존 .ckpt 형식(Pickle)이 악성코드를 포함할 수 있던 보안 취약점을 해결했습니다. 순수하게 텐서(데이터)만 저장하므로 안전합니다.

    • 속도: 'Zero-copy' 기술을 사용하여 모델을 메모리에 로드하는 속도가 매우 빠릅니다.

    • 품질: 일반적으로 FP16(16비트) 또는 FP32(32비트) 정밀도를 사용하여 모델의 원본 품질을 유지합니다.

  • 장점:

    • ComfyUI, WebUI 등 모든 툴에서 기본적으로 완벽하게 지원합니다.

    • GPU 메모리(VRAM)가 충분하다면 최고의 화질과 속도를 보장합니다.

  • 단점:

    • 용량이 큼: 모델 파일 크기가 크고, 실행 시 많은 VRAM을 요구합니다. (예: FLUX.1 모델의 경우 20GB 이상 필요할 수 있음)

2. GGUF (.gguf)

원래는 언어 모델(LLM, 챗봇)을 CPU나 저사양 GPU에서 돌리기 위해 개발되었으나, 최근 **ComfyUI용 확산 모델(Diffusion Models)**로 이식되었습니다.

  • 특징:

    • 양자화(Quantization): 모델의 정밀도를 16비트에서 8비트, 4비트 등으로 낮춰 압축합니다. (예: Q8_0, Q4_K_M 등으로 표기)

    • 유연한 하드웨어: VRAM이 부족하면 시스템 RAM(CPU)을 끌어다 쓰는 '오프로딩' 기능이 뛰어납니다.

  • 장점:

    • 낮은 VRAM 요구량: VRAM이 8GB~12GB인 일반 사용자도 FLUX.1 같은 초거대 모델을 구동할 수 있게 해줍니다.

    • 파일 크기 감소: 용량이 획기적으로 줄어듭니다.

  • 단점:

    • 화질 손실: 양자화 단계가 낮아질수록(Q4 이하) 미세한 디테일이나 텍스처 품질이 원본(Safetensors)보다 떨어질 수 있습니다.

    • 속도 저하: VRAM 대신 시스템 RAM을 많이 사용하게 되면 생성 속도가 느려질 수 있습니다.

    • 설치 필요: ComfyUI에서 사용하려면 별도의 ComfyUI-GGUF 커스텀 노드를 설치해야 합니다.


3. 상세 비교표

특징SafetensorsGGUF
주 사용처고성능 GPU 환경 (표준)VRAM 부족 환경 / 거대 모델 구동
데이터 정밀도FP16 / FP32 (원본 품질)Q8, Q5, Q4 등 (압축 품질)
VRAM 소모높음 (모델 전체를 GPU에 로드)낮음 (필요시 RAM과 분담)
생성 속도매우 빠름 (GPU 연산 최적화)설정에 따라 느려질 수 있음
ComfyUI 지원기본(Native) 지원커스텀 노드 필요
추천 모델SD 1.5, SDXL, Pony 등FLUX.1, SD3 등 고사양 모델

4. 어떤 것을 선택해야 할까요?

A. 이런 분들은 Safetensors를 쓰세요:

  • NVIDIA RTX 3090, 4090 등 VRAM 24GB 이상의 고성능 그래픽카드를 사용 중이다.

  • 일반적인 SD 1.5나 SDXL 모델을 주로 사용한다.

  • 타협 없는 최고의 화질과 빠른 생성 속도가 중요하다.

B. 이런 분들은 GGUF를 쓰세요:

  • VRAM이 6GB ~ 12GB 수준인 일반 그래픽카드(3060, 4060, 4070 등)를 사용 중이다.

  • 요즘 유행하는 FLUX.1 같은 고사양 모델을 꼭 써보고 싶은데, Safetensors 버전은 에러(OOM)가 나서 실행이 안 된다.

  • 약간의 화질 저하(확대해서 보지 않으면 모를 수준)는 감수할 수 있다.


도움이 되셨나요?

혹시 ComfyUI에서 GGUF 모델을 사용하기 위한 커스텀 노드 설치 방법이나, 본인의 그래픽카드 사양에 맞는 적절한 GGUF 양자화 단계(Q4, Q8 등) 추천이 필요하시면 말씀해 주세요.








------------

제미나이가 길게 설명해줬지만, 간단하게 요약하자면,

GGUF를 이용하면 메모리를 크게 절약할 수 있습니다.

그리고 로딩속도가 빠릅니다. 아니.. 없습니다. 그냥 쓰더라구요.


그럼 GGUF를 쓰려면 추가적인 워크플로우 구성이 필요할까요?

아닙니다. 그냥 모델로 로딩해주면 끝입니다.


그래서 제가 최근에 이런 노드를 만들어봤어요.



Safetensors와 GGUF 두개다 선택해놓고 모델로 쓸 수 있습니다.

use_gguf boolean 을 선택하면 gguf를 이용해서 확산 모델로 사용합니다.

그래도 가끔은 티끌만큼이라도 고품질로 뽑겠다 할땐 use_gguf boolean 를 끄시면 됩니다.

그런데 Q4_K_M 만 되어도 품질 차이 크게 못 느끼겠습니다.

https://github.com/DINKIssTyle/ComfyUI-DINKIssTyle

댓글 (2)

  • DINKIssTyle

    DINKIssTyle Lv.1 작성자

    25.11.17 · 61.♡.73.102

    으읔 글씨색이 안바뀌네요
  • 간장파닭

    간장파닭 Lv.1

    25.11.17 · 221.♡.181.135

    감사합니다. 3060 ti 사용중인데, GGUF면 사용해봐도 되겠어요.

댓글을 작성하려면 이 필요합니다.