Llama 3.2 vision 설치 & 사용

Llama 3.2 vision 같은 LLM은 어떻게 돌려 보나요?

이때까지 나온 Llama 3.1이나 Llama 3.2 text 같은 경우는 huggingface에서 Q6 gguf 받아서 GPT4All로 돌렸는데, 이건 그런 간단한 방법이 없을까요?