스파크 사용중입니다.
이
이런저런 (121.♡.109.151)
2026년 3월 17일 PM 09:01
조회 544 공감 0
그래픽카드 하나로 llm 구동해 보다 Spark 가 두개까지 늘어나게 되었습니다.
이것저것 가능한 큰 사이즈 모델들 구동을 테스트 해 보고 있네요
댓글 (3)
-
가가꾸
03.18 · 168.♡.128.42
- 이
이런저런
→ 가꾸 작성자 03.18 · 121.♡.109.151
전 Qwen3.5-122B-A3B 의 FP8 양자화 버전을 주로 사용할 것 같습니다.
-
씽씽크왕
04.04 · 210.♡.62.132
안녕하세요. 잘 몰라서 그러는데 저런 건 어디서 살 수 있나요?
댓글을 작성하려면 이 필요합니다.
저도 2대 사용중인데, 혹시 어떤 모델 돌리시나요?
저는 "nvidia/Qwen3-235B-A22B-Thinking-2507-NVFP4" 해당 모델 돌려봤는데 두개 다 110GB 메모리 차지하더라고요