Vram 8GB에서 70b AI 모델 탑재는 무리였습니다 ㄷㄷㄷ
휘
휘소 (210.♡.27.154)
2025년 8월 5일 PM 05:21 · 수정됨(08. 06. 09:37)
조회 651 공감 0
메모리가 모자라서 안되네요 ㄷㄷㄷㄷ
메모리 20GB면 맥미니 3개는 스택해야겠네요...
12b 모델들이나 써야겠습니다.
댓글 (2)
-
일일리케
25.08.05 · 221.♡.121.81
중국에서 나온 모델중에 8기가에서도 잘 운영되는 모델이 있는데 그것도 무려 영상관련 모델이 있더군요...ㄷ ㄷ ㄷ - 휘
휘소
→ 일리케 작성자 25.08.06 · 210.♡.27.154
deepseek도 써보고 싶은데, 보안문제 때문에 꺼려지네요.
나중에 맥미니 사면 따로 돌려서 써볼까 싶어요.
댓글을 작성하려면 이 필요합니다.