3060 12gb를 언제까지 쓸까 고민입니다
알림
|
페이지 정보
작성일
2025.01.07 14:02
본문
1660을 사용하다가 AI 로컬 용으로 써본다고 지른 3060이 마이 힘들어하고 있습니다.
AI 로컬을 재미로 돌려보는 정도인데, 그림 뽑는데 있어서 12기가는 요즘 간당간당하고,
LLM은 .... 너무 힘들어하고 있습니다. 그나마 Whisper AI는 잘 돌아가서 감사히 사용하고 있습니다.
없는 돈을 쥐어짜내서 4060ti 16gb를 살까 기웃기웃거리고 있는데,
중고값도 비싸고 50xx가 나온다고 하는데 버텨봐야 하나 싶기도 하고
이런 저런 생각만 하고 있습니다.
50 시리즈는 신제품이라 가격도 비쌀 것이고, 황회장이 vram 짠돌이짓을 해서 갈까말까 하고 있습니다.
50 시리즈가 이제 정식 출시를 눈앞에 두고 있으니 4060ti 값이 떨어진다면 금상첨화일 듯 한데
아직 하위 라인업이 안나와서 좀 더 기다려 봐야겠습니다.
vram 팍팍 넣어주면 어디 탈나는지...애플도 황회장도 참, 램크루지입니다.
댓글 13
/ 1 페이지
수필님의 댓글의 댓글
@리치방님에게 답글
게임 성능으로 불만은 하나도 없습니다. 3060으로 LLM 돌릴 때가 가장 큰 불만인 상황이라, vram만 컸으면 하는 바람입니다 ㅋㅋ
리치방님의 댓글의 댓글
@수필님에게 답글
음..그렇죠 AI돌리려면 아무래도 매끄럽지는 못하겠군요..
저는 3060 -> 3090 사용하다가 4090을 조금 늦게 갈아탔는데 업무적으로나 취미로나 매우 만족스럽습니다~!
저는 3060 -> 3090 사용하다가 4090을 조금 늦게 갈아탔는데 업무적으로나 취미로나 매우 만족스럽습니다~!
bono7님의 댓글
저도 3060 12g AI 그림용으로 샀는데
Flux는 넘 느려 답답해서 아직도 SD 1.5에서 머물러 있네요.
5060TI 16gb 노리는데 8~90만원 될것 같아 무섭네요.
Flux는 넘 느려 답답해서 아직도 SD 1.5에서 머물러 있네요.
5060TI 16gb 노리는데 8~90만원 될것 같아 무섭네요.
수필님의 댓글의 댓글
@bono7님에게 답글
저도 가격이 무섭습니다. 4060ti 16gb 가격만 떨어뜨려주길 바라는데, 그럴려면 가성비있게 나와야 할텐데 말이죠 ㅠㅠ
저는 SD 1.5를 주로 쓰다가 최근에 ILXL로 넘어왔습니다. 다시 열심히 뽑아보고 있는데, ILXL 물건입니다. (vram은 간당간당합니다만 Out of memory는 잘 안뜨네요) 2D 그림을 주로 뽑으신다면 ILXL로 넘어오시면 또 신세계입니다.
저는 SD 1.5를 주로 쓰다가 최근에 ILXL로 넘어왔습니다. 다시 열심히 뽑아보고 있는데, ILXL 물건입니다. (vram은 간당간당합니다만 Out of memory는 잘 안뜨네요) 2D 그림을 주로 뽑으신다면 ILXL로 넘어오시면 또 신세계입니다.
bono7님의 댓글의 댓글
@수필님에게 답글
흑흑.. 저는 real파라... flux 저용량 버전쪽으로 힘들더라도 해봐야겠습니다.
수필님의 댓글의 댓글
@bono7님에게 답글
최근에 플럭스 1.58bit 모델이 나왔다고 하더군요.
https://www.reddit.com/r/LocalLLaMA/comments/1hr4ifw/bytedance_research_introduces_158bit_flux_a_new/
https://huggingface.co/papers/2412.18653
한번 보시고 나중에 체크포인트 올라오면 성능 체크해보세요.
https://www.reddit.com/r/LocalLLaMA/comments/1hr4ifw/bytedance_research_introduces_158bit_flux_a_new/
https://huggingface.co/papers/2412.18653
한번 보시고 나중에 체크포인트 올라오면 성능 체크해보세요.
수필님의 댓글의 댓글
@아싸조쿠나님에게 답글
runpod같은 걸 생각 안 해본 건 아닙니다만 로컬에 설치하고 돌려보고 하는 것도 경험이자 자산이라고 생각돼서...로컬을 고집하고 있는 중입니다.
리치방님의 댓글