일리케 (175.♡.38.79)
2025년 1월 31일 PM 02:08 · 수정됨(15:58)
요즘 한참 vram이 얼마인가에 꽂혀있습니다.
혹시나 16기가짜리 두개 세개를 조합해서 36기가 짜리 vram 같이 사용하는 방법이 있는가 없는가?
nvlink를 사용하면 되네 안되네....
nvlink인가 뭔가 없어도 4090은 24기가 짜리 2개로 딥싴 67b인가 68b를 구동시킬수 있지만 3090은 안되네 마네...
이유는 모르겠지만 아무튼 된다 안된다...
걍 맘 편하게 H100인가 뭔가 수천만원짜린는 램이 80기가라 이것저것 생각할것 없이 사용할수 있으니
한방에 가라~~~~~~
물론 일개 월급쟁이가 연말정산 받은거 최대한 끌어 모아봐야 300~400정도 밖에 안되는데...
그냥 여기서 속 시원히 포기할까도 싶구요 ㅋㅋㅋㅋㅋ
아니면 3090 ...230만원짜리 중고나 업어와서 소소하게 다 내려놓고 가지고 놀아야 하나도 싶고...
괜히 chatgpt 한테 중고로 최대한 저렴하게 뭔가 좀 해볼수 있는 방법 좀 찾아보라고 맨날 닥달 거리고 있네요 ㅋㅋㅋㅋ
그렇다고 제가 그걸 해서 뭐 돈 벌것도 아닌데 말이죠...ㅋㅋㅋㅋ
댓글 (9)
-
규규링
25.01.31 · 153.♡.181.136
제가 그렇게 vram으로 발버둥 친 결론이 4060 ti 16G 모델 두개 쓰는 거네요. ㅠㅠ -
일일리케
→ 규링 작성자
25.01.31 · 175.♡.38.79
오잉!!
그렇게 하면 ....32G 비스무리하게 셋팅이 가능한건가요? ㅎ ㄷ ㄷ ㄷ
xx90 시리즈 이하 모델은 아예 생각을 못했는데 말이죠...ㄷ ㄷ ㄷ -
규규링
→ 일리케
25.01.31 · 153.♡.181.136
요즘은 그냥 같은 거 두장이어도 드라이버 레벨이랑 쿠다에서 알아서 잡아주거든요.
드라이버랑 SDK 레벨에서 알아서 밸런스 잡아서 돌아주더군요.
그리고 되게 희한하게 특정한 시리즈에 가끔 보면 vram을 더 넣는 모델들이 있습니다.
4000번대에서는 4060 ti가 원래는 8G가 기본인데 16G모델로 나오는 것이 나왔었어요.
그래서 전 그쪽으로 선택해서 집에서 혼자 돌려보고 있습니다.
VRAM이 되게 중요하다는 걸 회사에서 몇몇 머신 돌려보면서 깨달았죠. -
어어머
25.01.31 · 66.♡.126.27
요새는 nvlink 안써도 알아서 여러 gpu vram에 모델 나눠서 올려줍니다 -
일일리케
→ 어머 작성자
25.01.31 · 175.♡.38.79
오잉 그런가요???
chatgpu는 거의 안된다며 A6000으로 비싸지만 가야한다고 그래서요ㅋㅋㅋㅋㅋㅋㅋㅋㅋ -
어어머
→ 일리케
25.01.31 · 66.♡.126.27
그냥 cuda 오토로 놓으면 자동으로 알아서 해줍니다 ㅎㅎ -
날날씨는어때
25.01.31 · 95.♡.77.176
맥을 사시면 맥에서는 ram을 vram처럼 사용하기 때문에 다 돌릴수 있습니다~ -
일일리케
→ 날씨는어때 작성자
25.01.31 · 118.♡.11.110
오잉 M3 맥북에선 걍 돌아가지 않는 모델들이 있어서 걍 포기했는데 제가 잘 몰랐던거균요 ㅋㅋㅋㅋ -
RRadFaith
25.01.31 · 104.♡.68.24
제가 3090이 있어서 4090은 건너뛰고 5090 가야지 했는데… 5090 가격보고 3090을 잘 끌어안아 보기로 했습니다.
정 뭐하면 돈주고 클라우드 API 쓰려구요… 클라우드에 돈 줘도 연 100은 안쓸거같아서… ㅠㅠ
댓글을 작성하려면 이 필요합니다.