11

추가 메뉴

AD
다모앙 마을 만들기 ♡ 다모앙 후원하기
♡ 후원하기 · 벽돌한장 · 광고 제거
LLM 에 이용해보려고 3090 GPU 하나 결재했네요..
일리케

Lv.1 일리케 (169.♡.222.131)

2025년 5월 26일 PM 01:58 · 수정됨(14:37)

조회 1,428 공감 0

번개장터에 3090 24G 가 96만원에 떳길래 언능 결재했네요.

원래는 M1 Max 64기가 모델을 구매해서 큰 LLM 모델을 구동시키려 했는데 그것보다는 3090 24기가 모델에서 나오는 결과가 퀄리티나 속도나 모두 M1 Max 64기가 보다 나을거라고 책지피티가 그러더군요.

3090으로 구동하면 영상관련한 LLM도 구현가능하다고 하고...


사실 64기가 메모리에서 더 큰 LLM을 구동하는게 낫지 않나 생각했는데 그게 아닌가보네요???


역시 알다가도 모르겠네요..

댓글 (11)

  • 크라카토아

    크라카토아 Lv.1

    25.05.26 · 203.♡.83.22

    오 3090 있는데 LLM을 어떻게 올리나요?
  • 일리케

    일리케 Lv.1 → 크라카토아 작성자

    25.05.26 · 169.♡.222.131

    윈도우 사용하시면 간편하게 LM-Studio 사용이 가능할겁니다.
    저는 지금까지 18기가 메모리 M3 맥북 프로에서 사용했었거든요.
  • 크라카토아

    크라카토아 Lv.1 → 일리케

    25.05.26 · 118.♡.65.225

    LM-Studio 한번 공부해보겠습니다!

    감사합니다
  • 이놈시기

    이놈시기 Lv.1

    25.05.26 · 118.♡.144.4

    시스템 RAM 메모리는 GPU 메모리하고 비교할게 못되더군요
  • 일리케

    일리케 Lv.1 → 이놈시기 작성자

    25.05.26 · 169.♡.222.131

    오~ 그런가요?
    이거 사용해보다 아주 좋으면 3090 하나 더 구해서 꼽아보려구요...
  • Charles

    Charles Lv.1 → 일리케

    25.05.26 · 106.♡.194.98

    하나로 하셔도 충분 하실거에요!
    두개는 쓰시려면 좀 복잡하더라고요 ㅎ
  • 옐도

    옐도 Lv.1

    25.05.26 · 24.♡.129.61

    후기 부탁드립니다
  • 야생곰

    야생곰 Lv.1

    25.05.26 · 221.♡.207.212

    3909가 뭔가 한참생각하다 궁금해서 들어왔습니다...
    내가 모르는 AI용 GPU 인가 하다가....
  • 일리케

    일리케 Lv.1 → 야생곰 작성자

    25.05.26 · 169.♡.222.131

    악!! ㅋㅋㅋㅋㅋㅋ
    ㅋㅋㅋㅋㅋㅋㅋㅋ
  • 야생곰

    야생곰 Lv.1 → 일리케

    25.05.26 · 221.♡.207.212

    그나저나 XX90 정도되는 글카가 있으면 AI영상도 된다는 겁니꽈???

댓글을 작성하려면 이 필요합니다.