딥시크 R1을 로컬로 맥북에 돌려보는 중인데요..
코미

Lv.1 코미 (211.♡.64.83)

2025년 2월 3일 PM 01:54 · 수정됨(14:43)

조회 2,285 공감 0


M1 깡통 맥북에어는 딱 1.5B나 3B 파라미터가 한계라 문서요약이나 간단한 질문, 수학계산 같은 수준이나 하면 다행이군요.

램이 16~32기가는 되는 M1 프로나 맥스만 되면 좀 나을텐데...

M4에 램 24기가면 좀 넉넉하려나...

그림 AI는 그냥 맥으로 스테이블 디퓨전 그런거 돌리는 건 그냥 포기하는게 편한 거 같고요.

그냥 집의 데스크탑에 4060ti 16기가라도 사서 달아보는 게 낫겠네요.

3090 중고는 영 못믿음직하고 4090은 여전히 비싸고 5000번대는 그냥 구매할 희망을 버려라 아쎄이수준..

댓글 (11)

  • 글록

    글록 Lv.1

    25.02.03 · 73.♡.207.2

    5090 사면 4090 팔까 했는데 AI 돌릴까 생각중입니다.
    생각보다 딥시크R1은 좋더라구요. 70b던가가 VRAM 48기가 먹는다던데 ㄷㄷㄷ
  • 코미

    코미 Lv.1 → 글록 작성자

    25.02.03 · 211.♡.64.83

    얼마까지 생각중이신가요... 4090.
  • 샤프슈터

    샤프슈터 Lv.1

    25.02.03 · 106.♡.139.154

    집에 있는 맥스튜디오 m1 max 기본에 램 64기가 로 어느정도 돌릴수 있을려나요.. 시간 되면 로컬로 돌려 볼까 생각중이네요
  • 코미

    코미 Lv.1 → 샤프슈터 작성자

    25.02.03 · 211.♡.64.83

    적당히 손보면 34b는 충분할 겁니다. 70b도 노려볼 만할지도요.
  • 샤프슈터

    샤프슈터 Lv.1 → 코미

    25.02.03 · 106.♡.139.154

    오호 고민 됐던 부분인데 고급정보 감사합니다.
  • 에피네프린

    에피네프린 Lv.1 → 샤프슈터

    25.02.03 · 121.♡.158.120

    70b도 돌아는 가는데 느려서 32b 가 나을겁니다
  • 샤프슈터

    샤프슈터 Lv.1 → 에피네프린

    25.02.03 · 106.♡.139.154

    아하 32b로 한번 해봐야겠네요. 확인 감사합니다.
  • 코미

    코미 Lv.1 → 에피네프린 작성자

    25.02.03 · 104.♡.68.24

    맥북프로 m4 24gb는 뭐가 좋을까요? 13b 정도 보는데..
  • 에피네프린

    에피네프린 Lv.1 → 코미

    25.02.03 · 121.♡.158.120

    24g에선 돌려보지 않아서... 근데 뭐 어짜피 무료이니 7b 부터 순차적으로 시도해보시면 되죠 ㅋ
  • L

    logcat Lv.1

    25.02.03 · 39.♡.175.197

    게이밍 노트북 3050ti vram 4gb는 돌릴수있는게 없더군요 ㅠㅠ
    게임도 별로고 그냥 전기 잡아먹는 하마입니다 ㅠㅠ

댓글을 작성하려면 이 필요합니다.