qwen3.6-35b-a3b MLX 속도 빠르네요
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2026년 4월 17일 PM 01:51

조회 1,506 공감 0

MLX 버젼 나와서 받아 보니깐

3.5보다 살짝 빠르네요. 3.5 고마웠어요 이제 안녕~

MLX 커뮤니티 만세~!

팀쿡 아저씨 MLX 커뮤니티들에게 적극적으로 돈좀 밀어넣어주세요~~

댓글 (10)

  • FV4030

    FV4030 Lv.1

    04.17 · 210.♡.27.130

    35b요? 도대체 램이 얼마입니까. ㄷㄷㄷㄷ

  • 감말랭이

    감말랭이 Lv.1 → FV4030

    04.17 · 116.♡.152.61

    a3b니까 한 20GB 정도면 될걸요

  • DINKIssTyle

    DINKIssTyle Lv.1 → FV4030 작성자

    04.17 · 61.♡.73.102

    64GB입니다

  • mtrz

    mtrz Lv.1

    04.17 · 180.♡.14.183

    이럴 줄 알았다면 맥미니 살 때 깡통으로 사지 않고 좀 업글해서 샀을 겁니다.

    ㄷㄷㄷㄷ

  • DINKIssTyle

    DINKIssTyle Lv.1 → mtrz 작성자

    04.17 · 61.♡.73.102

    저도 맥미니 M4프로 64GB로 업글안했으면 엔당 12GB VRAM에서 맛만보다 LLM 입문 안했을거에요~ ㄷㄷㄷ 애플실리콘 만세~

  • N

    neutro Lv.1

    04.17 · 61.♡.130.69

    ollama 도 이제 MLX 를 한다기에, qwen3.6:35b-a3b-mlx-bf16 로 받아서 돌려보고 있습니다.

    마음에 드네요. 고질병 한자 남용은 좀 힘듭니다만..

  • DINKIssTyle

    DINKIssTyle Lv.1 → neutro 작성자

    04.17 · 61.♡.73.102

    ㅋㅋㅋ 차츰 나아지고 있어요. 젬마4도 드물지만 아주 가끔 나오더라구요.

  • 조제리

    조제리 Lv.1

    04.17 · 1.♡.86.130

    ollama 대신 oMLX 사용해보세요. 훨씬 좋더라고요.

  • DINKIssTyle

    DINKIssTyle Lv.1 → 조제리 작성자

    04.17 · 61.♡.73.102

    저는 LM Studio라 mlx_lm 을 이용합니다. 저는 많은 분들이 LM Studio를 써보시면 좋겠어요 ㅎㅎ

    Nvidia나 알리바바 같은 기업들이 LM Studio에 협업하는 이유가 있다니껜유 ㅎㅎ

  • freesia

    freesia Lv.1 → 조제리

    04.19 · 198.♡.184.235

    저는 한번 시도해봤는데, ollama에서는 실행이 잘 되는 모델들이 메모리 부족이라고 에러가 뜨며 실행이 안되더라구요.

댓글을 작성하려면 이 필요합니다.