AI에서 MLX가 CUDA를 비교적 빠르게 따라가거나 뛰어넘을지 모르겠습니다
DINKIssTyle

Lv.1 DINKIssTyle (61.♡.73.102)

2026년 3월 26일 AM 09:50

조회 712 공감 0

https://x.com/thestreamingdev/status/2036852898827821150

그동안 애플 실리콘을 활용한 여러 기술이 등장했지만,

CUDA 지상주의자였던 제게는 그저 '능력자들이 가성비 기기로 즐기는 유희' 정도로만 보였습니다.

하지만 최근 MLX 생태계는 CUDA를 위협하거나,

"CUDA 없어 아쉽지만 그래도 쓸만해" 라는 결과물들이 계속 나오고 있습니다.

최근에 본것 중 제일 충격은 Qwen3 TTS MLX 최적화 버젼이엇습니다.

순정 모델은 맥에서 쓰지도 못할 만큼 느린데 MLX 버젼은 CUDA만큼은 아니지만 수초만에 생성이 되더군요 ㄷㄷ

결국 CUDA보다 느린데 이게 왜 신기하냐면 말입니다.

물리적인 스펙상 CUDA는 쿠다코어 텐서코어 수천개가 전기요금을 들이부어 만들어 주는 결과인데..

MLX는 많아봐야 200W 넘기는 수준이니깐요, 제 M4 Pro는 구글이 말해주길 50W 급이네요.

최근 MLX의 발전 속도는 경이로울 정도입니다.

효율성이라는 강력한 무기를 가지고 더 많은 AI 전문가들이 애플 실리콘에 관심을 갖어주면..

MLX가 CUDA 위협하는거 머지 않은거 같습니다.

댓글 (4)

  • 김링크

    김링크 Lv.1

    03.26 · 210.♡.105.1

    그래봤자 결국 개인사용자가 장비 하나에서 로컬로 올려서 돌릴때 정도 쓸만한 수준까지 올라온거지

    맥을 줄줄이 연결해서 쓴다고 하더라도 아직 전체적인 가성비는 NVIDIA쪽이 더 우월할겁니다.

  • 공노B

    공노B Lv.1

    03.26 · 211.♡.31.23

    첨부 이미지

  • 알카노이드

    알카노이드 Lv.1

    03.26 · 58.♡.60.213

    그게 되려면 NVLINK같은 단일기기를 하나로 묶는 기술을 애플이 만들어야 뭔가 비벼 볼 수 있을듯 합니다.

    맥 생태계는 로컬에서 돌리면서 전성비가 좋다. 정도인듯요.

  • 플루

    플루 Lv.1

    03.26 · 118.♡.7.98

    최근 업데이트소식에 mac 타호에서 맥끼리 썬더볼트5 로 다이렉트로 연결해서 메모리를 공유하는 기술이 업데이트되었습니다.

    맥미니끼리 연결해서 llm 을 돌릴수있는거죠.

댓글을 작성하려면 이 필요합니다.