정보
oMLX 0.3.9 릴리즈
꼬
꼬부기부 (211.♡.204.156)
2026년 5월 22일 AM 11:02
조회 1,315 공감 0
https://github.com/jundot/omlx/releases
Qwen3.5/3.6, Gemma 4 및 DeepSeek-V4용 네이티브 MTP(멀티 토큰 예측)
DeepSeek V4 Pro / 플래시 지원(SSD 캐시 포함)
DFlash는 이제 Gemma 4를 지원합니다.
메모리 부족한 맥에서 더 안정적인 실행
ParoQuant 지원
DFlash 어떻게 쓰는지 모르겠네요.. 관리자 화면에서 모델 검색해도 안나오고
ParoQuant 는 또 뭐지 하면서 조사하게 되네요.
댓글 (4)
-
낮낮은언덕
05.22 · 112.♡.124.34
- 꼬
꼬부기부
→ 낮은언덕 작성자 05.22 · 211.♡.204.156
말씀해주신대로 DFlash 모델 찾아서 적용해보니까 아무 답변을 안해주네요. 😂
이론상으로는 MTP보다 빠르다는데 맛보기 힘드네요
ParoQuant 는 "안녕" 한마디 했을뿐인데 메모리 사용량이 50gb까지 올라가다가 죽어버리네요 😢 - 낮
낮은언덕
→ 꼬부기부 05.22 · 112.♡.214.77
역시 ParoQuant는 뭔가... 이질적인 느낌이 많이 들더라니요. TurboQuant 보다 낫다고 하던데 모르곘습니다. 저도 ㅠㅠ
-
Kkimjason
→ 꼬부기부 05.23 · 110.♡.89.164
극심한 내향적인 성격인가 보네요.. 너무 부끄럼을 타네요 ㅎㅎ
댓글을 작성하려면 이 필요합니다.
드디어 정식 릴리즈 됐네요 +_+ 저녁에 설치해봐야겠습니다. Dflash 는 토큰사용량이 많아지면 점점 더 멍청해진다는 사용기가 있어서 아직 좀 꺼려지긴 한데 좋아졌는지 확인해봐야겠어요. Dflash 는 모델 검색에서 mlx전용 끄고 dflash로 검색하심 나옵니다. PP속도가 빨리진다는 장점이 있어요. ParoQuant는 turboquant랑 좀 다른데 이것도 테스트해봐야겠네요.