64GB 짜리 AI CPU에서 사용가능한 메모리.jpg
D
DINKIssTyle (61.♡.73.102)
2025년 5월 14일 PM 02:43 · 수정됨(15:07)
조회 1,852 공감 0
우선 32GB찍히네요, 그래서 젬마3 27B와 Qwen 30B를 충분히 올릴 수 있어서 받아보고 있습니다.
토큰이 얼만큼 나올지 기대되네요.. 엔당 1/4 정도 나올거 같은데 말입니다.
와.... LM Studio에서 NPU 확장자 못찾네요 -ㅂ -;;; 움하하하....
올라가기만 할 뿐... CPU에서 뽑고 있습니다. ㅋㅋㅋ
구글링좀 더 해보고 오겠습니다. 뿅!
댓글 (5)
-
프프로귀찮러
25.05.14 · 125.♡.74.84
- D
DINKIssTyle
작성자 25.05.14 · 61.♡.73.102
이러면 그냥 시스템 32GB에 올라가서 CPU가 처리하는 거랑 같은 상황입니다 ㅜ ㅜ - D
DINKIssTyle
작성자 25.05.14 · 61.♡.73.102
아드레날린에서는 Ai 탭에 Ai 앱이라고 표시해주면서 가속을 안해주면... 너무 하잖아유 ㅠㅠ -
맛맛스타오렌지
25.05.14 · 70.♡.124.64
Npu가 gpu보다 ai에서 좋나요? - D
DINKIssTyle
→ 맛스타오렌지 작성자 25.05.14 · 61.♡.73.102
아뇨 아직까지는 성능은 GPU가 높은데 전력 소모면에서는 NPU가 한참 적습니다. NPU 발전 속도가 꽤 빨라요~
댓글을 작성하려면 이 필요합니다.
[https://s3.damoang.net/data/editor/2505/comment_2106214996_BYMHikWC_d3464cfdf0812ad0193e7e8ded99498fa5ce9d15.jpg]