DINKIssTyle (14.♡.7.140)
2025년 3월 17일 PM 07:48 · 수정됨(22:39)
누구나 경험해볼 실 수 있도록 초초초초초보를 위한 가이드입니다.
https://lmstudio.ai/ 에 들어가셔서
다운로드 받아 응용프로그램 폴더에 넣어주세요.
응용프로그램을 처음 실행하면 기본 LLM 모델을 설치하려고 하는데 설치하셔도 되고 안하셔도 됩니다.
만약 기본 LLM 모델 설치를 건너 뛰신 경우에는 맨 마지막 설명을 참고하세요.
*기본 LLM 설치를 건너뛰신 경우 최소한의 런타임도 설치되어 있지 않습니다.
따라서 모델 검색도 안됩니다. 이렇게 런타임을 설치해주세요~
제가 사용하면서 느낀 점은..
M4 Pro 64GB에서 12b는 날라다닙니다. ChatGPT 쾌적할 때보다 더 쾌적한거 같아요.
27b도 ChatGPT 만큼 토큰 속도가 나오기는 하는데..
답변이 길어질 수록 CPU+GPU 발열이 풀로드 상태가 됩니다.
M1 16GB에서는 12b도 사실 다른 고사양 작업들과 함께하면 화딱지가 나실 수도 있습니다.
댓글 (9)
-
엔엔알이일년만
25.03.17 · 211.♡.176.51
- D
DINKIssTyle
→ 엔알이일년만 작성자 25.03.17 · 14.♡.7.140
ㅋㅋㅋ 새 맥북에서는 빠릿빠릿하실 겁니다! -
MMDBK
25.03.17 · 172.♡.252.26
오라마 설치하면 좀더 최적화 되서 돌아가는데 오라마는 웹ui깔고 하는게 조금 귀찮죠 - D
DINKIssTyle
→ MDBK 작성자 25.03.17 · 14.♡.7.140
올라마도 패키지 관리자들 쓰면 좀 편할거 같긴한데...
이상하게 걔들을 써서 다른 ai 깔아봐도..
역시 같은 기능을 한다면 단일 앱 형태가 가장 켜고 끄고, 간단히 쓰기 좋은거 같습니다. ㅎㅎ -
VVeritasian
25.03.17 · 223.♡.180.79
감사합니다. 참고하겠습니다 -
발발켄스발드
25.03.17 · 114.♡.101.116
gemma 12B 를 M1맥북에어에 설치해보니 아주 차분차분 느긋느긋 알려주네요. ㅋ 집에가서 M4맥미니에도 설치 해 봐야 겠습니다. 감사합니다.~. -
셀셀빅아이
25.03.17 · 125.♡.200.218
팁게에도 올려주세요. :) - D
DINKIssTyle
→ 셀빅아이 작성자 25.03.17 · 14.♡.7.140
ㅎㅎ 복사 증식 하였습니다~ -
버버블보블
25.03.17 · 118.♡.237.189
놀라운 세상이여요 얼마전까지 AI 모델들은 엄청난 파워를 요구했는데 말입니다.
댓글을 작성하려면 이 필요합니다.
구형 컴퓨터에서도 잘 돌기는 해요.. 겁나 오래 걸려서 그렇지 ㅎㅎㅎㅎ
내 새 맥부기야 어여 와라~!!