로컬LLM(ChatGPT 같은걸..) 맥에 설치하는 방법 (초간단)
페이지 정보
작성자
DINKIssTyle
DINKIssTyle
작성일
2025.03.17 19:48
본문
누구나 경험해볼 실 수 있도록 초초초초초보를 위한 가이드입니다.
https://lmstudio.ai/ 에 들어가셔서
다운로드 받아 응용프로그램 폴더에 넣어주세요.
응용프로그램을 처음 실행하면 기본 LLM 모델을 설치하려고 하는데 설치하셔도 되고 안하셔도 됩니다.
만약 기본 LLM 모델 설치를 건너 뛰신 경우에는 맨 마지막 설명을 참고하세요.
*기본 LLM 설치를 건너뛰신 경우 최소한의 런타임도 설치되어 있지 않습니다.
따라서 모델 검색도 안됩니다. 이렇게 런타임을 설치해주세요~
제가 사용하면서 느낀 점은..
M4 Pro 64GB에서 12b는 날라다닙니다. ChatGPT 쾌적할 때보다 더 쾌적한거 같아요.
27b도 ChatGPT 만큼 토큰 속도가 나오기는 하는데..
답변이 길어질 수록 CPU+GPU 발열이 풀로드 상태가 됩니다.
M1 16GB에서는 12b도 사실 다른 고사양 작업들과 함께하면 화딱지가 나실 수도 있습니다.
13명
추천인 목록보기
댓글 9
/ 1 페이지
DINKIssTyle님의 댓글의 댓글
작성일
어제 20:05
@MDBK님에게 답글
올라마도 패키지 관리자들 쓰면 좀 편할거 같긴한데...
이상하게 걔들을 써서 다른 ai 깔아봐도..
역시 같은 기능을 한다면 단일 앱 형태가 가장 켜고 끄고, 간단히 쓰기 좋은거 같습니다. ㅎㅎ
이상하게 걔들을 써서 다른 ai 깔아봐도..
역시 같은 기능을 한다면 단일 앱 형태가 가장 켜고 끄고, 간단히 쓰기 좋은거 같습니다. ㅎㅎ
발켄스발드님의 댓글
작성자
발켄스발드
발켄스발드
작성일
어제 20:34
gemma 12B 를 M1맥북에어에 설치해보니 아주 차분차분 느긋느긋 알려주네요. ㅋ 집에가서 M4맥미니에도 설치 해 봐야 겠습니다. 감사합니다.~.
엔알이일년만님의 댓글
구형 컴퓨터에서도 잘 돌기는 해요.. 겁나 오래 걸려서 그렇지 ㅎㅎㅎㅎ
내 새 맥부기야 어여 와라~!!