제 맥북에 거대 언어모델(LLM)을 설치해 보았습니다
페이지 정보
작성자
따끈따끈
따끈따끈
작성일
2025.03.17 20:20
본문
아까 올라온 글
https://damoang.net/free/3366604
을 힌트삼아 LM Studio을 제 M1 PRO (32GB RAM) 맥북프로에 설치해 보았습니다.
사용 가능한 VRAM이 약 21GB로 뜨는군요.
Gemma 3 27B Instruct (Q4_K_M) 을 다운받아 돌려보았습니다.
테스트로 C 프로그래밍 질문을 했는데, 개떡같이 물어봤는데도 의외로 찰떡같이 알아듣는군요!?
...
...
코드 검증은 안 해봤지만, 틀린 부분 발견시 틀렸다고 지적하면 고쳐줄 거 같은 느낌입니다.
이거 돌리니 정말로 오랜만에 맥북 이륙하는 소리가 들리던데 (애플 실리콘 맥으로는 거의 처음일 듯?), 그래도 이 녀석 장난감으로 의외로 쓸만하겠는데요?
덧. LM Studio 설치 후 처음 실행했을 때 기본으로 깔라고 추천하는 DeepSeek R1 Distill Qwen 7B (Q4_K_M) 모델은 한국어로 말할 줄 모르더군요.
9명
추천인 목록보기
댓글 14
/ 1 페이지
blast님의 댓글의 댓글
작성일
03.17 20:26
@blast님에게 답글
[비교용] 퍼플렉시티
원본인 블랙웰(Blackwell)판 『정신질환의 기원(Origins of Mental illness)』 서문을 이미 훑어본 독자라면, 이 새 판본이 런던 클라리지스(Claridge’s) 호텔에서의 점심 식사 자리에서 다소 거창하게 기획되었다는 사실을 알면 흥미로워할 것이다. 내가 이 이야기를 꺼내는 이유는 초판 출판사를 폄하하려는 것도, 학술 저술을 꿈꾸는 이들에게 금전적인 기대를 품게 하려는 것도 아니다. 오히려 두 가지 감사의 말을 전할 기회를 얻기 위함이다. 하나는 점심을 대접해준 로버트 오른스타인(Robert Ornstein)에게, 다른 하나는 내 책의 재출간을 제안해준 그의 파트너 샐리 맬럼(Sally Mallam)에게 전하는 감사이다.
물론 나의 감사는 그보다 훨씬 더 오래전으로 거슬러 올라간다. 로버트 오른스타인을 처음 만났던 때로부터 시작하여, 이후 그가 영국과 옥스퍼드를 방문할 때마다 우리는 인간 변이의 생물학이라는 공통 관심사를 서로 발견할 수 있었다. 그의 최근 저서 『자아의 뿌리(The Roots of the Self)』가 우리의 주기적인 토론과 내가 『정신질환의 기원』에서 제시했던 몇몇 아이디어들로부터 영향을 받았다는 사실은 내게 매우 기쁜 일이었다. 또한 그가 자신의 또 다른 출판 파트너가 내 책을 재고 할인 판매대에서 구출해줄 의향이 있을지도 모른다고 말했을 때 나는 당연히 기뻤다.
그래서 바로 그 점심 자리가 마련된 것이다. 나는 이 점심 식사를 오른스타인과 맬럼의 관대함에 대한 표현으로서도 물론 감사하지만, 동시에 밥(Bob)의 장난스러운 유머 감각을 보여주는 사례로서도 똑같이 높이 평가한다. 우리가 런던에서 만나기로 한 그 날, 그는 우연의 일치인지 아니면 유혹을 참지 못한 것인지 모르겠지만 예약을 내 이름으로 해두었다고 한다. (내가 아직도 모르는 것은, 약간 늦게 도착한 내 호스트들의 지각이 혹시 고의적인 장난이었는지 여부이다. 즉, 세련되지 못한 옷차림의 옥스퍼드 교수가 클라리지스 호텔 안에서도 잘못된 레스토랑에 들어가 지친 표정의 웨이터에게 자신이 길거리에서 들어온 괴짜가 아니라 정말 예약된 손님임을 설득하려 애쓰는 모습을 상상하며 즐기려고 일부러 늦었던 것은 아닐까 하는 의문은 끝내 풀리지 않았다.)
[비교용] 챗지피티 4.0
이미 원서 Origins of Mental Illness의 Blackwell 초판 서문을 훑어본 독자라면, 이번 새 인쇄본이 훨씬 더 거창한 출발을 했음을 이해할 것이다. 왜냐하면 이 책은 런던 클라리지스 호텔에서의 점심 식사 중에 구상되었기 때문이다. 이렇게 말하는 이유는 첫 출판사를 깎아내리려는 것도 아니고, 학술 저작을 꿈꾸는 이들의 재정적 기대를 부풀리려는 것도 아니다. 오히려 두 사람에게 감사 인사를 전할 기회를 얻었기 때문이다. 한 명은 그 점심을 마련해 준 로버트 오른스타인이고, 다른 한 명은 내 책을 재출간하겠다고 제안한 그의 파트너 샐리 맬럼이다.
물론 내 감사의 마음은 그보다 훨씬 더 깊고 오래된 것이다. 몇 년 전 내가 처음 로버트 오른스타인을 만났을 때부터 시작되었는데, 그 후 그가 영국과 옥스퍼드를 방문하는 동안 우리는 인간 변이의 생물학적 측면에 대한 공통된 관심을 발견했다. 그의 최근 저서 The Roots of the Self가 우리의 정기적인 논의와 내가 Origins에서 제시한 몇 가지 아이디어의 영향을 받았다는 사실을 알게 되어 기뻤다. 그리고 그가 출판을 담당하는 파트너가 내 책을 재출간하는 것에 관심을 가질 수도 있다고 말했을 때 더욱 기뻤다. 그렇게 해서 마련된 점심 자리였다. 나는 이를 오른스타인-맬럼 부부의 너그러움의 표현으로 감사히 여겼지만, 동시에 밥의 장난기 넘치는 유머의 예로도 생각했다.
그는 우리가 런던에서 만나기로 했다는 사실을 알고는 우연을 가장한 장난을 참지 못했던 듯하다. 그는 내 이름으로 예약을 해두었고, 결국 약간 늦게 도착한 그의 의도가 무엇이었는지는 끝내 알지 못했다. 어쩌면 그들은 낡은 옷차림을 한 옥스퍼드 교수 하나가 클라리지스의 잘못된 레스토랑에서 세상에 찌든 웨이터를 설득하려 애쓰는 모습을 상상하며 즐거워했을지도 모른다. '나는 길거리에서 굶주림을 견디다 못해 가족의 관대함을 믿고 찾아온 또 한 명의 몽상가가 아니다'라고 말하려 애쓰는 내 모습을 말이다.
[비교용] 3.7 소넷 - 격식
"Origins of Mental Illness"의 원본 Blackwell 판의 서문을 이미 읽어본 분들은 런던 클라리지 호텔에서의 점심 식사 자리에서 이 새 판이 더 웅장한 시작을 맞이했다는 점을 이해하실 것입니다. 이를 언급하는 이유는 첫 출판사를 폄하하거나 학술 저자 지망생들의 재정적 희망을 높이려는 것이 아니라, 두 가지 감사의 말씀을 전할 기회를 갖기 위해서입니다: 하나는 로버트 오른스타인에게 점심 식사에 대한 감사이고, 다른 하나는 그의 파트너인 샐리 말람에게 제 책을 재출간해 주신 것에 대한 감사입니다.
물론, 제 감사의 마음은 그보다 훨씬 더 깊으며, 로버트 오른스타인을 처음 만났던 몇 년 전으로 거슬러 올라갑니다. 그 당시와 그가 이후 영국과 옥스퍼드를 방문했을 때, 우리는 인간 변이의 생물학에 대한 상호 관심사를 발견했습니다. 그의 최근 저서 "The Roots of the Self"가 우리의 정기적인 토론과 제가 "Origins"에서 제시한 몇몇 아이디어에 영향을 받았다는 것을 알게 되어 기뻤습니다. 당연히 그의 다른 (출판) 반쪽이 제 책을 나머지 책더미에서 구해내는 데 관심이 있을지도 모른다고 말했을 때 저는 매우 기뻤습니다.
그래서 점심 식사가 이루어졌고, 저는 오른스타인-말람 부부의 관대함의 표현으로서 그것을 감사히 여깁니다만, 동시에 밥의 익살스러운 유머의 한 예로도 그것을 감사히 여깁니다. 그는 우리가 그 날 런던에서 만날 예정이라는 것을 알고, 그 우연의 일치 - 또는 유혹 - 에 저항할 수 없어서 제 이름으로 예약을 했다고 합니다. (하지만 저는 주인들이 약간 늦게 도착한 것이 의도적인 책략이었는지, 즉 그다지 깔끔하게 차려입지 않은 옥스퍼드 대학 교수가 - 클라리지의 잘못된 레스토랑에서 - 세상에 지친 웨이터에게 저는 무료 식사를 받을 가족 충성심에 대한 망상을 가진 또 다른 길거리의 이상한 사람이 아니라고 설득하려는 모습을 상상하며 즐기려는 것이었는지는 끝내 알아내지 못했습니다.)
원본인 블랙웰(Blackwell)판 『정신질환의 기원(Origins of Mental illness)』 서문을 이미 훑어본 독자라면, 이 새 판본이 런던 클라리지스(Claridge’s) 호텔에서의 점심 식사 자리에서 다소 거창하게 기획되었다는 사실을 알면 흥미로워할 것이다. 내가 이 이야기를 꺼내는 이유는 초판 출판사를 폄하하려는 것도, 학술 저술을 꿈꾸는 이들에게 금전적인 기대를 품게 하려는 것도 아니다. 오히려 두 가지 감사의 말을 전할 기회를 얻기 위함이다. 하나는 점심을 대접해준 로버트 오른스타인(Robert Ornstein)에게, 다른 하나는 내 책의 재출간을 제안해준 그의 파트너 샐리 맬럼(Sally Mallam)에게 전하는 감사이다.
물론 나의 감사는 그보다 훨씬 더 오래전으로 거슬러 올라간다. 로버트 오른스타인을 처음 만났던 때로부터 시작하여, 이후 그가 영국과 옥스퍼드를 방문할 때마다 우리는 인간 변이의 생물학이라는 공통 관심사를 서로 발견할 수 있었다. 그의 최근 저서 『자아의 뿌리(The Roots of the Self)』가 우리의 주기적인 토론과 내가 『정신질환의 기원』에서 제시했던 몇몇 아이디어들로부터 영향을 받았다는 사실은 내게 매우 기쁜 일이었다. 또한 그가 자신의 또 다른 출판 파트너가 내 책을 재고 할인 판매대에서 구출해줄 의향이 있을지도 모른다고 말했을 때 나는 당연히 기뻤다.
그래서 바로 그 점심 자리가 마련된 것이다. 나는 이 점심 식사를 오른스타인과 맬럼의 관대함에 대한 표현으로서도 물론 감사하지만, 동시에 밥(Bob)의 장난스러운 유머 감각을 보여주는 사례로서도 똑같이 높이 평가한다. 우리가 런던에서 만나기로 한 그 날, 그는 우연의 일치인지 아니면 유혹을 참지 못한 것인지 모르겠지만 예약을 내 이름으로 해두었다고 한다. (내가 아직도 모르는 것은, 약간 늦게 도착한 내 호스트들의 지각이 혹시 고의적인 장난이었는지 여부이다. 즉, 세련되지 못한 옷차림의 옥스퍼드 교수가 클라리지스 호텔 안에서도 잘못된 레스토랑에 들어가 지친 표정의 웨이터에게 자신이 길거리에서 들어온 괴짜가 아니라 정말 예약된 손님임을 설득하려 애쓰는 모습을 상상하며 즐기려고 일부러 늦었던 것은 아닐까 하는 의문은 끝내 풀리지 않았다.)
[비교용] 챗지피티 4.0
이미 원서 Origins of Mental Illness의 Blackwell 초판 서문을 훑어본 독자라면, 이번 새 인쇄본이 훨씬 더 거창한 출발을 했음을 이해할 것이다. 왜냐하면 이 책은 런던 클라리지스 호텔에서의 점심 식사 중에 구상되었기 때문이다. 이렇게 말하는 이유는 첫 출판사를 깎아내리려는 것도 아니고, 학술 저작을 꿈꾸는 이들의 재정적 기대를 부풀리려는 것도 아니다. 오히려 두 사람에게 감사 인사를 전할 기회를 얻었기 때문이다. 한 명은 그 점심을 마련해 준 로버트 오른스타인이고, 다른 한 명은 내 책을 재출간하겠다고 제안한 그의 파트너 샐리 맬럼이다.
물론 내 감사의 마음은 그보다 훨씬 더 깊고 오래된 것이다. 몇 년 전 내가 처음 로버트 오른스타인을 만났을 때부터 시작되었는데, 그 후 그가 영국과 옥스퍼드를 방문하는 동안 우리는 인간 변이의 생물학적 측면에 대한 공통된 관심을 발견했다. 그의 최근 저서 The Roots of the Self가 우리의 정기적인 논의와 내가 Origins에서 제시한 몇 가지 아이디어의 영향을 받았다는 사실을 알게 되어 기뻤다. 그리고 그가 출판을 담당하는 파트너가 내 책을 재출간하는 것에 관심을 가질 수도 있다고 말했을 때 더욱 기뻤다. 그렇게 해서 마련된 점심 자리였다. 나는 이를 오른스타인-맬럼 부부의 너그러움의 표현으로 감사히 여겼지만, 동시에 밥의 장난기 넘치는 유머의 예로도 생각했다.
그는 우리가 런던에서 만나기로 했다는 사실을 알고는 우연을 가장한 장난을 참지 못했던 듯하다. 그는 내 이름으로 예약을 해두었고, 결국 약간 늦게 도착한 그의 의도가 무엇이었는지는 끝내 알지 못했다. 어쩌면 그들은 낡은 옷차림을 한 옥스퍼드 교수 하나가 클라리지스의 잘못된 레스토랑에서 세상에 찌든 웨이터를 설득하려 애쓰는 모습을 상상하며 즐거워했을지도 모른다. '나는 길거리에서 굶주림을 견디다 못해 가족의 관대함을 믿고 찾아온 또 한 명의 몽상가가 아니다'라고 말하려 애쓰는 내 모습을 말이다.
[비교용] 3.7 소넷 - 격식
"Origins of Mental Illness"의 원본 Blackwell 판의 서문을 이미 읽어본 분들은 런던 클라리지 호텔에서의 점심 식사 자리에서 이 새 판이 더 웅장한 시작을 맞이했다는 점을 이해하실 것입니다. 이를 언급하는 이유는 첫 출판사를 폄하하거나 학술 저자 지망생들의 재정적 희망을 높이려는 것이 아니라, 두 가지 감사의 말씀을 전할 기회를 갖기 위해서입니다: 하나는 로버트 오른스타인에게 점심 식사에 대한 감사이고, 다른 하나는 그의 파트너인 샐리 말람에게 제 책을 재출간해 주신 것에 대한 감사입니다.
물론, 제 감사의 마음은 그보다 훨씬 더 깊으며, 로버트 오른스타인을 처음 만났던 몇 년 전으로 거슬러 올라갑니다. 그 당시와 그가 이후 영국과 옥스퍼드를 방문했을 때, 우리는 인간 변이의 생물학에 대한 상호 관심사를 발견했습니다. 그의 최근 저서 "The Roots of the Self"가 우리의 정기적인 토론과 제가 "Origins"에서 제시한 몇몇 아이디어에 영향을 받았다는 것을 알게 되어 기뻤습니다. 당연히 그의 다른 (출판) 반쪽이 제 책을 나머지 책더미에서 구해내는 데 관심이 있을지도 모른다고 말했을 때 저는 매우 기뻤습니다.
그래서 점심 식사가 이루어졌고, 저는 오른스타인-말람 부부의 관대함의 표현으로서 그것을 감사히 여깁니다만, 동시에 밥의 익살스러운 유머의 한 예로도 그것을 감사히 여깁니다. 그는 우리가 그 날 런던에서 만날 예정이라는 것을 알고, 그 우연의 일치 - 또는 유혹 - 에 저항할 수 없어서 제 이름으로 예약을 했다고 합니다. (하지만 저는 주인들이 약간 늦게 도착한 것이 의도적인 책략이었는지, 즉 그다지 깔끔하게 차려입지 않은 옥스퍼드 대학 교수가 - 클라리지의 잘못된 레스토랑에서 - 세상에 지친 웨이터에게 저는 무료 식사를 받을 가족 충성심에 대한 망상을 가진 또 다른 길거리의 이상한 사람이 아니라고 설득하려는 모습을 상상하며 즐기려는 것이었는지는 끝내 알아내지 못했습니다.)
DINKIssTyle님의 댓글의 댓글
작성일
03.17 20:28
@따끈따끈님에게 답글
번역 부탁합니다. 와 번역해주세요의 차이적인 차이의 번역 스타일이군요 ㅋㅋㅋ
번역 부탁합니다. 와 번역해주세요의 차이적인 차이의 번역 스타일이군요 ㅋㅋㅋ
DINKIssTyle님의 댓글
작성자
DINKIssTyle
DINKIssTyle
작성일
03.17 20:24
이제 장난감 수준은 벚어난거 같습니다. ㄷㄷ 젬마3면 상업용으로도 훌륭해보여요. 시각 분류도 가능한 수준이니...
지들이 사업하면 상업적 허용까지 해준 구글 만세!
지들이 사업하면 상업적 허용까지 해준 구글 만세!
logcat님의 댓글
작성자
logcat
logcat
작성일
03.17 20:31
맥스튜디오 M3 울트라 512GB 램 모델이면 충분하죠 ㅎㅎ 엔비디아보다 싸고 로컬로 돌리기 좋다고 하더군요 가격은 1500만원입니다?
DINKIssTyle님의 댓글의 댓글
작성일
03.17 20:33
@logcat님에게 답글
근데 딥시크 R1을 쓸 수 있다면 1500만원이 비싸지 않은거 같은 느낌적인 느낌입니다. ㅋㅋㅋ
뎡푠데요님의 댓글
작성자
뎡푠데요
뎡푠데요
작성일
03.17 20:41
유튜브에 Gemma 3 추천이 많이 올라와서 비교 좀 해볼까 싶어
"Fastapi의 구성 방식인 Structuring based on File-Type과 Structuring based on Module-Functionality 차이를 한글로 설명해주세요" 라는 질문을 gemma 27b 4Q, llama 3.3 70b 1Q, llama 3.2 3b Q8 모델에 질문을 날렸는데(LM Studio) gemma3가 (주관적으로) 제일 만족스러운 답을 내더군요.
+ 결과를 따로 정리하지 않았습니다.
+ LG Exaone이 생각보다 괜찮은 결과를 보여줘서 살짝 놀랐습니다.(어쩌면 제가 가진 기대치가 너무 낮았을지도 모르겠네요)
"Fastapi의 구성 방식인 Structuring based on File-Type과 Structuring based on Module-Functionality 차이를 한글로 설명해주세요" 라는 질문을 gemma 27b 4Q, llama 3.3 70b 1Q, llama 3.2 3b Q8 모델에 질문을 날렸는데(LM Studio) gemma3가 (주관적으로) 제일 만족스러운 답을 내더군요.
+ 결과를 따로 정리하지 않았습니다.
+ LG Exaone이 생각보다 괜찮은 결과를 보여줘서 살짝 놀랐습니다.(어쩌면 제가 가진 기대치가 너무 낮았을지도 모르겠네요)
셀빅아이님의 댓글의 댓글
작성일
03.17 20:43
@뎡푠데요님에게 답글
엑사원이 한글 쪽으로는 제일 낫다고 하더군요.
"괭" 글자 분석을 나머지들은 잘 못한다고 합니다.
"괭" 글자 분석을 나머지들은 잘 못한다고 합니다.
blast님의 댓글
번역 수준도 괜찮다면 맥이 가성비일 것 같습니다. (황사장!!!!!)
Those who have already scanned the Preface to the original, Blackwell, edition of Origins of Mental illness will appreciate the rather grander beginnings of this new impression when I say that it was cooked up over lunch at the London Claridge's Hotel. I mention this not to demean its first publisher and certainly not to raise the financial hopes of any aspirants to academic authorship; but rather because it gives me the opportunity to record two thank-you's: one to Robert Ornstein for the lunch and the other to his partner, Sally Mallam, for offering to reprint my book.
of course, my gratitude incorporates much more than that, going back some years to when I first met Robert Ornstein; it was at that time and, during his subsequent visits to England and to Oxford, that I discovered the mutual interest we had in the biology of human variation. It was gratifying to learn that his own recent book on the topic, The Roots of the self, had been influenced by our periodic discussions and by some of the ideas I had put forward in Origins. I was naturally delighted when he told me that his other (publishing) half might be interested in rescuing my book from the remaindered bin. Hence the lunch, which I appreciate, certainly as an expression of the Ornstein Mallam generosity, but equally as an example of Bob's waggish humour. It appears that, knowing that we were to meet on that occasion in London, he couldn't resist the coincidence-or the temptation, to make the reservation in my name. (I never did find out, though, whether my hosts' slightly late arrival was a deliberate ploy to relish the thought of this less than smartly dressed Oxford don trying convince a world-weary head waiter - in the wrong restaurant in Claridge's - that I wasn't yet another of those flakes off the street with delusions about family loyalty extending to free nouriushment.