간실장 (1.♡.173.35)
2026년 3월 16일 AM 11:08
주말에 맥미니 도착했어요..
openclaw 용으로 사용하기 위해서 시켰는데, 이제사 왔네요.
좋기는 한데, 언제 또 설정하고 세팅해야 할지.. 조메 걱정이네요..
전 로컬용 LLM 사용해서 개인 비서나 개발 서포트용으로 구성해서 사용해 보려고 합니다.
그래서 메모리는 32기가용으로 구매했고요..
사용해 보고 후기 한번 올려 보겠습니다.
댓글 (11)
- D
damoim
03.16 · 203.♡.8.219
- 간
간실장
→ damoim 작성자 03.16 · 1.♡.173.35
그래서 생각해 둔게 있는데.. 우선 1차 답변은 로컬에서 뽑아내고, 마음에 안 드면 보강을 요구할 것이고.. 이때 유료 api를 통해 답을 가져오게 하려고 합니다.
이것을 점수로 구성해서 디비에 데이터를 누적 시키고, 차후 이것을 근간으로 해서 로컬용 답변으로 할지 api를 통해 답변을 할지를 정하는 분기점을 만들어 볼까 생각중이기는 한데..
제대로 될지는 모르겠네요.. ㅎㅎ
유료 api를 통하면 토큰 양이 많다고 해서.. 좀 걱정이기는 합니다. 우선 100달러 부터 시작해 보려고 하는데, 얼마나 사용하게 될지..
-
이이런저런
03.16 · 1.♡.251.146
그런데 맥 미니에서 오픈클로 서빙하고 local llm 까지 돌리려면 구동 가능한 모델이 그리 많지는 않을 텐데요.
- 간
간실장
→ 이런저런 작성자 03.16 · 1.♡.173.35
봐 둔 모델이 있기는 한데, 실제로는 저도 테스트 해 봐야 알거 같습니다.
로컬은 초기에만 돌려보고, 상용 ai들만 사용해 봐서요..
상용 정도의 성능은 당연 무리일거 같고, 일반적인 문서 취합부터 해서 정리 요약.. 이런 일반적인 것들만 해 줬으면 하는데.. 어떻게든 끌어 올려봐야죠..
langchain이나 opencode를 사용하면 어느정도 가능하지 않을까 하고 생각중입니다.. ㅎㅎ
- 뀨
뀨잉
03.16 · 1.♡.209.165
부럽습니다~
전 활용할 업무들이 안떠올라 시도조차 못하고 있어요.
후기 기다리고 있겠습니다!
- R
r00t
03.16 · 112.♡.42.218
전 맥미니 2012 환경에 오픈클로 설치하고, 코파일럿 Pro와 ChatGPT Plus, 메모리 관련 임베딩용 모델 사용을 위해 OpenAI API 연결해서 사용 중입니다.
기본 모델은 gpt-5.4로 두고, 단순 작업은 무제한 사용 가능한 gpt-5-mini로 처리하게 설정해두었습니다.
기본 모델 많이 사용되면 몇 시간 기다려야 하는 경우가 가끔 생기지만, 메모리 관련 설정 어느 정도 해두고, 반복 작업은 프로그램 만들어서 돌리도록 시켜두니 토큰 사용량이 많이 줄어서 이제 사용할만합니다.
- 간
간실장
→ r00t 작성자 03.16 · 1.♡.173.35
요청하는 질의에 따라 편차가 많기는 하겠지만.. 토큰 어느정도 사용하세요??
아니면 그냥 월 비용 어느정도 지출하세요?? - R
r00t
→ 간실장 03.16 · 112.♡.42.218
토큰은 누적 사용량을 확인하지 않아서 모르겠습니다.
코파일럿 Pro는 월 10달러에 무제한으로 gpt-5-mini를 사용할 수 있고, ChatGPT Plus는 OAuth로 연결해서 gpt-5.3-codex와 gpt-5.4를 사용할 수 있는데 5시간, 주간 한도 내에서 사용할 수 있고 월 구독료 외에 추가 비용이 발생하지 않습니다.
메모리 관련 임베딩용 모델은 월 2천만 토큰 이하로 사용할 것 같고 비용은 저렴해서 월 1천원이 나오지 않을 것 같습니다.
모두 월 31달러네요.
위 모델 외에 프로그램 관련 처리는 회사에서 제공해주는 cursor를 연결해서 처리하고 있습니다.
-
Ppupipepo
→ r00t 03.17 · 203.♡.147.64
안녕하세요, 저도 맥미니 2012를 사용하고 있어서 몇 가지 궁금점이 있습니다.
1) OS 는 리눅스로 밀고 사용하시는 걸까요?
2) cpu 와 ram 사양이 궁금합니다.
감사합니다! - R
r00t
→ pupipepo 03.17 · 112.♡.42.218
안녕하세요.
정확하게는 맥미니 서버 late 2012 버전으로 사양은 2.6 GHz 쿼드 코어 Intel Core i7 / 16GB 1600 MHz DDR3입니다.
OS는 업그레이드 가능한 마지막 OS에서는 오픈클로를 설치할 수가 없어서 OpenCore Patcher로 Sonoma(14.8.3) 설치한 상태입니다.
현재 오픈클로 + 크롬 + 옵시디언 항상 실행해두고 있는데 잘 동작됩니다. 참고로 여기에 도커는 설치하니 시스템 전체가 느려져서 사용 못할 정도가 됩니다.
댓글을 작성하려면 이 필요합니다.
저도 마음은 64GB인데 가격의 장벽 때문에 32GB라도 한 대 들여볼까, 고민 중입니다.
로컬LLM 돌려보면 좀 사이즈를 키워도 결국 답변/추론/문제해결 퀄리티는 유료로 API쓰는 탑티어 모델들을 따라갈 수가 없는데,
대신 로컬의 장점으로 토큰 사용량 걱정없이 무한히 쓸 수 있다는 장점으로 출력 퀄리티의 부족함을 상쇄할 수 있는가?
32GB라 해도 70B급 모델도 원활히 안돌아갈테니 말이지요...
하여, 공감하나 찍고 귀한 후기 기대하고 있겠습니다!! ㅎㅎ