간실장 (1.♡.173.35)
2026년 3월 21일 PM 06:50
맥미니에 openclaw 돌려 볼려고 32기가로 구매했습니다.
ollama(qwen3-30b-64k) + openclaw (깡통. 모든 기능 미설치)로 돌려 봤는데.. 성능 장난 아니네요.. ㅋㅋ
이정도 일줄이야..
openclaw tui에서 hi, hello로 입력했으나 답변은 10분정도 걸려야 답변이 들어오네요.
(처음에는 설정을 잘못 한줄 알았습니다.)
메모리는 30기가, 스왑은 6기가 근처
그래서 ollama만 체크
ollama run qwen3-8b-64k:latest "hi" : 이건 5~10초
ollama run qwen3-30b-64k:latest "hi" : 이건 20~30초
메모리는 20~27기가 사이를 사용..
openclaw에서 여러가지 추가 context를 같이 넘기는 것은 알았으나.. 너무 하네요.
그래서 이 조합은 포기했습니다.
상용 api를 이용하는 방식으로 변경해서 다시 세팅해 보고 사용해 보려고요..
생각보다 성능 너무 안 나와서, 바로 포기했습니다. 이건 튜닝이나 설정으로 해결될 문제가 아닌거 같습니다.. ㅎㅎ
보다 자세한 것은 차후 블로그에 정리해서 핵심만 이곳에 기재하겠습니다.
댓글 (16)
-
알알랭드특급
03.21 · 90.♡.70.43
- D
damoim
03.21 · 211.♡.202.35
Thinking 때문에 오래 걸리는것도 있으니..
(8b가 5-10초는 너무 심하네요 ㅠ)
Non-thinking 모드인 qwen3-coder:30b (think도 있으나 ollama버전은 nonthink네요)
Qwen3.5-instruct 같은것도 한번 테스트해보시는것 어떨까요?
- 간
간실장
→ damoim 작성자 03.21 · 1.♡.173.35
openclaw를 사용하는게 주 목적이라서 구지 다른 것은 체크하지 않았습니다.
ollama만 사용한다고 하면 튜팅이나 설정을 어느정도 하면 쓸수도 있지 않았까 생각은 되나..
제 사용 목적이랑 맞지 않아서 이정도까지만 했습니다.. ㅎㅎ
-
이이웃삼촌
03.21 · 222.♡.99.94
저도 맥미니 사려고 맘 먹고 일단 테스트 차원에서 옛날 PC (짭제온 4core, 20GB램, 엔비디아 750ti 2GB) 에 리눅스 설치하고 돌려봤는데... 상용 API 사용하지 않으면 그냥 에러 뿜고 멈추더라구요. 텔레그램 연동까지 해봤습니다만... 이렇게 느릴 거면 상용서비스를 쓰지... 라는 생각이 들더라구요.
그래서 맥미니에선 어떻게 돌아가나 찾아봤더니 크게 다르지 않은 모양이더라구요. 그래서 맥미니 빠이빠이 했습니다.
-
Ffirewaltz
03.21 · 121.♡.193.71
저도 로컬 모델로는 도저히 속도가 안나와서 ollama cloud로 사용하고 있는데 그럭저럭 괜찮습니다. openclaw + 상용 LLM을 써봤는데 엄청나게 토큰 잡아먹더라구요~ 그나마 ollama cloud가 가성비가 괜찮아서 괜찮은듯 싶습니다. 저는 block goose를 개인 AI Agent로 사용중인데 block goose도 괜찮습니다~ㅎㅎㅎ
-
CCaTo
03.22 · 112.♡.38.222
맥미니로는 사실 local llm 으로 돌리는게 아니라 그냥 외부 llm 으로 돌리는 걸 상정한다고 봐야죠
m4 pro나 가야 대역폭 270GB 나와서 그나마 좀 쓸만 하기 시작하고요
- 간
간실장
→ CaTo 작성자 03.22 · 1.♡.173.35
프로에서는 어떤 모델까지 사용이 가능한가요??
저는 저가형 맥미니로 이놈들을 에이전트로 여러개 사용해 보려고 생각해 본 것인데.. 생각보다 손이 많이 가네요.. ㅡ.ㅜ; - C
CaTo
→ 간실장 03.22 · 106.♡.81.241
후배가 스튜디오 128GB 샀는데 아마 왠만한 모델 올라가긴 다 올라가지 않을까 싶습니다
-
조조알
03.22 · 172.♡.91.28
맥스튜디오 M1 Ultra 128GB RAM 사용중인데 이것도 로컬모델을 돌리기엔 부족하다 느낍니다. 상용모델의 역할이 있고 로컬모델의 역할이 있는데 그 둘을 상호보완적 목적으로는 써도 대체하기엔 너무 부족하더라고요
-
낮낮은언덕
03.23 · 115.♡.82.124
ollama 말고 omlx 를 사용해보시면 어떨까요? pp가 ollama나 lm studio 보다 더 좋고 효율이 좋아요. https://github.com/jundot/omlx
댓글을 작성하려면 이 필요합니다.
기대하고 있겠습니다!