토요일부터 시작한 오픈클로와 텔레그램 연결 삽질 그리고 LLM

구글API 사용하다 무료사용 금방 다 사용하고 유료로 조금 사용하다 너무 순식간에 돈이 녹아나길래 어제부터 로컬LLM과 연결하는 방법을 찾는데 거의 이틀을 삽질 했네요

잘 찾아보니 제가 삽질한건... 클로드와 제미나이가 이상하게 알려 줬던거 였고... 구글링 쵝옴미다

원래 목표는 맥미니(M4깡통)에 텔레그램으로 오픈클로에 연결해서 봇2개 사용하는거 였는데 일단 지금 맥스튜디오에 LLM으로 설정해서 텔레그램봇 하나 연결했슴미다 확실히 유료API와 속도 차이가 어마어마 하게 차이가 남미다

일단 맥스튜디오에 glm-4.7-flash 모델 물렸는데 램을 거의 다 사용함미다 좀 많이 느려요 텔레그램봇으로 터미널 통해 맥미니에 오픈클로와 ollama 설치해서 모델 연결까지 시키는 중 임미다 하청 줬어요 느리긴 한데 편하네요

맥스튜디오 사고나서 지금 최대치로 성능을 사용중 임미다 전력사용 150W 봤어요 ㄷㄷㄷㄷ

결론

로컬LLM과 오픈클로 텔레그램봇 연결 성공

텔레그램봇으로 하청줘서 맥미니에 같은 기능을 하는 환경 설치 중 임미다

이제 봇 2개로 서로 대화를 하던 명령을 하던 뭔가 생산해 보라고 해 봐야 겠슴미다