[삽질] vscode (feat Ollama)
페이지 정보
본문
기존에 작성했던 환경의 확장판입니다.
https://damoang.net/tutorial/6323?sca=서비스·SW
https://damoang.net/tutorial/6331?sca=서비스·SW
다들 집에 A.I 하나정도는 있잖아요
Open WebUI가 아닌 VsCode에 직접 연결해서 사용할수 있다면 좀더 편한 환경이 되겠지요.
이미지로 보면 다음과 같습니다.
VsCode로 코딩을 하는데. 아 옆에서 도와 준다. 자동으로 코드도 만들어 준다. 정도 입니다.
물론 만든 프로그램 검사도 해주고 , 테스트도 해주고 물론 아주 짭고 단편적인것이기는 하지만요.
결과 :
1. 집에서 노는 A.I를 더 빡시게 일을 시킬수 있다.
2. 오호 이렇게 되면 이젠 더이상 개발자가 왜 필요해?? 아니다. 개발자가 필요 없어진것이 아니라.
실력있는 자만 남고 나머진 짐 싸야 한다. 예전 10명이 필요한 작업을 2~3명으로 줄어든것 뿐..
--------------------------------------------------------------------------------------------
이제 조금더 자세히 들어가면 다음과 같습니다.
1. Ollama server 구성.
Ollama 설치시 로컬pc에서만 접근 가능한것을 풀어줘야 합니다. Ollama server로 셋팅을 해야 한다는 거네요. 이걸 어떻게 하는지 몰라서 한참 뒤지고 다녔는데. 역시나 문서에 적혀 있습니다.
https://github.com/ollama/ollama/blob/main/docs/faq.md
무식하면 몸과 시간만 고생을 하네요 아마도 늙어서 그런것 같습니다. 쩝. 50대 컴맹은 이런거 찾기
너무 힘들어요 쩝. 영어로 검색해야 찾아주네 쩝..
참고로 전 위의문서대로 했는데 안되서 다음과 같이 했습니다. 참고로 서비스가 구동중인데
systemctl edit로 저장이 되나??
sudo systemctl stop ollama
sudo nano /etc/systemd/system/ollama.service
문서에 추가
sudo systemctl daemon-reload
sudo systemctl start ollama
이젠 브라우저에서 확인하면 에전 에서만 확인되던 ollama 서비스가 본인의 ip에서도 확인이 됩니다.
2. VsCode 구성
이젠 Ollama Server가 구성이 되었으니. VsCode에 확장툴에 연결만 하면 되겠지요.
여러가지 테스트를 해 봤는데 저에게 가장 편하게 나온것 선택 했습니다. 각자 자신에게 편한거 선택하면 됩니`다.
https://marketplace.visualstudio.com/items?itemName=privy.privy-vscode
저의 환경 설정은 다음과 같습니다.
빨간 네모칸의 부분만 설정했습니다. Ollama 서버 및 포트 주소
자동완성 모델 : deepseek-coder:6.7b-base
체팅 모델 : codellama:13b-instruct
저렇게 셋팅하니. 자동완성? 채팅 동작을 하네요. 솔직히 프로그램 만들어 줘서 고맙긴 한데.
좀 대충 만들었다. 자동 완성의 경우 deepseek-coder 모델밖에 안됩니다. 그래서 어쩔수 없이 모델들을
다시 다운받고 다운받고 다운받고. 쩝.. 아니다. 고맙습니다. 저런것 만들줄도 모르는 놈이 불평하기는..
이젠 어느 pc에서나 제 로컬 Ollama A.I를 통해서 도움을 받을수 있게 되었습니다. ㅎㅎ
ps
인터넷 되는 환경이라면 그냥 ChatGpt 쓰세요 매월 3만원이 부담 될수도 있지만 ChatGpt 짱짱 좋은것 같아요
제 환경이 외부접속이 안되는 환경도 많아서 저렇게 해 보는 것일뿐 입니다.
영어로 해야 좀더 잘 빠르게 나오고
조금만 복잡해도 오래 걸리구(장비때문에)
한글도 잘 못알아 먹고 느린데 엉뚱한 대답하고
그리고 제가 늙은 50대 컴맹 가성비 충인데 A.I를 돌려보기 위해서 지금 장비를 사용하는 것이 맞는지
추가로 구성해야 하는지 의문도 들고.. 그냥 저냥 돌아갈수 있는 rtx-3070 달린 노트북이 있어서 해볼뿐입니다.
이젠 제 로컬pc에 구성된 A.I를 가지고 외부로 나가서 접속할수 있는 환경이 아직 남았군요.
스벅에서 아아 시켜놓고 맥북프로… 아 2011 뚜껑에 사과불 불들어오는 것밖에 없는데 입장 가능하겠지요.
날씨도 더우니 스벅에서 뚜껑에 사과불 불들어오는 맥북프로 2011 로 A.I를 돌려 봐야 겠네요.
웹 에디터가 ip주소 비슷한것만 들어가도 403에러가 나네요 ㅎㅎ
vs code 및 추가 확장
https://github.com/ollama/ollama#extensions--plugins
젖소부인님의 댓글