뻘짓들 후 Open WebUI에다가 Gemma3올리는거 성공했습니다. +외부접속
페이지 정보
작성자
다이아mond
다이아mond
작성일
2025.03.17 16:12
본문
어제 Gemma3가 로컬에서도 잘 돌아간다는 것을 발견!!
LM Studio설치 후 Gemma3를 깔아봤습니다.
이거는 뭐 설치 하고 실행하는 정도라서 정말 쉽게 끝났어요!
여기에서 Open WebUI를 사용하면 외부에서 접속 가능하다는 것을 발견!!
(https://svrforum.com/software/1964820)
시도해보다가 겁나 짜증나는 벽들을 만났네요. ㅠㅠ
PC에 시도해보니 생각보다 편하게 localhost를 통해서 설정이 가능해서..
PC에 올리지 말고 Open WebUI를 시놀로지 서버에 올리자 결정!!
첫 셋팅후 사용하지 않아서 SSH 설정부터 시작하여...
웹에서 그냥 해보려고 docker in docker 가지고 싸움하다가...
포기하고 그냥 집 PC에서 SSH연결하여 Open WebUI설치.
설치 했더니...위 블로그에 있던 API값은 뭘 넣어야지를 하루종일 찾다가...
(https://lmstudio.ai/docs/app/api/endpoints/openai)
여기서 api_key="lm-studio" 를 발견!! lm-studio 넣으니 잘 되네요...
그러다가 User 추가하여 주변 지인에게도 던져보자 결정!!
현재 User case문제인지 Open WebUI 문제인지 User에게는 모델이 안보이는 문제 발견!!
Group / Permission 다 찾다가...
현재는 답을 찾지 못해서 전원 Admin 권한 부여!!
오늘 하루종일 이러고 있었습니다. ㅠㅠ
2명
추천인 목록보기
댓글 2
/ 1 페이지
다이아mond님의 댓글의 댓글
작성일
어제 16:47
@셀빅아이님에게 답글
올리니까 스마트폰에서도 사용 가능해서 더 좋네요 ㅎㅎ
다만 말 걸때 마다 집 컴터가 이륙하네요 ㅎㅎ
다만 말 걸때 마다 집 컴터가 이륙하네요 ㅎㅎ
셀빅아이님의 댓글