지난 주 개발 부서의 스프트웨어에 구성 및 기능 설명 - 별 관심도 없어보여서 회의 해서 토의 (제 부서)

사내 서버로 이관 방안 검토 하고, 내부 도커 이미지들 보더니 그냥 이미지 채 이관하는게 맞겠다고.

나중에 디버깅 어찌 할지 안이 안보인다고 해서 이거 스터디할 생각없고 100% 바이브로 유지보수 하는게 맞겠다고 하고 동의. SW팀장은 한 20년 넘은 경력이고 SI부터 백/프론트 모두 하는 능력자입니다.

전체 구성은 erp 에 필요한 건 다 들어 있고 이렇게 갈수 밖에 없겠다고 동의.

그래서 어제 막내 직원 시켜서 서버 포맷(여유 있던게 있어서)하고 우분투 설치하고 개발PC에 있던 거 이관.

이걸 하룻만에 해버리네요.

막내 직원 리눅스 거의 모르고 그냥 만들어준 MD파일대로 따라서 진행.

백업 파일들은 필수 파일들만 개발PC에서 ssp로 서버에 이관 - 이거도 클로드 시키는 대로.

그 큰 도커 이미지들은 첨에 백업받아 옮기는걸로 얘기하더니 실제로는 재빌드하면서 깃꺼 가져오도록 해서 해결.

개발PC에서 검색관련 툴인 ollama 랑 기본 모델은 GPU없이 돌리도록 설정 변경 알아서 하네요.

델 모델명 사양 알려주니 GPU->CPU로 알아서 설정 변경.

CPU로 바꾸니 검색 품질이 달라져서 다시 튜닝.

이제 기존 작업하던 파일 청킹 작업 돌리네요.

A6000 중고라도 하나 꽂아야할거 같아요.. 로컬LLM 때문 아니라 뭔가를 할려면 GPU가 필요하게 되네요.

청킹도 GPU로 돌리는게 수십배 빠르고.

최종 골은 쌓여온 40T에 RAG을 붙이고 앞으로 쌓이는 erp정보들을 모두 자원으로 쓸수 있도록 하는겁니다.

ERP가 그냥 사내 결제 툴이나 프로젝트 관리를 넘어서 전사지식 시스템으로 넘어가고 있는 중..

덕분에 서버에 추가할 GPU검색 한참 했네요. 예산상, 서버 특성상 A6000 중고로 구매하지 않을가 싶은...

그래도 700.ㅠ..ㅠ.ㅠ