아침소리 (121.♡.151.178)
2026년 6월 20일 PM 08:55
어제 덧글로 조언해주신대로 리팩토링 시작.
중간에 한번 하긴 했는데 그동안 추가된게 너무 많아서 ..
0~4단계로 작업하고..
any 타입 3000개쯤 모두 검사해서 타입특정하고 - 이거 엄청 중요하게 생각하네요..일종의 코딩 보호도 되고.
대부분 잘 나눠졌는데 3000줄짜리 2개 나와서 분리해서 모듈화.
DB접근방식 근본 수정.
백업 정책 수립.-있긴한데 다시 보강.
보안 점검 하고 보완.
관련 툴 들 패치 작업.
GPU가 있는 개발pc와 서버pc 협업으로 자연어검색, 색인 등 최적화.10초걸리던 검색을 4초까지..
기본적으로 테스트 정책 수립. jaccord 네 뭐네 하면서 잔뜩 테스트 정책 수립하고 수행하네요.
CI수립.
어제 오늘 이틀 해서 뭔가 상당히 높은 수준의 SI 결과물을 만든 느낌입니다.
다 정리하고 나니 프론트앤드에서 뭔가 빠릿하게 동작하는 느낌이네요.
실제 속도 테스트해보면 별 차이없다고 하는데 사용해보면 스무스하게 작동하는 느낌.
진짜 7월이면 오픈 해도 되겠다 싶네요.
엄청 쌓인 엑셀파일들 마이그레이션 다음 주말에 작업할듯..
댓글 (6)
-
줗줗은날왔으면
06.20 · 222.♡.196.171
- 아
아침소리
→ 줗은날왔으면 작성자
06.20 · 121.♡.151.178
저도 소프트웨어는 하나도 모릅니다...
이런 높은 수준의 작업을 바이브코딩으로 가능하다는게 신기하네요
- 달
달려라쑈바
06.20 · 175.♡.21.141
운영환경에서 GPU는 어떻게 하시나영?
- 아
아침소리
→ 달려라쑈바 작성자
06.20 · 121.♡.151.178
현재는 검색기능을 안 쓸 수 없어서 개발pc의 gpu를 이용합니다. ollama를 도커로 설치하고 모델을 깔아놓습니다.
그러면 서버pc에서 검색어를 네트워크로 보내고 답을 받습니다.
이런 구조로 자연어 검색기능이랑 색인결과를 리랭킹 하는 두가지 기능을 구현하고 있습니다.
덕분에 서버CPU에서만 할때는 쓸수도 없는 수준인 검색 기능이 완전 좋은 품질로 빠르게 결과를 내줍니다.
- 달
달려라쑈바
→ 아침소리
06.20 · 175.♡.21.141
저 기능을 운영으로 옮기면 돈이 와장창 나올것 같아서요 ~ aws bedrock 이나 ollama cloud 같은걸 끼얹으시나영?
- 아
아침소리
→ 달려라쑈바 작성자
06.20 · 121.♡.151.178
이미 가운영중입니다. 현재는 5060 8gb정도에 올라가는 로컬llm으로 설계하고 운영합니다.
ollama에 모델은 bge-m3 작은걸 올려서 씁니다.
서버쪽에 gpu하나 추가할거고 그러면 vLLM으로 서비스하게될거같습니다.
댓글을 작성하려면 이 필요합니다.
뭔가 대단한 일을 하신거 같은데 저한테는 외계어라 충분히 감탄해드릴 수가 없네요.