ai에 관심도 없고 제가 하는 영역 쪽은 ai가 칼 들고 들이밀어도 통하지 않는 분야입니다.

무려 파워빌더..와 net 1.0 기반의 레거시를 지금까지 운용하고 있어요. 물론 시간이 지나면 레거시까지 커버 가능한 더 뛰어난 제품이 나오면 가능하겠지요?

그럼에도 local LLM 제품과 에이전트 기반 워크플로우 제품을 가지고 영업이나 POC 제안이 종종 들어옵니다.

그리고 일부 부서에 몇 제품이 납품이 되면서 만족도가 높아졌나 봅니다.

최근, 이번에 POC 제안이 들어와서 데모버전 설치 받아서 보고 있었습니다. 제가 테스트하는 서버에 패키지를 깔고 가면서, 실수로 문제가 생겨서 제가 만든 open webui가 동작하지 않는 상황이 발생을 했습니다.

어쩔수 없이 터미널로 점검하는 와중에 해당 제품의 서비스를 볼 수 있었는데 ollama과 open webui 기반으로 동작하더군요. 즉, open webui 디자인을 바꾼 것입니다. 내부적으로 local llm 모델 설정이 가능한 점, 외부 llm 과 연결 방식도 비슷한 점 그리고 RAG 기능도 유사한 점을 찾을 수 있었습니다.

그리고 특정기능이 안되어서 업체에 알아봐달라고 했는데 아직 미지원이라고 답을 들었을때 심증이 확정이 되었던 것이 있습니다. 바로 ollama 버전이 높아지면서 gpu 드라이바와 cuda 호환성 체크를 해야하는데 이것도 잘 모르는 것이죠.

그러먼서 지난 제안 받은 브로셔는 전부 다시 봤는데 구성과 기능이 대부분 유사했습니다.

ollama과 open webui 라이선스 정책에서 상업 요소를 봐야 할것 같았습니다.

이걸 겪고나니 언뜻, 제가 봄에 llm 교육을 받을 때 강사님의 말이 생각 나더군요.

“여러분이 지금 배우는 것은 내용은 기술뿐만 아니라 회사의 재정을 아끼는 방법입니다”

요지는 실습 프로젝트 수준으로 제품화해서 돈받아 먹는 업체가 있다는 뜻이었습니다.

현재 사내 도입된 ai 관련 제품 중에 오픈소스를 그대로 써서 비싼 돈에 남품해서 쓰고 있음을 파악했는데요. 오픈소스를 잘 써서 좋은 서비스를 제공하는 것에 불만은 없습니다. 그런데 과연 라이선스 문제와 오픈소스 문제를 해결하고 유지보수가 과연 원활할까라는 생각이 드는 경험이었습니다.