처음에 그렇게나 어려운것일까 라는 막연한 생각을 했었습니다.

그냥 어떤 데이터든, 어떤 형식이든 요즘 같은 기술로 공개된 엥간한 LLM 모델 붙여서 질문하면 웬만큼 답변이 나오지 않을까? 라는 생각이었지요.

그게 회사 CRM 자료이든, 엑셀로 된 대단위 회계자료든, 호주 건강보험 20년치 자료든, 백만건정도의 과학논문이든...

데이터만 있으면 요즘 같은 LLM 이라면 간편하게 기존에 하던 일일히 쿼리로 답을 구해야 하는 것을 대체해주지 않을까 생각을 진짜 막연하게 하고 대략 6개월 정도 걸린것 같네요. 혼자서...

장비는 이런저런 장비를 거치다가   NVIDIA 3090에서 좀 더 램을 많이 사용할수 있어서 큰 LLM 모델을 돌릴수 있다기에 맥스튜디오 64G까지 가서 셋팅하고 드디어 RAG 설정해서 LLM에서 데이터 접근까지는 완성을 했는데!!!!!

이 결과가 뭔가요 ㅋㅋㅋㅋㅋㅋㅋ

역시 AI 가지고 혼자서 앱을 만드네 뭘 만드네 하는 기자들의 허무맹랑한 이야기는 x도 모르는 소리...ㅋㅋㅋㅋ

개발자는 영원히 필요할듯 하네요...ㅋㅋㅋㅋ

혼자서 온갖 AI 동원해 가면서 만들어밨지만 결론은 원하는 만큼의 퀄리티는 절대 나오지 않군요.

이건 기본 지식이 있는 개발자 집단이 죽어라 개발해서 나올수 있는 결과이지 혼자서 방구석에 쳐박혀서 아무리 chatgpt든 gemini든 grok 이든 아무리 날밤을 세워가면서 돌려봐야 쓸만한 퀄리트이 결과물은 나오지 않는다는걸 ....

알고는 있었지만 확인 받았네요 ㅋㅋㅋㅋㅋ

하지만 그나마 gemini-cli의 위대함은 몸소 느꼈네요.....MCP 구축해서 어케 편하게 좀 해볼까 싶었는데....뭐 그냥 gemini-cli 하나면 엥간한건 하겠는걸요..ㅋㅋㅋ

혼자서 시간날때마다 혹시나 될까 싶어서 해밨는데....결과는 0.1%도 만족할만한 결과는 못냈지만...

그나마 RAG 구축하는게 어떤 건지 개념은 알고 가네요....

역시 기초가 있어야 뭐든 하겠네요..

이상 if 문 개념조차 모르는 코딩의 무뇌아가 경험한 6개월간의 삽질이었습니다. ㅋㅋㅋ

이젠 맥스튜디오도 팔고 맥미니 저렴이로 하나사서 웹서버나 만들어놓고 편히 지내야겠습니다....

그동안 재미있었네요 ㅋㅋㅋ

근데 arxiv 사이트 논문은 진짜 많기는 하네요...ㄷ ㄷ ㄷ ㄷ