llm 구축과 관련한 프로젝트 기획을 마무리하면서 자주 듣는 이야기가 있습니다.

윗선: 김과장 이거하면 사람 안뽑아도 되나?

실무: ai가 진짜 알아서 다 해줘요?

저는 뭐 H200이라는 신규 장비 도입해볼려고 계획서를 쓰기는 하지만 사전 수요조사를 해보면 원툴 딸각을 원하는게 대부분인 것 같습니다.

레거시 장비로 테스트하면서도 희망이 보일듯 말듯하지만

궁극적인 딸각으로 업무개선은 안돼보입니다. 그래도 노가다 하던 반복업무는 대체가 될 것 같은데 명령을 내리는 오더에 따라 성능이 천차만별이긴 합니다.

처음 로컬 LLM을 하면서 6세 수준의 AI를 어르고 달래고 가르쳐야 중등생 수준의 능력을 뽐내는데, 이걸 장비를 업그레이드 하면서 수능 2-3등급 수준의 성능까지 뽑을 수 있을까라는 생각도 듭니다.

생각해보면 오토 딸각으로 회사가 돌아갈 정도라면 저도 사장하면 될거 같습니다만 현실은 중소도 사람없어서 못돌아가는데 불가능하겠어요.