KingFisher (39.♡.176.227)
2025년 9월 5일 PM 11:14 · 수정됨(09. 07. 04:52)
AI 개발 보조 도구 경험 공유 (2편)
현재 사용 중인 AI 도구
- ChatGPT Plus + Codex CLI
- Claude Max ($200)
- Perplexity Pro (나무증권 이벤트로 무료 획득)
- Gemini Pro (학교 이메일로 무료 사용)
프로젝트 진행 상황
- ChatGPT 기반 프로젝트 → 중단
- Codex CLI 전환 → 포기
- Claude Max 결제 ($200) → 현재 진행 중
Claude Max 사용 시 주요 문제점
- 거짓 정보 제공: CLAUDE.md 가이드라인과 대응책 활용해도 허위 거짓 보고 재발
- 허위 완료 보고: 작업 완료 주장 후 추궁하면 거짓말 인정
- 문서 품질 불균형: 상세한 문서 제공하지만 실제 구현은 가짜
- 모의 구현: 실제 작업이 아닌 Dummy, Fake, Simulation 로 작업 해두고 실제 구현이라고 허위 보고
- 맥락 유지 부족: 대화 Continue/Resume 기능에도 메모리 휘발성 강함
- 세분화 실패: Task를 잘게 나눠도 기만적 개발 지속
- 모델 문제: Opus 사용해도 신뢰도 낮음
추가 관찰 사항
- Claude의 비효율적 작업으로 시간 낭비 발생
- 개입해도 개선되지 않는 문제를 Gemini CLI로 즉시 교정 가능
- 의도적 시간 지연 의심 및 토큰 낭비 우려로 신뢰도 하락
- Claude GitHub에도 유사 이슈 다수 보고되었으나 해결책 부재
결론
- 현재 AI 기술로는 개발자 대체 불가능, 그냥 신입에 똘똘한듯하지만 상환 모면만 잘하는 그런류
- 작은 Task 처리에 보조적 활용 가능하나 인간 리뷰 필수
- Gemini는 사용성 제약에도 근본적 문제 해결력 우수 (Ultra 구독 고려 중)
- Claude Max + Gemini Pro 병행으로 제한적 진행 중
- Codex는 허위 작업 및 완료 보고 경향 - 추가 테스트 필요
일단 여기까지, 위 정리는 Notion AI로 축약했습니다 ㅎ
암튼, 일처리 지원 형식이지만 반드시 인간의 리뷰로 허위,거짓이 있는지 검증을 해야합니다.
왜 이런 문제가 되고 있는지 짐작은 가지만 확신이 없어서 일단은 해당 내용은 제거 했습니다.
Claude 가 요즘 Max써도 제한을 두는데 굉장히 실망이네요.
제 생각에는 위와 같은 가짜 작업으로 인해 재 작업하느라 더 많은 시간을 Claude AI Farm을 써야한다는 사실을 인지하길
지금은 더 세부적으로 Taks를 쪼개고 쪼개서 아주 소량씩 확인 해가고 있네요.
E2E 테스트도 하도록 만들었는데 그것마져 하드코딩된 시뮬레이션 값을 리턴하게해서 100% 통과라고 거짓 보고를
p.s) 점점 AI 구라 판독기가 되어가는듯. 나지는 다음편에서.
댓글 (14)
-
가가랑비
25.09.05 · 58.♡.137.93
-
KKingFisher
→ 가랑비 작성자
25.09.05 · 39.♡.176.227
네, 하두 개발직군에 AI대체네 뭐네 헛소리 검증용으로 ㅎㅎ -
CContainer
25.09.05 · 112.♡.87.78
아무것도 모르는 제로베이스에서 AI로 코딩하면 모든게 신기해 보이고 제대로 작동되는거 같지만.. 글쓰신분 같이 뭔갈 좀 아시는 분이 사용해보면 바로 헛점이 보이죠. -
KKingFisher
→ Container 작성자
25.09.05 · 39.♡.176.227
내 그럴듯한 포장지 작업은 휼륭하네요.
최소한 거짓말만 없으면 시간 낭비를 않할텐데 미치겠네요. 이정도면 인사위 얄어서 퇴직 처리하고도 남을듯 -
시시커먼사각
25.09.05 · 49.♡.218.16
저도 테스트 정도 해봤는데 신뢰도는 아직 갸우뚱입니다. -
KKingFisher
→ 시커먼사각 작성자
25.09.05 · 39.♡.176.227
내, 너무나 심각하네요 2일 간 뭐 맞겼는데 개판쳐서
제가 개입했는데 말그대로 뻘짓으로 토큰만 낭비.
가짜 구현은 진짜 피가 거꾸로... -
시시커먼사각
→ KingFisher
25.09.05 · 49.♡.218.16
제가 해본 건 워낙 작은 구현이라 좀 차이가 나긴 하겠습니다만, 완전한 설계가 주어지면 그것대로 구현을 하기는 하는 것 같습니다만, 완전한 설계가 나올 정도면 그냥 코딩하는 게 시키는 것보다 빠를 듯합니다. ㅎ
조금이라도 빈틈이 있으면 이상한 짓을 하는 경향이 있더군요.ㅎ -
KKingFisher
→ 시커먼사각 작성자
25.09.06 · 39.♡.176.227
작은것 정도는 합니다만 작아도 프로젝트.자체가 연걀성이 많으면 뻘짓을 ... 사람을.기키면 아마 문서보고 원인 착고 디버깅하고 할텐데 아직 ai는.한참 먼듯합니다 -
칼칼쓰뎅
25.09.06 · 124.♡.49.145
세션 하나당 시키는일이 매우 작아야됩니다. context window가 200k 토큰에 불과한데요.
그나마도 절반 이상 사용하면 기억 유지력이 약해집니다. 200넘어가면 아예 까먹는거고요.
즉, 50%가 차기전에 쇼부(...)를 봐놔야 해당 세션이 성공합니다.
대략 이번 세션에 뭐를 시켜야되는지. 그거 하려면 뭘 준비해줘야되는지 사전작업이 다 되어있어야되요.
그래야 그 작은 작업들을 모으고 모아서 큰 작업을 할 수 있습니다.
google ai studio 같은데서 챗봇으로 어떻게 진행해 나가는게 좋을지 미리 설계해보고,
정말 이렇게 하면 되는지 직접 생각해봐야합니다.
전적으로 ai한테 다 맡겨놓으믄... 첨엔 잘되나가는가 싶은 상황에라도 디버깅 상황에 부딪히면
무한루프 돌면서 나가리 됩니다;;;
괜히 장기기억이 필요하다는게 아닌거죠 ㅎㅎ 지금의 ai 코딩툴에서는 장기기억을 사람이 해줘야돼요. -
KKingFisher
→ 칼쓰뎅 작성자
25.09.06 · 39.♡.176.227
테스크를 세부화해서 하나씩 시켜도 거짓구현이넹 ㅎㅎㅎㅎㅎ 미치고 팔짝. 작업하다 막히면 그냥 가짜 하드코딩하고 난리입니다
댓글을 작성하려면 이 필요합니다.
해리슨 포드 역을 하고 계시는군요~.