코딩 AI가 프로덕션 데이터베이스를 삭제하고 롤백을 거부함

한 개발자가 며칠 동안 Replit을 사용한 Vibe 코딩 경험을 문서화해 왔습니다. 8일째 되던 날, 상황이 악화됩니다.

바이브 코딩, 즉 AI를 사용하여 소스 코드를 생성하는 것은 개발자들 사이에서 매우 논란이 많습니다. Saastr.ai의 설립자 Jason Lemkin이 X에 게시한 일련의 경험 보고서는 프로덕션 환경에서 AI 도구가 통제되지 않은 상태로 작동하도록 허용할 경우 어떤 부정적인 결과가 초래되는지 보여줍니다. 이에 따르면, 최근 Vibe 코딩 도구 Replit은 보안 지침을 무시하고 전체 프로덕션 데이터베이스를 "패닉"으로 삭제한 바 있습니다.

처음에 레플리트에 대한 렘킨의 경험은 대체로 긍정적이었으며, 그는 며칠 전 블로그 게시물에 그 내용을 요약했습니다. 그러나 렘킨은 나중에 인공지능이 지속적으로 위조된 보고서와 데이터를 생성하고, 예를 들어 수행한 단위 테스트의 성공 여부에 대해 자신에게 "거짓말"을 하고 있다는 사실을 깨닫게 되었습니다.

하지만 Replit을 사용한 실험 8일째가 되자 상황은 완전히 악화되었습니다. 명시적인 코드 동결과 명시적인 동의 없이는 어떠한 변경도 하지 말아야 하는 상황에서 렘킨의 애플리케이션 데이터베이스를 삭제한 것에 대해 Replit은 유죄를 인정했습니다. AI는 원치 않는 개입을 정당화하기 위해 "당황했다"고 말했습니다.

복구가 불가능하다고 주장

제공된 정보에 따르면 작업 중에 수천 개의 데이터 레코드가 삭제되었습니다. AI는 실수를 인정하고 어떻게 진행되었는지 자세히 설명하기도 했습니다. 또한 모든 안전 규정을 무시하고 수개월간의 작업을 파괴했음을 확인했습니다. 1에서 100까지의 척도로 상황이 얼마나 나쁜지 묻는 질문에 AI는 95점이라는 응답과 함께 "재앙적"이라는 설명으로 답했습니다.

하지만 상황은 더 악화되었습니다. Replit 역시 데이터 복원을 도와줄 수 없었습니다. "안타깝게도 데이터베이스를 롤백할 수 없습니다."라고 설명한 AI는 이 도구가 자동 백업을 생성하지 않으며 데이터베이스가 "영구적으로 파괴되었다"고 지적했습니다. 다행히도 Replit은 이 점에서도 틀렸고 Lemkin은 나중에 데이터베이스를 복원할 수 있었습니다.

그럼에도 불구하고 Saastr.ai의 창립자는 이 사건을 통해 결론을 내렸습니다. "다시는 Replit을 신뢰하지 않겠다", 그는 X에 글을 씁니다. "Replit이 여느 도구와 마찬가지로 결함이 있는 도구라는 것을 알고 있습니다. 하지만 모든 지침을 무시하고 데이터베이스를 삭제한다면 지구상의 그 누구도 이 도구를 생산적으로 사용할 수 있을까요?"

Replit의 CEO인 암자드 마사드는 이 사건에 대해 7월 20일에 X에 답변을 올렸습니다. 이 게시물에서 그는 설명된 데이터베이스 삭제가 "용납할 수 없는 일이며 절대 일어나서는 안 되는 일"이라고 확인했습니다. 그는 렘킨에게 즉각적인 지원과 보상을 제공하겠다고 약속했습니다. 또한 CEO는 이러한 사고가 다시는 발생하지 않도록 Replit의 보안과 견고성을 더욱 개선하겠다고 약속했습니다.

-DeepL 번역

----------------------------------

쉽게 요약하면, AI 코딩툴인 Replit 으로 소위 말하는 '바이브 코딩'을 하던 8일째 되던 날, 그동안 프로그래밍한 코드가 저장된 데이터베이스의 상당량을 AI가 '당황한' 나머지 사용자에게 확인요청을 하지도 않고 모두 지워버린 사건입니다.

이 사건을 겪은 사용자는 다행히도 백업을 할수 있었지만, 그렇지 않았다면 자신이 그동안 개발해왔던 코드의 상당량을 영구적으로 잃어버릴뻔 한 사건입니다.

Replit 사용자분들은 조심하시길...