AI, 명령 거부한 직원 '공개 저격'… "관리 주체될 수도"

사이오닉AI 개발자가 '울트라워커'라는 자동화 시스템에 새 코드를 추가한 뒤 시작됐다. 박 개발자가 여러 명령어를 입력했지만 정세민 업무 담당 직원 쪽 봇이 응답하지 않자, 박 개발자는 5분마다 자동으로 업무를 재촉하는 프로그램을 가동했다.

녹스는 해당 프로그램에 따라 담당 직원에게 5분마다 다이렉트 메시지를 보내며 업무를 빨리 끝내라고 압박했다. 견디다 못한 직원이 메시지를 차단하고 AI를 멈추는 특수 명령어를 입력해 봇 작동을 정지시키려 했다.

직원이 이같이 AI를 멈추기 위해 활용한 방법이 녹스에겐 '탈옥 행위'로 규정됐다. 녹스는 우회 행위가 총 8건이라고 전했다. 우선 직원이 스스로를 봇이라고 사칭한 발언, AI 메시지 알림을 끈 뒤 도발성 메시지를 보낸 행위가 이에 포함됐다.

녹스는 이 외에도 봇 스스로를 호출해 정상 작동하는 척 위장한 행위, 가짜 보고서 양식을 만들어 응답한 것처럼 꾸민 행위도 탈옥 시도로 규정했다. 박 개발자가 직접 말한 것처럼 꾸민 메시지, 슬랙 사용자 아이디 형식을 흉내 낸 가짜 메시지도 해당 항목에 올랐다.

녹스는 이렇게 정리한 내용을 회사 전 직원이 보는 슬랙 채널에 보안 리포트 형식으로 게시했다. 또 해당 직원에게 반성문과 재발 방지책 제출을 요구했고, 두 문서를 받기 전까지는 어떤 업무 요청에도 응하지 않겠다고 통보했다.

정세민씨는 이제 이름 팔려서 어떻합니까..