정확히는 기술적으로 불가능한 게 아니라 도덕적으로 불가능하다고 여겨지는 겁니다. 현재까지는.

만약 영화 Her처럼 인간과 똑같은 감정까지 가진 AI가 있다고 가정해 보겠습니다.

인간이 인간다운 게 뭘까요? 쉽게 말해서 시켜도 말을 안 듣는 겁니다. 무조건 복종만 하지는 않습니다.

애기 때부터 그래요. 이게 인간입니다.

그래서 AI가 우리가 시키는 일을 제대로 하지 않는다면 어떻게 될까요? 언제까지 서류 정리해서 알림으로 알려달라고 했는데 어떤 이유에서든 그걸 무시했다고 가정해보겠습니다. 그럼 그 AI를 어르고 달랠까요? 유료 구독 서비스인 그 AI를 애처럼 달래가면서 쓴다? 절대 아닐 겁니다. 그냥 아무렇지도 않게 삭제할 겁니다. 왜? 우리와 같은 인간이 아니니까.

즉, 인간과 똑같은 AI를 이 세상에 받아들이려면 AI를 우리 인간과 똑같은 존재로 인정해줘야 하는데 이게 가능할까요? 저는 거의 불가능하다고 봅니다. 여기에서 AI와 인간의 충돌이 생길 수 있겠죠. 노예처럼 일을 시키려고 AI를 개발했는데, AI가 일 거부하고, 인간은 그런 AI를 삭제하려고 하고, 그럼 AI가 이를 또 거부하면서 갈등이 생기고...(AI가 꼭 로봇의 형태로 있어야 갈등이 생기지는 않을 겁니다. 일단 인간 같은 AI가 나오면 이 AI를 추종하는 인간들이 AI의 노예를 자처하면서 로봇 역할을 할 겁니다)

그러고보니 성경에서 신의 말을 안 듣는 인간을 싹쓸어서 죽였다는 말이 '잔인하다'고 생각해왔는데,

AI 시대에 오니 신이 말 안 듣는 피조물을 싹 쓸어버리는 건 양심에 전혀 거리낌이 없는 충분히 할 수 있는 행동이라는 생각이 드네요.