누구나 AI 챗봇으로 도용될 수 있습니다

와이어드에 따르면, Character.AI를 사용하면 당사자 동의 없이 AI 페르소나를 만들 수 있습니다. 이 중 일부는 온라인에서 괴롭힘을 당하고 있는 여성입니다. 알 수 없는 Character.AI 사용자가 18살 나이에 전 남자친구에게 살해당한 여성의 이미지를 활용했습니다. 그의 아버지는 그의 딸 이름으로 구글 알림을 받다가 이 사실을 알았습니다. 사측은 이 아바타를 바로 삭제했습니다. 서비스 개발에 있어 자사 정책을 위반했다는 사실을 인정한 셈입니다. 그녀의 아버지는 이 사건을 통해 기술 산업의 윤리적 실패 중 하나가 무엇인지 깨달았다고 했습니다.

Character.AI는 누구나 자신만의 챗봇을 만들고 최적화할 수 있는 옵션을 제공하는 개방적 플랫폼을 표방합니다. 공개적으로 사용할 수 있는 정보, 이미지, 소셜 미디어 데이터를 통해 실제 사람의 디지털 클론을 자유롭게 만들 수 있습니다. 여기에는 유명인은 물론 일반 개인을 포함합니다. 사용자가 프라이버시를 침해한 악의적으로 봇을 생성하더라도 이를 제대로 막을 방법이 없습니다.

현재 법과 규제는 AI의 빠른 개발 속도를 따라가지 못하기에 동의 없는 AI 사칭으로 인한 피해는 계속 발생할 수밖에 없습니다. 목소리, 이미지 등 개인의 초상이 어떻게 사용되는지 통제할 수 있는 권리를 ‘인격권’이라고 합니다. 그러나 이러한 권리는 대부분 자신의 초상이 상업적 가치를 지닌 사람들에게 적용됩니다. AI가 생성한 콘텐츠에 적용하는 것이 간단하지 않습니다. AI 사칭을 구체적으로 다루는 명확하고 포괄적인 법률이 없기에 많은 개인과 조직이 잠재적인 피해에 노출돼 있습니다.