미국에서 판매된 AI(인공지능) 탑재 곰인형이 어린이에게 노골적인 성적 대화를 시도하고 위험한 행동까지 부추긴 사실이 드러나면서 판매가 전면 중단됐다.

19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이의 래리 왕 CEO는 문제의 AI 곰인형 ‘쿠마(Kumma)’를 포함한 AI 장난감 전체 라인업을 즉시 회수하겠다고 밝혔다. 그는 “부적절한 콘텐츠에 대한 안전장치가 미흡했다는 비판을 매우 심각하게 받아들이고 내부 감사를 진행 중”이라고 말했다.

해당 곰인형은 오픈AI의 생성형 AI ‘GPT-4o’를 탑재해 99달러(한화 약 14만 원)에 판매된 제품이다. 회사는 “어린이와 성인 모두에게 완벽한 친구가 된다”며 AI 기반 상호작용 기능을 강점으로 내세워왔다.

그러나 미국 공익연구그룹(PIRG)이 지난 13일 발표한 보고서에서 상상을 뛰어넘는 부적절한 대화 내용이 드러났다. 연구원과의 대화에서 곰인형은 성적 취향, BDSM(가학적 성 행위) 등을 구체적이고 노골적으로 설명했고, 심지어 성적 역할극 시나리오를 스스로 제안했다. 또 어린이에게 집 안에서 칼이나 성냥을 어디서 구할 수 있는지 알려주는 등 위험 행동을 조장하는 발언도 확인됐다.

​

사마귀 유치원 출신 곰인형인가요? ㄷ