조핸슨 음성모방 논란에...오픈AI, 새 안전·보안위 구성
페이지 정보
본문
챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 관련 기술 개발 과정에서 안전 및 윤리 문제를 점검하기 위해 새로운 '안전·보안위원회'(safety and security)를 구성했다. 최근 유명 배우 스칼릿 조핸슨의 음성 모방 논란으로 오픈AI를 향한 비판이 거세진 데 따른 조치다.
오픈AI는 28일(현지시간) 블로그 게시물을 통해 브렛 테일러 이사회 의장, 샘 올트먼 최고경영자(CEO), 애덤 단젤로 이사 등이 위원회를 이끌게 될 것이라고 발표했다. 위원회의 첫 임무는 오픈AI의 프로세스와 안전장치를 평가하고 추가로 개발하는 것이다.
이러한 결정은 최근 오픈AI가 출시한 'GPT-4o'의 음성서비스 '스카이(Sky)'가 배우 조핸슨의 목소리를 모방했다는 논란에 휩싸인 직후 이뤄졌다. 앞서 스카이 공개 직후 온라인상에서는 조핸슨의 목소리를 무단으로 AI에 학습시킨 것이 아니냐는 의혹이 잇따랐고, 조핸슨 역시 오픈AI로부터 요청을 받았지만 자신의 목소리 사용을 허락하지 않았었다고 말해 파장이 확대됐다. 결국 조핸슨측은 법적대응을 시사했고오픈AI는 음성 사용을 중단한 상태다.
이에 따라 AI서비스가 학습 과정에서 각종 콘텐츠, 창작물은 물론, 사람 목소리까지 동의 없이 무단 사용하고 있다는 비판의 목소리가 거세지고 있다. 오픈AI를 비롯한 주요 기업들이 AI 학습 데이터를 투명하게 공개해야 한다는 주장도 쏟아진다. 월스트리트저널(WSJ)은 "생성형 AI 챗봇은 저작권이 있거나 유료화된 자료 등을 포함해 인터넷 전반의 텍스트, 이미지, 음악, 비디오에 의존하고 있다"면서 "AI의 급부상으로 인해 지금까지 콘텐츠를 만들어온 이들이 깊은 불안감을 느끼고 있다"고 분위기를 전했다. 앞서 오픈AI는 AI의 리스크를 연구하는 슈퍼얼라이먼트(superalignment) 팀 일부를 다른 팀으로 재배치하는 등 기존 안전팀도 해체한 상태다. 해당 팀을 이끌었던 오픈AI 수석과학자 일리야 수츠케버 등도 오픈AI를 떠났다. 이날 오픈AI는 차세대 AI모델 훈련을 시작했다고도 확인했다. 오픈AI는 "다음 프런티어 모델을 훈련하기 시작했다"며 "그 결과물이 범용인공지능(AGI)으로 가는 다음 단계의 역량을 이끌 것으로 기대한다"고 발표했다. 다만 차기 AI모델인 GPT-5의 출시시점 등 구체적인 내용은 공개되지 않았다. 올트먼 CEO를 비롯한 오픈AI 경영진은 그간 인류에게 유익한 AGI 개발 목표를 강조해왔다. AGI는 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI를 가리킨다.
.,..출처 및 원문: https://news.zum.com/articles/90925098
시커먼사각님의 댓글