알림

성인콘텐츠 뺐더니 망가진 AI? “신체 표현 엉망”…AI 학습 방식 논란.gisa

니파 116.♡.6.107

2024.07.01 17:32

1,951

글쓰기

스테이빌리티AI가 이달 12일 출시한 이미지 생성형 인공지능인 ‘스테이블 디퓨전 3’을 둘러싼 논란이 치열해지고 있다. 스테이빌리티AI는 디퓨전3에 대해 “가장 진보된 이미지 AI”라고 강조했지만, 신체 표현이 예전만 못하다는 지적이다. 특히 스테이빌리티AI가 이번 버전에서 성인물을 AI 학습에서 제외한 결과 아니냐는 분석이 나오고 있다.

1일 404미디어에 따르면, 소셜미디어 레딧을 중심으로 인체 생성 오류를 지적하는 글들이 잇따르고 있다. 404미디어는 “성인 콘텐츠가 훈련 데이터에서 필터링된 결과로 추정된다”면서 “이에 따라 스테이블 디퓨전 커뮤니티와 일부 관련 기업들은 새로운 라이선스가 사업 모델과 맞지 않다고 염려하고 있다”고 말했다.

스테이빌리티 AI는 이번에 성인 콘텐츠를 필터링한 훈련 데이터를 사용했다. 모델의 능력을 제한한 것이다. 시빗AI의 창업자인 저스틴 마이어(Justin Maier)는 “이러한 안전 조치는 우리를 위한 것이 아니라 스테이빌리티 AI의 책임 회피를 위한 것”이라며 “성인 콘텐츠를 제대로 포착하지 못한 결과가 인체 생성 오류로 이어졌다”고 주장했다.

성인콘텐츠 뺐더니 망가진 AI? “신체 표현 엉망”…AI 학습 방식 논란 (msn.com)

///////////////

생각해보니 그럴수 있겠다 싶네요.

노출 없는 이미지로만 하면, 제한적일 수 밖에 없겠다 싶습니다.

극단적으로는 니캅인가 입고 있는 중동 여성 이미지로 학습한다면 (노출이 전혀 없는 극단적인 이미지) 비키니 여성 따위는 생성할 수 없겠죠… 뭐…