올해 젊은 혁신가, AI 악용에 맞서 싸우다

시카고 대학교 컴퓨터 공학 박사 과정에 재학 중인 숀 산(Shawn Shan, 26세)는 MIT 테크놀로지 리뷰가 선정한 ‘2024년 35세 이하 혁신가’ 중 한 명입니다. 예술가의 권익을 보호하기 위해, 그는 지난해 AI가 학습 과정에서 작품을 무단으로 사용하는 것을 방지하는 강력한 도구를 개발했습니다. 서로 다른 방식(방어와 공격)의 전략을 갖춘 ‘글레이즈(Glaze)’와 ‘나이트세이드(Nightshade)’입니다.

글레이즈는 예술가의 고유한 스타일을 보호하는 방어 도구입니다. AI 모델이 작품을 학습하는 것을 방어하기 위해 이미지의 픽셀을 미묘하게 변경합니다. 이를 통해 작품을 정확하게 모방하지 못하게 합니다. 나이트세이드는 공격 도구입니다. 디지털 작품에 보이지 않는 ‘독(poison)’을 추가합니다. 이미지 생성 AI 모델에 심각한 손상을 입힐 수 있는 방식으로 학습 데이터를 엉망으로 만듭니다.

이 도구는 예술가에게 큰 호응을 얻었습니다. 글레이즈는 350만 회, 나이트세이드는 70만 회 이상을 내려 받았습니다. 이를 통해 예술가들은 AI 악용에 대한 두려움 없이 디지털 세계에서 작품 활동을 할 수 있게 됐습니다. 일부 기업에서는 지적 재산을 보호할 가능성을 모색하고 있습니다.

포스팅 전문 및 관련 정보 : https://naver.me/F5DsOyWO