오픈AI "생성형 AI 콘텐츠, 워터마크 부착 찬성"
페이지 정보
본문
딥페이크 사기들이 많아지니 그런건가 싶기도 합니다.
https://zdnet.co.kr/view/?no=20240827072419
빅테크 "워터마크 기술 이미 완성...법안 통과만 기다려"
오픈AI가 생성형 인공지능(AI) 기술로 생성한 콘텐츠에 디지털 워터마크를 붙이자는 캘리포니아 법안에 찬성한다고 밝혔다.
27일 벤처비트 등 외신이 따르면 오픈AI가 미국 캘리포니아주 하원의원 버피 윅스에 서한을 보내 AI 콘텐츠에 워터마킹과 같은 출처가 중요하다며 '캘리포니아 디지털 콘텐츠 출처 표준(AB 3211)' 법안 지지 의사를 밝혔다. 특히 선거철에 출처 증명과 관련한 AI 투명성이 중요하다고 강조했다.
'디지털 출처표준법'은 조작된 음성이나 딥페이크 이미지, 영상 등 유해 콘텐츠 생성 방지와 출처 확인을 위해 AI로 만든 생성물에 표식을 붙이도록 하는 법안이다. 캘리포니아 주 하원은 이 법안을 62대 0 만장일치로 통과시켰다. 현재 주 상원 전체 표결을 앞두고 있다.
캘리포니아 주 상하원을 모두 통과할 경우 개빈 뉴섬 주지사가 서명하면 공식 발효된다.
올해는 미국과 유럽연합(EU), 인도네시아 등 전 세계 많은 지역에서 선거가 예정돼 있다. 이에 따라 딥페이크를 비롯해 생성형 AI를 활용한 허위조작 영상들이 선거 투명성과 민주주의 가치를 훼손할 수도 있다는 우려가 커지고 있다.
최근 미국에선 민주당 대통령 후보인 카멀라 해리스 부통령의 딥페이크 영상이 등장해 논란이 됐다. 또 올해 초에는 조 바이든 대통령과 도널드 트럼프 전 대통령 딥페이크 영상이 급속 확산되기도 했다.
오픈AI는 개발자가 자체 AI 모델에 대한 안전 테스트를 의무화하는 캘리포니아 법안 '첨단 AI 시스템을 위한 안전과 보안 혁신법안(SB 1047)에는 반대 의사를 밝혔다. 생성형 AI 생태계 발전을 저해한다는 이유에서다.
오픈AI는 지난 2월 공식 홈페이지를 통해 자사 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 붙인다고 밝혔다. '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)' 워터마크를 붙인다고 했다.
빅테크 "워터마크 기술 이미 완성...법안 통과만 기다려"
현재 국내외 빅테크들은 생성형 AI로 만든 콘텐츠에 워터마크 부착할 수 있는 기술을 개발한 바 있다. 다만 구체적인 워터마크 기준이나 관련 법안이 세세히 마련되지 않아 활발히 이용되지 않았다.
오픈AI는 지난 2월 공식 홈페이지를 통해 자사 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 붙인다고 밝혔다. '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)' 워터마크를 붙인다고 했다.
C2PA는 콘텐츠 출처와 정보 확인을 위한 개방형 기술을 연구하는 협의체다. 2021년 설립된 이 협의체에는 국제 표준화 그룹과 콘텐츠 워터마킹 관련해 가장 표준에 근접해 있는 그룹이다. 마이크로소프트를 비롯한 어도비, 인텔 등이 협의체에서 활동하고 있다. 네이버도 최근 C2PA 기술 표준 개발에 참여했다.
오픈AI뿐 아니라 메타도 워터마크 부착 추진에 나섰다. 자사 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 제3 도구로 만든 콘텐츠에 '이매진드 위드 AI' 모양의 워터마크를 붙이겠다고 발표했다. 자사 소셜미디어 페이스북, 인스타그램, 스레드에 업로드된 생성 이미지에 우선 적용한다. 구글도 지난 1일 AI 챗봇 '바드'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 발표했다.
앞서 캘리포니아 주 의원들은 이번 입법 시즌에 65개의 AI 관련 법안 도입을 시도했다. 논의 끝에 다수 법안은 폐기됐다. 이중 AB 3211과 SB 1047 법안이 가장 큰 주목을 받고 있는 것으로 전해졌다.
오픈AI 제이슨 권 최고전략책임자는 "사람들이 온라인에서 찾은 콘텐츠 출처를 이해하고, 사람이 제작한 콘텐츠와 AI가 만든 생성물 사이 혼동을 피할 수 있어야 한다"고 주장했다.
김미정 기자[email protected]
오일팡행주님의 댓글의 댓글
거기서 홍보를 하고 판매를 해서 자기 마진을 가져갑니다.
세안타올은 국내 총판에서 판매를 할 생각이 없다 하여
따로 총판을 두고 판매를 하지 않고 있고,
일부 판매업체들에서 달라고해서 국내 3개 업체만 공급을 하고있습니다.
이 3개 업체도 물건 등록만 해놓고 광고를 하지 않고있고요.
그래서 노출이 잘 안되서 그럴겁니다
물건을 팔려면 홍보도 하고 광고도 하고 이래야되는데
저희가 광고를 안하거든요..
행주도 그렇고, 세안타올도 광고 예산이 집행된적이 없습니다.
다모앙 광고 + 여성시대 광고
이거 2개를 처음으로 했습니다...
엉클머리님의 댓글
워터마크는 기계학습에서 배제할 컨텐츠를 알아내기 위해서 하자는 겁니다. 자기가 만든 걸 재학습하지 않도록.
오일팡행주님의 댓글의 댓글
저는 모르는 분야가 되다보니
처음 듣는 내용이네요
부산아재님의 댓글
그런데 오일팡행주 파는 곳에서는 또 세안타올은 없더군요; 네이버 검색으로는 찾을 없더군요;;
다행이 위 글에서 주소가 있어서 찾아가면 되긴 하는데요
왜 그렇게 별도로 하는지 여쭤봐도 될까요^^;