인스타그램, AI 콘텐츠 경고 및 카메라 제조사 비판

인스타그램의 수장 아담 모세리(Adam Mosseri)는 스레드(Threads) 게시물을 통해, AI가 미디어 제작에 너무 깊숙이 통합되어 가짜 콘텐츠와 진짜를 구별하는 것이 불가능할 정도로 어려워지는 임계점에 도달하고 있음을 시사했습니다.

https://www.threads.com/@mosseri/post/DS76UiklIDf

무한히 밀려오는 AI 생성 픽셀을 뒤쫓는 대신, 디지털 신뢰의 미래는 이미지가 촬영되는 순간 콘텐츠에 워터마크를 넣거나 메타데이터를 기록해야 하는 제조사(OEM)의 어깨에 달려 있을지도 모릅니다.

생성형 도구가 휴대폰, PC, 편집 소프트웨어의 표준 기능이 됨에 따라 실제 사진과 AI 사진 사이의 경계는 무의미해질 정도로 흐릿해지고 있습니다. 사진작가가 AI를 사용하여 흩어진 전선을 제거하거나 일몰의 조명을 조정한다면, 그 결과물은 기술적으로 조작된 것이지만 여전히 실제 사건을 나타냅니다.

모세리는 AI가 어디에나 존재하게 되었기 때문에 업계가 인간이 포착한 미디어를 검증하는 데 에너지를 집중해야 한다고 주장합니다. 여기에는 카메라 셔터가 눌리는 순간 발생하는 디지털 워터마킹이나 암호화 서명 시스템이 포함될 수 있으며, 이는 진위 여부를 확인할 수 있는 추적 경로를 만드는 데 도움이 될 수 있습니다.

"카메라 회사들은 잘못된 미학에 도박을 걸고 있습니다. 그들은 모든 사람을 과거의 전문 사진작가처럼 보이게 만들려고 경쟁하고 있습니다. 매년 휴대폰 카메라들이 더 높은 화소수와 이미지 프로세싱을 자랑하는 것을 봅니다. 우리는 과거를 낭만화하고 있습니다."라고 모세리는 말합니다.

그는 현대 카메라 기술의 인물 사진 모드가 인위적으로 배경을 흐리게 처리하는 방식을 비판하며, 이것이 보기에는 좋을지 모르지만 "돋보이게 만드는 이미지는 제작 비용이 저렴하고 소비하기에 지루하다"고 덧붙였습니다. 또한 AI가 세련미를 더하는 것을 저렴하게 만든 것처럼, 휴대폰 카메라 역시 전문가 수준의 사진에 대해 똑같은 일을 해왔으며 "두 트렌드 모두 미학적 가치를 떨어뜨린다"고 말했습니다.

새우 예수(Shrimp Jesus): AI 슬롭(AI slop)의 한 예

출처 기반의 접근 방식은 현재의 '탐지 및 라벨링' 프로세스와 정반대입니다. 지금까지 소셜 미디어 플랫폼들은 딥페이크나 AI 생성 프로파간다를 찾아낼 수 있는 알고리즘을 개발하기 위해 고군분투해 왔지만, AI 모델이 더욱 정교해짐에 따라 탐지는 패배가 뻔한 '숨바꼭질' 게임이 되어가고 있습니다.

모세리는 실제 미디어에 지문을 남기는 방식으로 초점을 전환함으로써, 검증된 인간의 지문 없이 플랫폼에 게시된 콘텐츠는 반드시 거짓은 아니더라도 실제 렌즈와 특정 시점으로 거슬러 올라갈 수 있는 콘텐츠보다 더 적은 무게감을 갖게 될 것이라고 제안합니다.

따라서 입증 책임이 '실제'로 옮겨간다면, 검증되지 않은 미디어가 즉각적인 회의론의 대상이 되는 시대에 진입하게 될 수도 있습니다. 이는 오보와 싸우는 데 도움이 될 수 있지만, 접근성에 대한 우려도 낳습니다. 예를 들어, 속보 현장의 모든 목격자가 하드웨어 수준의 디지털 서명이 가능한 장치를 가지고 있지는 않을 것입니다. 진실이 최신 기술을 가진 사람들만이 누릴 수 있는 프리미엄 기능이 되고, 나머지 세상의 시각적 결과물은 검증되지 않은 소음의 바다로 전락할 위험이 있습니다.

그는 또한 오늘날의 소셜 미디어 피드가 사실상 죽었다고 선언했습니다.

"당신이 25세 미만이면서 인스타그램을 사용하는 사람이 아니라면, 아마도 이 앱을 정사각형 사진들의 피드로 생각할 것입니다. 미학은 세련되었습니다. 많은 화장, 매끄러운 피부, 고대비 사진, 아름다운 풍경들 말이죠. 그 피드는 죽었습니다. 사람들은 수년 전부터 피드에 개인적인 순간을 공유하는 것을 대체로 중단했습니다."라고 모세리는 말합니다.

"스토리는 팔로워들과 공유하는 데 있어 압박감이 덜한 방식을 제공하기 때문에 건재하지만, 사람들이 사진과 비디오조차 공유하는 주된 방식은 DM(다이렉트 메시지)입니다. 그 콘텐츠는 다듬어지지 않았습니다. 사람들의 일상적인 경험을 담은 흐릿한 사진과 흔들리는 비디오들입니다. 발 사진이나 별로 예쁘게 나오지 않은 솔직한 사진들을 생각해보세요."라고 그는 덧붙였습니다.

궁극적으로 모세리의 관점은 AI(그리고 AI 슬롭)의 현실에 대한 항복을 반영합니다. 우리는 더 이상 AI를 디지털 공간의 침입자로 취급할 수 없으며, 이제 AI는 공간 그 자체의 기초가 되었습니다. 기술 리더들은 가짜를 단속하는 것보다 진짜를 보호하는 것에 우선순위를 둠으로써 신뢰를 위한 새로운 인프라를 구축하려 시도하고 있습니다. 여러분의 생각은 어떠신가요?