최근 이지혜 씨가 AI 딥페이크 조작에 피해를 입었습니다.

여전히 "저런 거에 왜 속냐?ㅉㅉ"라는 반응을 보이는 분들이 계시던데요.

이제는 얼굴 움직임은 물론이고 입 모양, 목소리까지 따라왔습니다.

이미 지금도 사람의 눈으로 완벽하게 구분해낼 수 없는 상황입니다.

그런 맥락에서 글을 읽어주시면 좋겠습니다.

단순히 "가짜뉴스 -> 금융치료" 차원의 문제가 아닙니다.

---

최근 제가 인지전, 정보환경 이야기를 많이 하고 어제 장문의 글을 남기다 보니 "그래서 결론이 뭐냐?"라거나, 이해는 했는데 "앞으로 우리는 어떻게 해야 하냐?"고 묻는 분들이 많습니다.

그래서 아주 간단하게 정리하면 이렇습니다.

과거에는 "이 글이 거짓말인가?"를 확인하는 게 중요했습니다.
하지만 앞으로는 그것만으로 부족합니다.

이제는 "누가", "어떤 네트워크로", "어떤 내러티브(서사)를", "어떤 사람들에게", "어떤 목적으로 반복 확산시키고 있는가"를 함께 봐야 하는 시대가 왔기 때문입니다.

AI는 단순히 '가짜뉴스 생산기'가 아닙니다.

사람처럼 행동하는 수많은 AI가 서로 협력하며 댓글, 좋아요, 공유, 커뮤니티 분위기 같은 '사회적 신호' 자체를 조작할 수 있는 방향으로 발전하고 있습니다.

특정 주장 하나를 믿게 만드는 걸 넘어 '사람들이 무엇을 중요하게 생각하고 진실처럼 느끼는지'에 영향을 줄 수 있다는 뜻입니다.

결국 내러티브(서사) 공격은 사실을 둘러싼 싸움이 아니라 현실을 어떻게 해석할 것인가를 둘러싼 '해석 전쟁'이라고 봅니다.

해외 연구자들은 이미 허위정보 문제를 단순한 참/거짓의 문제가 아니라 '인지 환경'의 문제로 바라보고 있습니다.

사람들이 현실을 바라보고 판단하는 정보 환경 자체가 오염되면 개별 팩트체크만으로 대응하기 어려워지기 때문입니다.

제가 계속 "당장 인스타 가서 싸우자", "댓글전으로 맞대응하자"는 주장에 취지는 공감하지만 신중해야 한다고 말하는 이유도 여기에 있습니다.

상대가 어떤 방식으로 움직이고 있는지, 어떤 경로로 확산되고 있는지, 어떤 심리를 공략하고 있는지조차 모른 채 무작정 뛰어들면 시민들만 상처받고 소모될 게 뻔하기 때문입니다.

스타크래프트로 비유하면 상대는 이미 맵핵을 켜서 맵 전체를 보고, 치트키를 쳐서 무한대 자원으로 움직이는데 우리는 자원도 부족한데 깜깜한 상태에서 눈앞의 유닛 하나만 쫓아다니는 상황과 비슷합니다.

그래서 지금 가장 필요한 건 무작정 돌격이 아니라 '맵을 밝히는 일'입니다.

어떤 네트워크가 움직이고 있는지, 어떤 패턴이 반복되는지, 어떤 내러티브(서사)가 확산되는지 관찰하고 분석하는 과정이 먼저라는 뜻입니다.

결국 AI 시대의 인지전은 더 이상 가짜뉴스 몇 개를 잡는 문제가 아닙니다.

민주주의와 사회적 신뢰를 지탱하는 '인지 환경' 자체를 어떻게 지킬 것인가의 문제입니다.

그리고 제가 준비 중인 '사이버크래프트'도 바로 그 영역에서 역할을 해보려 합니다.

복잡한 문제의 해결책을 성급하게 이야기하기 전에 우선 지금 '전세계에서 어떤 게임이 벌어지고 있는지'부터 함께 이해하자는 겁니다.

그런 의미에서 당장 우리가 해야 할 일도 생각보다 단순합니다.

정치권과 사회가 이 문제를 더 이상 '한줌론', '음모론' 취급하지 못하도록 계속 알리고, 우리 스스로도 문제의식을 갖고 '회복 탄력성'을 키워가는 겁니다.

가짜 정보와 프로파간다가 완전히 사라지는 사회는 존재하지 않습니다.

중요한 건 시민들이 이를 인식하고 스스로 판단할 수 있는 힘을 갖는 겁니다.

제가 매주 일요일 오후 3시마다 생방송을 진행하며 관련 내용을 계속 설명드리는 이유이기도 합니다.

처음에는 "이게 무슨 이야기지?" 싶을 수 있습니다.

하지만 개념을 이해하기 시작하면 그동안 막연하게 느껴졌던 인터넷 환경과 여론 조성 패턴이 조금씩 눈에 들어오기 시작하실 거고, 어느 순간부터는 "정치 이야기만이 아니었구나"라는 생각이 드실 겁니다.

연예, 스포츠, 기업, 문화 영역에서도 유사한 패턴들이 반복적으로 나타나기 때문입니다.

그러면 왜 제가 그동안 계속 "맵을 먼저 밝혀야 한다"고 이야기했는지도 자연스럽게 이해되실 거라 봅니다.

화요일 저녁 7시 정준희 교수님의 해시티비 역사다방 '허위조작정보 관측소'도 꼭 챙겨봐주시길 부탁드립니다.

어제 말씀드린 'AI 영향력 관측소'가 왜 중요한지, 그리고 왜 관측과 기록이 대응의 출발점인지 이해하는 데 도움이 되실 겁니다.

고맙습니다.

- [장문] 소름 돋는 'AI 프로파간다' 관련 내용 : https://damoang.net/free/6521774