AI 앱이 FaceTime에서 실시간으로 모습을 바꾸는 모습을 담은 바이럴 영상이 네티즌들 사이에서 사기와 캣피싱에 대한 우려를 불러일으켰습니다.

{video: https://video.twimg.com/amplify_video/1970636148872544256/vid/avc1/1080x1080/hQIfrAlo9H9BFnAa.mp4 }

영상 통화 중에 실시간으로 모습을 바꾸는 강력한 AI 얼굴 바꾸기 앱이 화제에 올랐습니다. 소셜 미디어 사용자들은 사기, 캣피싱, 디지털 사기가 급증할까 두려워하며 충격을 받고 있습니다. 전문가들은 이러한 현상이 현실을 왜곡하고 전 세계 온라인 소통에 대한 신뢰를 떨어뜨릴 수 있다고 경고합니다.

놀라운 바이러스 영상이 소셜 미디어를 장악했는데, 여기에는 AI 기반 얼굴 교환 앱이 등장합니다(출처: X/@Raindropsmedia1)

입이 떡 벌어지는 바이럴 영상이 소셜 미디어를 강타했습니다. 영상 통화 중 실시간으로 사람의 모습을 완벽하게 바꿔줄 수 있는 새로운 AI 기반 얼굴 교환 앱이 공개된 것입니다. 2025년 9월 18일에 출시된 이 앱은 매끄럽고 사실적인 얼굴 변환 기능으로 순식간에 전 세계적인 화제가 되었습니다.

9월 23일에 처음 공유된 이 영상은 페이스타임에서 이 앱을 사용하는 모습을 보여주며, 시청자들은 이 앱이 얼마나 신원을 확실하게 바꾸는지 경악을 금치 못합니다. 이 기술이 우려스러운 이유는 이러한 교환이 얼마나 쉽고 추적이 불가능하여 화면 뒤에 누가 있는지 알아내는 것이 거의 불가능하기 때문입니다. 이제 네티즌들은 이 혁신으로 인해 사기, 캣피싱, 그리고 온라인 사기가 급증할 수 있다고 우려하고 있습니다 . 범죄자들은 이 기술을 악용하여 아무것도 모르는 피해자들을 속이는 범죄를 저지릅니다.

AI 얼굴 교환 앱은 어떻게 작동하나요?

FaceSwapAI는 고급 신경망과 실시간 렌더링을 사용하여 얼굴 움직임과 표정을 매핑한 후 다른 사람의 얼굴을 매끄럽게 오버레이합니다. 사전 녹화된 영상이 필요했던 기존 앱과 달리, 이 앱은 실시간으로 작동하기 때문에 이러한 착시 현상이 훨씬 더 위험합니다.

앱 사용자들에 따르면, 이 앱은 대상의 얼굴 이미지 몇 장만으로도 설득력 있는 디지털 복사본을 만들 수 있다고 합니다. 몇 초 만에 사용자는 화상 통화에서 다른 사람으로 나타날 수 있어 유명인을 사칭하거나 가족이나 고용주를 속이는 등 무궁무진한 악용 가능성을 제공합니다.

네티즌들은 바이러스 영상에 반응했다.

FaceSwapAI의 바이럴 영상은 소셜 미디어 사용자들을 충격과 우려에 빠뜨렸습니다. 많은 사람들이 이 실시간 페이스 스와핑을 "끔찍하다"고 표현했고, 일부는 마치 공상과학 영화의 한 장면에 비유하기도 했습니다. X(구 트위터) 에서는 이 기술이 화상 통화를 완전히 신뢰할 수 없게 만들 수 있다는 우려를 표명했습니다 . 어떤 사람들은 온라인 데이트 중 속을까 봐 걱정했고, 어떤 사람들은 사기꾼들이 이 기술을 이용해 사랑하는 사람이나 심지어 정부 관계자를 사칭할 수 있다는 점을 지적했습니다.

앱으로 인해 사기와 캣피싱의 기회가 더 많아질 것이라는 우려가 TikTok과 Instagram과 같은 플랫폼에 빠르게 퍼졌고, 많은 플랫폼에서 AI 도구가 통제 불능 상태로 빠지기 전에 당국에 규제를 촉구했습니다.

한 X 사용자는 "형, 이 사기꾼들이 이걸로 신나게 놀려고 하는군. 쯧쯧."라고 했고, 다른 사용자는 "그들은 필터 베타 테스트가 아니야. 인식 붕괴 베타 테스트 중이야. 이건 더 이상 사기가 아니야. 이건 본격적인 현실 왜곡이야."라고 썼습니다.

사기 및 신원 도용에 대한 두려움 증가

FBI는 이미 AI 기반 사기의 위험성에 대해 경고했습니다. 보고서에 따르면 관계자들은 2025년 말까지 AI 관련 사기 피해액이 30% 증가하여 전 세계적으로 100억 달러를 넘어설 것으로 예측합니다. 노령층과 취약 계층이 주요 타깃이 될 것으로 예상되며, 사기범들은 사랑하는 사람이나 신뢰하는 기관을 사칭하여 돈이나 민감한 정보를 훔칠 가능성이 있습니다.

소셜 미디어 이용자들은 우려를 표명했는데, 많은 사람이 이 기술이 "현실을 왜곡" 하여 화상 통화, 온라인 데이트, 심지어 직장 회의를 신뢰하기 어렵게 만들 수 있다고 말했습니다.

더 큰 그림: 이것이 사람들이 현실을 인식하는 방식에 영향을 미칠까요?

앱 제작자들은 이 앱을 엔터테인먼트와 콘텐츠 제작을 위한 재미있는 도구로 홍보하지만, 이 바이럴 영상은 첨단 AI가 온라인 신뢰의 근간을 어떻게 위협할 수 있는지를 여실히 보여주었습니다. 전문가들은 이 기술이 엄격한 규제 없이 확산될 경우 사기, 캣피싱, 허위 정보를 적발하는 것이 거의 불가능해지는 미래를 맞이하게 될 것이라고 경고합니다 .

현재, FaceSwapAI 데모는 전 세계적으로 화제를 모았으며, 수백만 명의 사람들이 피해가 돌이킬 수 없게 되기 전에 AI 개발에 대한 더욱 엄격한 통제를 요구하고 있습니다.

https://www.indiatimes.com/trending/viral-video-shows-ai-app-changing-appearances-live-on-facetime-sparks-fears-of-fraud-and-catfishing-among-netizens-671278.html

기사에 언급 된 앱은 스토어 가서 구경해보니 후처리 용이고..

만약 된다해도 순정 아이폰에서는 리얼타임.. 그것도 페이스타임 소스로 작동하지 않을거 같은데..

버튜버들처럼 하면 현재 맥에서는 카메라 소스만 바꾸어 작동할 수도 있겠군요