AI에 올인하는 극단주의자

알림

엘레지 121.♡.114.209

2024.06.25 10:05

정보

757

쓰기

AI로 생성한 콘텐츠가 광범위하게 확산하고, 사실과 거짓을 구분하기가 점점 더 어려워지고 있습니다. 이러한 논란의 중심에 극단주의도 있습니다. 미국의 비영리 언론 모니터링 단체 중동 미디어 연구소(Middle East Media Research Institute, MEMRI)는 최근 몇 달 동안 극단주의자가 대대적으로 선전과 잘못된 정보를 유포하고 증오를 조장하기 위해 생성 AI를 사용하고 있다고 밝혔습니다. 특히 AI는 신나치주의자, 백인 우월주의자에게 디지털 핵심 무기입니다. 이들은 주류 온라인 공간과 자체 채널에서 AI 생성 콘텐츠를 매우 효과적으로 배포해왔습니다.

극단주의자는 자체적으로 극단주의가 주입된 AI 모델을 개발하고 있습니다. 시각적 선전에 관한 혐오 선전 콘텐츠의 상당 부분을 AI가 차지하고 있습니다. 무기 설계도와 폭탄 제조법 등 AI 기술을 활용하는 새로운 방법도 실험하고 있습니다. 3D 프린팅 무기 청사진을 제작하거나 잠재적 모집 대상의 개인정보를 탈취하기 위한 악성 코드를 생성하는 등 AI를 더 창의적으로 사용하고 있습니다. 기술 업계에 근무한 경험이 있는 극단주의자에 의해 AI의 허점을 공략하거나, 혐오적인 AI 엔진을 개발할 수도 있습니다. 아무런 보호 장치 없이 사용될 수 있습니다.

포스팅 전문 및 관련 뉴스 : https://naver.me/5Hkd4lOC