MS의 AI '리콜' 기능, 사이버 보안 재난 될 수 있어

알림

사나이불패 221.♡.7.94

2024.06.07 01:06

3,052

https://www.aitimes.com/news/articleView.html?idxno=160320

사이버 보안 전문가들이 PC에서 수행하는 모든 작업을 스크린샷으로 저장하는 마이크로소프트(MS)의 새로운 인공지능(AI) 기반 리콜(Recall) 기능에 대한 보안 취약성을 거듭 경고하고 나섰다.

리콜은 온디바이스 AI 기능을 활용해 컴퓨터에서 보고 수행한 모든 것을 스크린샷으로 기록, 나중에 이를 몇초 만에 검색하고 불러와 탐색할 수 있는 기능을 제공한다. MS는 리콜의 모든 기능은 로컬 및 디바이스 내에서 암호화돼 비공개로 유지되도록 설계돼 있으며, 데이터는 MS의 AI 모델을 훈련하는 데 사용되지 않는다고 밝혔다.

안전하고 암호화됐다는 설명에도 불구하고, 사이버 보안 전문가인 케빈 보몽트는 리콜 기능에 몇가지 보안 결함이 있음을 발견했다.

보몽트는 지난주 리콜을 테스트하면서 이 기능이 데이터를 텍스트로 데이터베이스에 저장한다는 사실을 알아냈고, 이는 공격자가 악성 소프트웨어를 사용하여 데이터베이스와 그 내용을 쉽게 추출할 수 있다는 것을 의미한다고 지적했다.

보몽트는 “리콜 기능은 몇초마다 사용자의 PC에서 스크린샷을 찍어 장치에서 실행되는 애저(Azure) AI에 의해 자동으로 OCR되고, 이후 사용자 폴더의 SQLite 데이터베이스에 텍스트로 기록한다”라며 "즉, 이 데이터베이스 파일에는 PC에서 본 모든 내용이 맬웨어를 통해 쉽게 추출할 수 있는 일반 텍스트로 기록된다"라고 설명했다.

또 이런 내용을 X(트위터)에 공유하면서, 해커가 원격으로 리콜 활동을 추출할 수 없다고 말한 MS를 비판했다. 데이터베이스는 PC의 로컬에 저장되고, PC 관리자라면 앱데이터(AppData) 폴더를 통해 접근할 수 있다. 보몽트는 관리자가 아니더라도 데이터베이스에 접근할 수 있다고 주장했다. 인포스틸러(InfoStealer) 트로이 목마와 같은 악성코드를 심어놓고 PC에서 관리자의 자격 증명이나 정보를 쉽게 훔칠 수 있다는 말이다.

MS는 리콜이 기본적으로 활성화돼 있지만 설정을 통해 비활성화시킬 수 있는 선택적 기능이며, 이 기능에 개인정보보호 제어 기능이 내장돼 있다고 주장했다. 특정 URL과 앱에 대해 리콜을 비활성화할 수 있으며, 리콜은 디지털 권리 관리 도구로 보호되는 자료를 저장하지 않는다는 것이다. 따라서 리콜 기능을 사용하는 것은 모두 사용자의 책임이라는 설명이다.

또 리콜 스냅샷을 코파일럿+ PC의 로컬 하드 디스크에 암호화해 저장하기 때문에 훔쳐가도 소용없다고 주장하고 있다.

이에 대해 보몽트는 "암호화는 누군가가 집에 와서 물리적으로 노트북을 훔친 경우에만 도움이 될 뿐, PC에 로그인해 소프트웨어를 실행하면 모든 것이 해독된다”라고 짚었다.

출처 : AI타임스(https://www.aitimes.com)

대놓고 사용자의 컴퓨터에 스파이웨어를 심어놓겠다는 군요.

심지어 디폴트(기본값) 입니다.

아마도 일반적인 95%의 유저들은 리콜이 뭔지도 모르고 몇초마다 자신이 컴퓨터에서 보는 내용을 사진이나 문서로 저장된다는 사실을 모르고 사용하게 되겠지요.

생각만으로도 정말 끔찍하네요.