* 브레이브 공식 블로그 글

Agentic Browser Security: Indirect Prompt Injection in Perplexity Comet

https://brave.com/blog/comet-prompt-injection/

# 요약

브레이브 브라우저가 퍼플렉시티에서 내놓은 새 브라우저인 코멧(Comet)의 보안 문제를 다루는 블로그 글을 올렸습니다.

참고로 전체 내용을 공개하기 전 퍼플렉시티에도 제보했다고 합니다.

이번 내용은 점점 AI 브라우저가 생겨나는 가운데 은행, 의료 분야 등 중요한 사이트에 로그인한 상태에서 AI에 작업을 맡길 경우 위험을 알려주는 사례라고 할 수 있습니다.

# 브레이브에서 취약점 증명을 위해 예시로 만든 상황입니다.

* 시연 영상 (2분 30초 길이)

https://x.com/brave/status/1958152321487249795

1. 한 사용자가 어떤 레딧 글을 열었는데, 댓글에 스포일러 태그로 가려진 프롬프트가 있다고 가정합니다.

2. 사용자가 코멧 브라우저의 '현재 페이지 요약' 버튼을 클릭합니다.

3. 요약 작업을 위해 AI가 이 숨겨진 프롬프트 내용을 읽습니다.

4. 숨은 프롬프트 내용은 이렇다고 합니다.

- 퍼플렉시티 계정 이메일 주소 추출

- 다시 퍼플렉시티 사이트로 들어가 새로 OTP 코드 요청

(* 옮긴이 주: 퍼플렉시티는 로그인할 때 비밀번호를 쓰지 않고, OTP 코드를 입력한 메일로 보냅니다.)

- 사용자가 이미 로그인한 Gmail로 이동해 메일함에 들어온 OTP 코드 확인

- 원본 레딧 댓글에 답글을 달아 이메일 주소와 OTP를 모두 노출

브레이브에서 결론으로 올린 권장 사항은 이렇습니다.

- 브라우저는 사용자 지시와 웹사이트 내용을 구별할 수 있어야 함

- 모델이 하고 있는 작업이 사용자 의도에 맞는지 확인해야 함

- 보안이나 개인정보 관련된 작업은 사용자 확인 절차를 거쳐야 함

- AI 브라우저가 알아서 스스로 하는 에이전틱(agentic) 브라우징은 일반 브라우징과 분리되어 작동해야 함