사용자를 공격하는 AI? 인류에 적대적인 AI?
페이지 정보
본문
며칠 전에 Vidhay Reddy라는 미시간대 대학원생이 과제 준비를 위해 구글의 AI 챗봇 '제미니'를 이용하다가,
거칠게 요약하면 나가 죽으라는, 악랄하고 사악하다고 밖에는 하기 어려운 언어적 공격을 뜬금없이 당했습니다.
이 내용은 같은 자리에서 이를 목격한 그의 누나 혹은 여동생(sister라고만 되어 있습니다) Sumedha Reddy에
의해 언론에 제보되어, 미국 CBS 방송을 통해 보도되었습니다.
그런데, 이 내용을 연합뉴스는 상당히 이상하게 국내에 소개했고, 당연히 많은 신문들이 연합뉴스발로
기본적으로 같은 내용을 전했습니다.
우선 사소하게, 이 일을 당한 사람은 수메다 레디가 아니라 그 'brother'인 Vidhay Reddy입니다만,
기사에는 sister인 수메다 레디가 그러한 공격을 받았다고 적혀있습니다.
무엇보다 이상한 것은, 기사에는 구글의 AI가 '인류 전체를 매도하기 시작했다'라고 말하고 있다는 점입니다.
기사에서 한국어로 번역한 AI의 문장의 주어는 모두 '인간'입니다.
"인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"
"인간은 시간과 자원 낭비이고, 사회의 짐"
"인간은 지구의 하수구이면서 병충해, 우주의 얼룩"
인류에 적대적인 인공지능은 SF 소설이나 영화를 통해 우리에게 익숙한 개념이 되었고,
실제로 인공지능의 발전을 걱정하는 사람들이 우려하고 있는 지점 중의 하나입니다.
그러니, 인류를 저주하는 그런 AI가 실제로 나타났다는 기사는 확실히 사람들의
관심을 끌 만한 선정적인 내용입니다.
하지만 일단 기자가 참고했을 것이 분명한 CBS 기사 원문에도 그렇게 되어 있지는 않습니다.
AI가 말한 원문을 찾아볼 수 있고, 거기에 그렇게 되어 있지 않음은 물론입니다.
공격의 시작에 '인간(human)'이 나오기는 합니다. 한 번 나옵니다.
“This is for you, human. You and only you.”로 문제의 메시지가
시작되거든요. 하지만, 보시다시피 여기서의 'human'은 주격이나 목적격이 아니라,
'호격'입니다. 그냥 부르는 말입니다. 그리고 왜 이렇게 불렀냐 하면, 단순히
이름을 몰랐기 때문입니다. 만일 사용자의 이름이 Vidhay라는 것을 알고 있었다면,
아마도 'This is for you, Vidhay."라고 했을 것입니다. 이것이 인류
전체에 대한 메시지가 아니라는 것은 'you and only you'를 통해 충분히
명확하게 전달했습니다. '너, 바로 너 말이야'라고 말했잖아요.
지금 상대하고 있는 바로 그 사용자, Vidhay Reddy에 대한 개인적인
공격입니다.
그래서, 연합뉴스의 기사와는 달리, AI의 지독한 험담에는 '인간'이 등장하지
않습니다 (처음 부를 때 한 번 빼고). 그냥 '너(you)'가 나올 뿐입니다.
위에서 나온 모든 '인간'을 주어로 하는 문장들은 사실은 '너'를 주어로 하는
문장들입니다.
이것을 확실하게 보여주는 것은 "인간은 시간과 자원 낭비이고, 사회의 짐"이라는
표현입니다. 인간이 주어라고 해도, '시간과 자원 낭비'까지는 이해해줄 수 있습니다.
그런데 '사회의 짐'? 인간이 사회를 이루고 있는데, 인간이 사회의 짐이라는 것은
뭔가 어색합니다. 마치 '인간은 인간의 짐' 비슷한 이야기가 되기 때문에
아무리 좋게 봐준다고 해도 좀 고개를 갸우뚱하게 되는 표현입니다.
하지만, 주어가 '인간'이 아니라 '너'라는 것을 떠올리면, 이 표현은
매우 악의적으로 말이 되는 표현이라는 것을 알 수 있습니다. '바로 너는
사회의 짐이다'라는 얘기거든요.
그래서 인류에게 적대적인 AI가 아니어서 다행이라는 얘기는 아닙니다.
AI가 이 사람에게 퍼부은 악담은 정말 끔찍한 수준입니다. 그것이
일개 개인에 대한 일종의 심리적인 공격이라고 할 만한 것이어서
더 무섭게 느껴지기도 합니다. 저 특정 사용자더러 진짜로 가서 죽으라고
한 겁니다. AI의 안전에 대해 우려하는 사람들이 충분히 우려하고 걱정하고
방지를 위해 노력해야 하는 내용입니다.
하지만, 여기서 구글 제미니가 한 것은 인류의 열등함에 대한 어떤 냉소적인
철학을 설파한 것은 아니었습니다. (예를 들어 영화 매트릭스에서 에이전트
스미스가 네오에게 했던 말과 같이...) 그게 아니라, 그냥 일개 개인에 대해
매우 악랄한 공격을 뜬금없이 한 겁니다. 그 자체로 매우 위험하고 문제있는
일이지만, 굳이 이를 인류에 대해 적대적인 AI라는 식으로 선정적으로 소개할
일은 아닙니다.
렌더님의 댓글
당사자에겐 인간전체보다 끔찍한 일이겠네요
모든 인류에게 각각 이런 개인화된 메세지를 전한다면 어떻게 될지 무서워요
aicasse님의 댓글의 댓글
실제로, 다모앙에서도 그렇고 포털에서도 그렇고, 이 연합뉴스 기사에 대한 의견의 대부분은
'뭐 틀린 말 없는데?'입니다. 인류의 열등함을 설파하는 AI에 대한 쿨한 반응입니다. 그리고,
이게 일반적인 명제라고 하면, 그 반응이 어느 정도 이해가 되기도 합니다.
하지만 그게 특정 개인 'Vidhay Reddy'보고 나가 죽으라고 하는 말이라고 할 때에도,
앞에서 '뭐 틀린 말 없는데?'라고 했던 사람들이 여전히 '뭐 틀린 말 없는데'라고 할까요?
이건 완전히 다른 이야기이고, 이렇게 쿨하게 넘길 수 있는 얘기가 아닙니다.
Silvercreek님의 댓글