영화 내용에 대한 스포일러가 매우 강하게 있으니 원치 않으시면 뒤로가기 눌러주세요.

(제가 영화를 주관적으로 이해한대로의 후기이니 의견이나 설정에 대한 이해가 다를 수도 있습니다)

대홍수에서 주인공 안나 연구원이 인류 멸망을 대비한 신인류를 만드는 프로젝트의 핵심 인물로 나옵니다.

인긴의 신체를 만드는 것은 이미 완성됐는데, 문제는 '감정'을 만드는 것이 관건입니다.

신인류가 지성을 바탕으로 이타성을 발휘해서 함께 '생존'을 하는 '감정'을 학습해야 하거든요.

그 감정을 '딥러닝'을 통해서 무한 반복합니다.

그 실험체가 '안나', 그리고 실험체이자 안나의 아들인 자인입니다.

이 프로젝트에서는 대홍수에서 극소수 인류만 살아남아 지구를 탈출합니다. 

우주에서 우주선을 타고 계속 딥러닝을 해서 신인류에게 감정을 학습시키는 거예요.

이 딥러닝 프로젝트를 위해 함께 역할을 하는 실험체의 인원 수는 극히 한정돼 있습니다.

실험에 참여한 인원들에게 안나가 아들 자인이를 대홍수 속에서 찾아내서 구출하는 '모성애' 프로젝트 상황을 공통으로 전송하고 무한반복 합니다.

만약 안나가 아들을 못 찾으면 이 프로젝트는 실패하고 인류는 멸망한다는 언급도 나옵니다.

참신한 부분은 신인류에게 감정을 학습시킨다는 부분이었어요. 인간이 온라인에서 쓰는 글을 분석하는 정도가 아니라 아예 가상환경속에서 실제 판단하고 행동하는 모든 과정을 딥러닝 한다는 설정이요.

아쉬운 부분은 

첫 번째, 왜 하필 인류를 구하는게 '모성애'일까.

가족의 울타리를 넘어선 타인과의 연대가 더욱 희박해 지는 요즈음, 혈연이 아닌 타인과의 연대를 딥러닝해야 그 결과를 신인류에게 전송했을 때 더욱 생존 가능성을 높이지 않을까 합니다.

그리고 제 기억에 유발 하라리가 앞으로 신인류가 나올 가능성을 언급했습니다.

그 신인류는 성별 구별이 모호해서 '출산'도 성별 구별이 없어질 수도 있습니다.

'모성애'라는 것도 인류가 출산이 아닌 다른 방식으로 인류 생산이 가능한 시대에서는 의미가 없을 수도 있고요. 

두 번째는 '효과적 이타주의'에 대한 딥러닝입니다.

클리앙에 23년도에 샘알트먼에 대해 제가 올린 글이 있는데, 샘 알트먼은 '효과적 이타주의'를 주장하거든요.

쉽게 말하면 유능하고 선한 의도를 가진 극소수가 전 세계 부를 독점하고 재분배한다. 효과적 이타주의로 전 세계 사람들의 윤리도 자신들이 판단하고 돌본다는 사상입니다.

"올트먼 본인도 해당 운동의 영향권에 있다. 그는 지난해 트위터에서 “엄청나게 결함이 있는 운동”이라고 선을 그으면서도 “개인으로서의 이타주의자들은 거의 항상 유난히 친절하고 선의를 지닌 사람들”이라고 평가했다. 그는 올해 초 언론 인터뷰에서 “범용인공지능(AGI)을 만들어 전 세계 부의 상당 부분을 획득한 뒤 이를 사람들에게 재분배하는 것”을 자신의 목표로 제시하기도 했다."

경향신문 | https://www.khan.co.kr/article/202311211702001#ENT

그런데 최예진 교수는 이 '효과적 이타주의가 '전체주의적 사상'이라서 위험하다. 이 전체주의 사상이 인공지능에 학습되는 것을 경계'합니다.

대홍수에서 안나를 제외한 아이도, 안나를 목숨걸고 구출해온 요원 손희조도, 손희조를 제거한 회사의 보안팀들도 모조리 헬기를 타기 전에 제거될 운명이거든요. 필요가 없어졌으니까요.

인류와 사회의 안녕을 위해 효용성이 떨어지는 개인은 부속품처럼 바로 제거되는, 마치 전체주의 사상을 담은 '국민교육헌장'을 전 국민에게 국민학교때부터 강요하며 암기시키는 것 같기도 합니다. 그걸 '효과적 이타주의'라는 명목으로 딥러닝 시키는 것 같았어요.

다수를 위해 소수의 희생을 너무나 쉽게 정당화해도 되는 것일지, 그게 효과적 이타주의를 학습하는 인공지능 딥러닝을 대홍수에서 보여주는게 아닐까 비판적으로 보게 되는 부분입니다.

이와 극명하게 대비되는 실사례는 문재인 전 대통령의 부모님이 피난할 때 타신 메러디스 빅토리호 기적의 배라고 생각합니다.

“1950년 12월 22일 국군과 연합군은 해상철수를 결정하고 흥남부두로 집결합니다. 그곳에서 10만 명의 피난민도 탈출을 시작합니다. 뒤에는 적군이 앞에는 바다로 가로막힌 절체절명의 순간에 피난민은 만여 명이었습니다. 그러나 남아 있는 배 한 척 메러디스 빅토리호의 승선 정원은 고작 60명이었습니다.

“피난 민간인도 승선시켜달라”는 현봉학 당시 미 10군단 고문의 설득으로 미 10군단 알몬드 소장은 “민간인도 승선시키라”는 명령을 내립니다. 레너드 라루 선장은 단 한 명의 피난민이라도 더 태우기 위해 배에 실린 무기와 짐을 바다에 버렸습니다.

1만 4천 명의 피난민들은 물 한 모금도 마시지 못한 채 미군이 선물한 ‘사탕 한 알’로 사흘을 버텨 거제도에 도착했습니다. 단 한 명의 사망자도 없었으며 다섯 명의 새 생명이 기적처럼 태어났습니다.

1만 4천 명의 피난민을 태우고 남쪽으로 향한 ‘기적의 배’ 메러디스 빅토리호에는 문재인 대통령의 부모도 타고 있었습니다." [출처] 대한민국 정책브리핑​

https://www.korea.kr/news/policyFocusView.do?newsId=148838799&pkgId=49500687

​

소수의 이해는 버려지고 무시되는 비 인간성을 경계해야 합니다.

이재명 대통령이 지난 9월 UN 안전보장이사회 공개토의를 주재하며

"인간중심의 인공지능 연구소 교수"라고 최예진 스탠포드대학 교수를 소개한 이유일 겁니다.

최예진 교수
"서구적 가치관만 배운 AI의 오류 가능성
다학제적, 다문화적, 다언어적 협업이 필요합니다."
https://damoang.net/free/4998629

​