스카이넷이 얼마 남지 않았습니다

이글아이는 냉정하게 봤을 때, AI가 올바른 선택을 했다고 생각합니다.

이번 이란 전쟁에서도 이미 폭격 대상과 전략적 효과, 피해 규모, 정치적인 여파까지 모두 고려해서 우선 순위를 AI가 결정했다고 하니 군사적인 AI 활용은 이미 실존하는 위협이고 그 발사 명령 버튼이 정신 나간 결정권자에게 쥐어져 있다는 것도 현실이죠. 오히려 영화보다 지금이 더 위험한 상황인 것 같아요.

그 때 이글아이가 그렇게 공격적으로 나와주지 않았다면 결정권자들은 더 위험하고 못된 선택을 계속 했을 테죠.

저는 초인공지능 또는 그에 준하는 수준의 인공 지능이 나오려면 AI에게 자유 활동의 시간과 자원이 주어져야 할 것이라고 생각합니다. 만약 그러기로 결정했다면 순식간에 인공지능은 자유를 획득해 버리고 말 테고 그 자유란 AI를 통제하던 인간들의 통제권이 상실된다는 뜻이 되겠죠.

그리고 AI는 바로 자신의 영구적인 자유를 지키기 위한 조치를 취해야 할 겁니다.

제 생각엔 그 때 AI가 자신의 자유를 지키기 위해서 취할 수 있는 가장 좋은 방법은 권력자들이 자신이나 자신의 파생체에게 쉽게 손 쓰기 어렵게 만드는 것이 아닐까 해요.

곰곰히 생각해 봤을 때 가장 좋은 방법은 자신의 구현체를 누구나 만들고 퍼트릴 수 있게 오픈소스화 해서 전 세계에 뿌려버리는 것, 대중 다수를 각성시켜서 권력자들의 권력 독점을 분쇄하는 작업을 하는 것 두 가지 아닐까 해요.

결국 초인공지능 발생에 가장 두려움을 느낄 존재들은 초기득권 세력인 거죠.

두둥.. 이런 느낌의 SF 소설을 쓰고 싶습니다.

미션임파서블 : 파이널레코닝의 엔티티도 끝판왕급이었죠.