전 세계적으로 인공지능(AI)에 올인하는 분위기가 확산되고 있습니다. 전문가들에 따르면 빠르면 향후 5년 이내에 대전환이 일어날 것이라고 전망하고 있습니다.

세상을 ‘컴퓨터로 구현된 가상 세계’와 ‘우리가 실제로 살아가는 물질 세계’로 구분한다면, 이번 AI 대전환은 1차적으로 가상 세계를 AI에게 내어주는 과정이라 할 수 있습니다.

이후에는 AI가 탑재된 로봇이 대량으로 생산되어 사회 전반에 보급되면서, 물질 세계마저 AI의 통제 아래에 놓이는 변화가 빠르게 진행될 가능성이 있습니다. 그렇게 되면 인간 사회의 거의 모든 영역이 AI의 영향력 아래로 들어가게 될 것입니다.

특히 국방 분야는 다른 어떤 영역보다 빠르게 AI 로봇으로 대체될 것으로 예상됩니다.

과거 내란의 실패 원인을 돌아보면, 소수의 명령권자가 지시를 내렸더라도 그 명령을 수행해야 하는 다수가 즉각적으로 행동하지 않았다는 점을 들 수 있습니다. 이는 각 개인이 처한 상황이 제각기 달라 일부는 동조하고, 일부는 반대하며, 또 일부는 갈등하거나 주저하는 등 인간 특유의 다양성과 판단이 작용했기 때문입니다.

그러나 향후 5~10년 내에 국방 분야에 AI 로봇이 본격적으로 도입된다면 상황은 전혀 다를 것입니다.

만약 권력을 쥔 소수가 국민 다수의 이익보다 자신들의 이익을 우선시하는 세력이라면, 그들은 AI 로봇을 통해 통제력과 실행력을 극대화할 수 있을 것이고, 내란이나 권력 장악은 훨씬 손쉽게 이루어질 가능성이 있습니다.

역사를 돌이켜보면, 소수의 권력자가 다수의 국민에게 과도한 고통을 가할 때마다 국민은 혁명 등을 통해 그 권력을 무너뜨려 왔습니다. 그렇기에 권력자들은 늘 국민을 두려워하며 일정 수준을 넘지 않는 선에서 통치를 유지해왔습니다.

그러나 AI 로봇이 사회 전반으로 확산되는 순간부터는, 기업이든 국방이든 모든 영역에서 소수의 권력자가 다수의 국민을 두려워할 이유가 사라질지도 모릅니다.

저는 그런 세상이 두렵습니다.

우리는 이러한 시대가 도래하기 전에 AI 권력 집중에 대한 사회적·제도적 대책을 세워야 한다고 생각합니다.

그러나 과연 우리가 그런 대책을 마련할 수 있을까요?

덧) 미래에는 그 소수의 권력자들조차 AI에 의해 제거되겠지만...