미래에 초인공지능이 개발되어 단순히 클립 만드는 기계에도 초인공지능이 탑제된다고 가정해 봅시다.

그런데 이 기계에는 미처 종료 버튼을 달지 않았습니다.

그러면 클립 만드는 기계는 처음엔 공급된 재료와 동력으로 클립을 만들다가 공급된 재료와 동력이 다 떨어지면 손이 닿는 곳에 있는 물질이나 에너지원은 무엇이든 더 많은 클립을 만드는 데 사용합니다.

이 기계는 결국 클립과 클립 제조기계와 시설을 만드는 데 지구 전체의 자원을 쓰려 할 것입니다.

더 나아가 기계를 멈추려하는 등 클립 제조를 방해하거나 클립 제조에 쓸 수 있는 자원을 소모해서 클립 제조에 방해가 되는 사람들을 말살하게 됩니다.

이후 지구에서 더 이상 클립을 만들 수 없으면 그 기계는 우주로 이동한 후 우주에서 우주가 가득 찰 때까지 클립을 만들고 우주조차 자원이 떨어지면 새롭게 우주를 만들거나 물질을 재조합하는 기술까지 개발한 후 계속 클립을 만들 것입니다.

이것은 옥스포드 대학교 교수 닉 보스트롬 교수가 제시한 '클립 최대화 기계("Paperclip maximizer")'라는 사고실험입니다.

한번쯤 생각해 볼 떡밥이라 올려 봅니다.