악의 평범성..

박구용 교수의 '빛의 혁명과 반혁명 사이'라는 책을 읽고 있습니다.

한 부분에서 한나 아렌트가 제시한 '악의 평범성'에 대해 서술하는 부분이 나옵니다.

아이히만이 저질렀던 끔찍한 범죄를 보면, 분명 악인일 것이라고 추정했지만,

그의 이후의 삶이 보니, 그냥 '평범한 한 가정의 가장'으로 그렇게 살아가고 있더라.

단지 '윗사람의 명령'에 대해 '판단'하지 않고, '충실하게 효율성 높게 일'을 했을 뿐.

'악'이라는 게 '악한 마음'에서 나타나는 게 아니라,

'판단하지 않음'으로서 '생각하지 않고 행동함'으로서도 나타날 수 있다.

'올바른 명령'인지 '그릇된 명령'인지 반드시 '판단'을 해야 한다.

판단을 해야 '악하지 않게 살아갈 수 있다'고 언급하며,

지난 달 일어났던 비상계엄이라는 극히 위험한 내란 상황에서 '판단'을 함으로써,

끔찍한 참사를 막을 수 있었던 우리 국민, 우리 군인에 대해 서술하고 있었습니다.

정말 얼마나 다행이었는지 모릅니다. 몇 번을 생각해봐도 정말 다행입니다.

이건 조금 다른 이야기인데, 우리는 '판단'을 합니다. 사람이니 이게 가능합니다.

어떤 일을 할 때 가끔 '주저하는 것'은 사람이기에 그렇습니다.

0과 1로 처리되는 디지털, 기계, 인공지능, 로봇. 이들은 '주저함'이 없습니다.

'명령'을 하면 그에 걸맞는 '최적의 효율적인 길'을 찾고 '행동'합니다.

우리는 악의 평범성을 알기에 '판단'이라는 과정이 그 중간에 위치해 있지만,

로봇에는 이게 없을 수도 모릅니다. '명령하면 행동한다' 이 길을 밟을지 모릅니다.

그릇된 명령에 '주저하며 행동으로 바로 옮기지 않는 사람'이 아니라,

어느 훗날에는 '주저함이 없이 그릇된 명령을 바로 실천하는 로봇'들이

되돌릴 수 없는 사태를 일으킬 지도 모릅니다. 그릇된 누군가의 명령으로 말이죠.

판도라의 상자를 열려버린 것인지 모릅니다.

이미 AGI에 다다른 것이 아닌가 하는 불안함이 드는 요즘입니다.

이것이 황금기일지, 몰락기일지 모르겠습니다.

끝.