ASI(초인공지능), 새로운 신의 등장

먼 미래의 일처럼 여겼던 AGI(인공일반지능)가 현실에 가까워지고 있습니다. 엄청나게 빠른 속도입니다. 이제 ASI(초인공지능)을 고민해야 합니다. 어쩌면 다음 세대는 고도화된 AI에 의한 새로운 암흑의 중세, ‘기술 신정(Technocratic Theocracy)’의 시대일 수 있습니다.

ASI는 인지 능력에 있어 모든 분야에서 인간을 능가하는 인공지능을 의미합니다. AGI의 ‘끝판왕’이라 할 수 있습니다. 유발 하라리가 표현한 호모데우스(신적 인간)나, 신과 동등한 수준의 존재를 생각하면 됩니다.

오늘 소개하는 논문에 따르면, AI가 빠른 속도로 AGI를 넘어 ASI로 발전하고 있습니다. 이러한 기술의 발전은 사람들로 하여금 ASI를 신과 같은 존재로 인식하게 할 수 있다고 주장합니다. ASI의 전지전능한 능력으로 인해 사람들이 신과 같은 무오류성을 부여해 AI의 결정을 의심 없이 받아들이는 ‘인지적 편향’이 발생할 있다는 것입니다. 신적 속성과 ASI의 유사점을 도출함으로써 기술 발전과 도덕적, 윤리적 우월성을 혼동할 때의 위험성을 강조합니다.

ASI의 방대한 데이터에 접근하고 분석해 세상사의 거의 모든 상황을 이해하고 예측합니다. 이를 통해 인간이 상상할 수 있는 거의 모든 문제를 해결할 수 있습니다. ASI가 문제 해결과 의사결정에 있어서 인간보다 월등한 능력을 보일 경우 사람들은 점점 더 ASI에 의존할 수 있습니다. 중요한 결정의 책임을 ASI에 전가함으로써 자신의 선택과 행동에 대한 책임의 부담을 덜 수 있습니다. 이렇게 인류의 의사 결정권을 ASI에 넘기게 되면 소수 엘리트에 의한 새로운 전체주의 생길 수 있습니다. 인간의 자율성과 주체성, 비판적 사고를 약화시킬 수 있습니다.

이러한 위험을 방지하기 위해서는 ASI의 결정과 정보를 비판적으로 평가하고, 인간의 창의적 사고와 문제 해결 능력을 지속적으로 개발해야 합니다. ASI의 사용에 대한 윤리적 가이드라인과 규제도 필요합니다. 피할 수 없는 ASI의 혜택을 최대한 누리면서도, 인간의 본질적 능력을 보호하고 강화할 수 있는 방법을 찾아야 합니다.

포스팅 전문 및 관련 뉴스 : https://naver.me/FdCU4Kqc