피지컬 AI를 대량으로 생산할 수 있는 시대가 도래한다면, 가장 큰 위험은 기술 자체가 아니라 그 기술을 보유하고 통제하는 주체에 있다고 생각됩니다.

특히 특정 조직이나 국가의 수장이 또라이일 경우, 인류 전체에 돌이킬 수 없는 피해를 초래할 가능성을 배제할 수 없습니다.

가까운 예로 일론 머스크와 도널드 트럼프를 들 수 있습니다.

둘은 한때 가까운 관계였으나, 정책과 공개 발언을 계기로 공개적인 충돌을 겪으며 관계가 악화된 바 있습니다.

당시 머스크는 한 발 물러서는 모습을 보였지만, 만약 그 시점에 머스크가 군사적으로 무장된 피지컬 AI를 대량으로 보유하고 있었다면 트럼프를 확 받아버렸을지도 모릅니다.

반대로 지금도 무소불위의 트럼프가 타국 대비 압도적인 군사용 피지컬 AI 전력을 보유하게 된다면, 지금보다 훨씬 더 위태로운 국제 질서가 형성될 가능성이 큽니다.

그럼에도 불구하고, 이러한 상황에 대비한 국제적 합의나 제도적 장치는 거의 마련되어 있지 않은 것으로 보입니다.

AI 윤리에 대한 논의는 주로 소프트웨어와 알고리즘 문제에 집중되어 있으며, 실제로 이동하고 판단하며 무력을 행사할 수 있는 피지컬 AI의 위험성은 충분히 다뤄지지 않고 있습니다.

최근 공개되는 중국의 사격 가능한 드론을 보면서 더욱 심란합니다.

소수 권력자의 성향에 인류의 안전이 좌우되는 시대를 어떻게 대비해야할까요?

이제 산속에 숨을 수도 없고...