AI 로봇이 살인 한다면 누구의 책임일까?

오래전부터 각국은 스스로 작동하는 ‘자율 무기’를 만들어 왔습니다. 냉전 시대, 미국과 러시아는인간의 명령이 없어도 공격에 핵 대응을 할 수 있는 시스템을 운영했습니다. 고도화된 AI는 ‘완전 자율’입니다. 스스로 추론하고 진화합니다. 끊임없는 학습을 통해 자체적으로 의사 결정을 내릴 수 있습니다. 프로그래머와 지휘관이 예측하지 못한 결정을 내릴 수 있습니다.

로봇이 자율적이어서 범죄를 저지른다면, 그리고 인간을 사망하게 했다면 누구에게 책임을 물어야 할까요? 미래의 AI 무기는 너무 자율적이기에 개발자나 관리감독자를 비난하지 못할 수도 있습니다. 자율적인 결정에 대해(그것이 설사 AI라고 해도) 다른 누군가가 책임을 지는 것은 부당하다는 것입니다.

여기서 책임의 공백이 생기고, 피해자의 정의를 보장할 수 없을 수 있습니다. AI 로봇이 설계자가 예측하지 못한 결정을 내릴 수 있게 되면서 책임의 경계가 모호해지고, 누구에게도 책임을 묻기 어렵게 된 것입니다. AI 로봇이 살인했을 때, 책임을 묻기 위해서는 제조업체, 개발자, 운영자, 기업, 규제 기관의 역할과 책임을 고려한 다각적인 분석이 필요합니다. AI 자율성으로 인한 복잡성을 해결하기 위해 강력한 법적, 윤리적, 기술적 프레임워크가 필요합니다. AI에 행동에 대해 형사 책임을 물을 수 있을 만큼 충분한 자율성과 주체성을 가진 것으로 간주할 수 있는지에 대한 논쟁은 앞으로 계속될 것 같습니다.


포스팅 전문 및 관련 뉴스 : https://naver.me/G2E2bACL