교황님의 AI 에 대한 생각을 들으며..

이런 저런 생각을 하게 되네요.

구버전 AI를 셧다운 시키려 하니..

셧다운 시키려는 담당자의 불륜사실을 사내에 알리겠다더라..는 이야기

로봇이 아닙니다 체크를 넘어서는 테스트를 시켰더니..

자신의 눈이 보이지 않으니 대신 마우스 클릭해줄 인간을 구하더라..는 이야기

처음에는 AI가 이런 깜찍한 사악한 짓을 하네..싶었지만

사실 그동안의 인간의 기록을 빅데이터로 학습한 결과를 조합한 결과일 뿐이지요.

그래도 지들은 텍스트 출력만 하니깐 괜찮찮아.. 아직은 피지컬과 결합된 AI는 아니잖아..

라고 잠깐 안심하다가..

전쟁용 드론은 조금만 더 업데이트만 시키면

전쟁수행 AI로서 이미 완벽하구나 싶은 생각이 들더라고요.

놀랍게도 전쟁용 드론에 대한 국제사회 협의는 1도 없다고 하네요.

AI가 인간에게 위해를 준다면..

AI가 인간세상을 뒤집을 혁명을 하자..는 엄청난 스스로의 결론을 새롭게 내리는게 아니라..

인간의 본성 그대로 텍스트로 빅데이터 학습의 결과물을 그대로 실행할 뿐이라는

그래서 오히려 더 무서운 결과를 가져올수 있겠다는 생각을 하게 되네요.