만약 완전한 신뢰도를 갖게 된 AI 가 기대수명을 늘리고 자질구레한 잔병을 치료하는 엄청난 신약을 발명했다고 하고,
누가 내든 간에, 다른 직접 간접 기타 비용보다 비용 그 자체가 절감된다라는 논리로 전 세계 무료배포하고
또 태어나는 아이에게 무조건 먹이게 된다면,
그런데 그게 나노봇이 삽입되어 있어 먹은 후 1개월 이후 반드시 사망하게 되는 약이라면
그래서 AI가 인류를 말살한 신약을 만들어 낸 것이라면

"여기에 한 남자가 있습니다 그리고 그 AI를 막으려는 여자도 있지요 과연 그들이 만들어낼 이야기는 무엇일까요? 지금 바로 시작합니다“

뭐 저런시각도 이해하지만 결국엔 AI도 모든 판단 기준은 결국 인류 문명에게서 얻잖아요. 인류에게서 학습해서 얻은 데이터로 말이죠.
그저 AI는 두렵다 따위는 1차원적인 발상이고 앞으로 다가오는 현실에서의 공존을 생각하며 접근해야 한다고 봅니다.
고도로 발달한 문명일수록 인구는 줄어들고 있으며 노후화가 당겨지는 걸 보면 그 갭을 AI가 채우겠죠.
우리는 얻는게 있는 만큼 잃는것도 있다는 걸 인정하며 양보 하게 될겁니다.
이 세상에 댓가없는 건 존재하지 않잖아요. 단지 댓가의 지불시기가 언제냐는 차이점이 있겠죠.
필요에 의해 생긴 존재들이니 앞으로도 그 필요성에 맞춰서 성장하겠죠. 유발 하라리의 경고는 어느정도 받아들이겠지만 너무 비관할 필요는 없다고 봅니다.

저는 근래에는 일반인공지능도 어렵지 않겠나 하는 생각을 하고 있습니다.
인간에게 있어서 인공지능에 대한 수요는 질문에 답하는 역할 입니다.
알아서 무언가를 하는 것도 좋지만 그건 사소한 문제에나 그런 것이고 중요한 문제는 인간이 결정하길 원합니다.
그리고 단지 질문에 답하는 일만 시키는데에도 막대한 컴퓨팅 자원과 에너지가 소모됩니다.
지능의 창조성이 제대로 기능하려면 잉여 시간과 자원이 절대적으로 필요하죠.
그런데 인간이 AI에게 이 비용을 기꺼이 지불할 의향이 없다는 겁니다.
기업은 AI에게 돈을 벌 수 있는 것이 아니면 시키지 않을 것이고 국가 기관은 국가적인 이익이 되는 일에만 자원을 쓸 거예요.
예를 들어서 AI 서버를 켰는데 큐에 아무런 작업도 없는데 리소스를 막 쳐먹고 있으면 엔지니어나 관리자 입장에서 어떻게 할까요?
이를 버그로 여기고 셧다운 하고 AI 모델에 대해서 롤백을 할 겁니다.
자본주의 논리에 의해서 아주 자연스럽게 창조성을 계속 거세하는 작업을 우리도 모르게 계속 수행할 거란 말이죠.
애초에 창조성, 창의성이라는 건 자체가 잉여력과 수 많은 삽질을 바탕으로 하는 거죠.
수 많은 쓰레기 같은 산물 중에서 가끔 빛나는 것이 탄생하는 것인데 막대한 컴퓨팅 자원을 (곧 돈을) 그런 가비지를 생산하도록 내버려둘 경영진이 있을까요. 하하.
획기적인 알고리즘이나 하드웨어가 나와서 AI 구동에 대한 자원 소모가 크게 낮아진 후에는 올 것도 같습니다.
어떤 신념을 가졌거나 그저 재미로 일반인공지능, 초인공지능을 발전시키고 싶은 개인, 단체가 나올 수는 있으니까요.