AI의 미래에 대한 청사진
알림
|
페이지 정보
작성일
2024.10.13 10:39
본문
<Machines of Loving Grace>
전 OpenAI의 연구가이자, 현재 앤트로픽의 CEO인 다리오 아모데이가 개인 블로그에 '아주아주 장문'의 AI의 미래에 대한 청사진을 게시하였다.
대부분의 사람들이 미래의 AI 방향성과 AGI의 위협에 대해 논하고 있을때, 본인은 이번 기회에 아예 '모든 것이 잘 풀렸을때 강력한 AI를 가진 세상이 어떻게 보일지' 그려보았다고 한다.
- 신경과학과 정신건강
- 경제발전과 빈곤
- 평화와 거버넌스
- 일과 의미
이렇게 다섯개로 나누어진 그의 생각을 통해,
왜 OpenAI의 창업자들이 앤트로픽으로 대거 옮겨갔는지 힌트를 찾아보시길 바란다.
(참고로, 글 제목인 <Machines of Loving Grace>는 '기계가 인간의 삶을 개선하고 보호하는 기술 유토피아'에 대한 열정적 묘사를 담고 있는 1967년 리처드 브라우티건의 시 제목이다.)
<서론>
1. AI의 위험성에 대해 많이 논의하지만, 이는 AI가 대부분 나쁘거나 위험할 것이라고 생각해서가 아니라 오히려 근본적으로 긍정적인 미래를 가로막는 유일한 장애물이기 때문임. 대부분의 사람들이 AI의 잠재적 이점을 과소평가하고 있으며, 동시에 위험이 얼마나 나쁠 수 있는지도 과소평가하고 있음. AI의 장점에 대해 많이 이야기하지 않는 이유는 레버리지 극대화, 선전으로 보이는 것 피하기, 과대망상 피하기, SF 소설쓰고 있네. 라고 여겨지는것 등임.
2. AI가 세상을 더 나은 곳으로 만들 수 있는 5가지 주요 영역은 생물학과 신체 건강, 신경과학과 정신 건강, 경제 발전과 빈곤, 평화와 거버넌스, 일과 의미임. 이러한 예측은 대부분의 기준으로 볼 때 급진적일 수 있지만, 진지하고 성실하게 제시된 것임. 다양한 분야에서 얼마나 많은 진전이 있을 수 있는지, 그리고 그것이 실제로 무엇을 의미할 수 있는지에 대한 반분석적 평가에 기반하여 견해를 정립하려고 노력했음.
3. 강력한 AI는 대부분의 관련 분야에서 노벨상 수상자보다 더 똑똑하며, 텍스트, 오디오, 비디오, 마우스 및 키보드 제어, 인터넷 접속 등 다양한 인터페이스를 가짐. 수행하는 데 몇 시간, 며칠 또는 몇 주가 걸리는 작업을 자율적으로 수행할 수 있으며, 컴퓨터를 통해 기존의 물리적 도구, 로봇 또는 실험실 장비를 제어할 수 있음. 수백만 개의 인스턴스를 동시에 실행할 수 있으며, 인간 속도의 10-100배로 정보를 흡수하고 행동을 생성할 수 있음.
4. AI의 발전 속도는 외부 세계의 속도, 데이터의 필요성, 본질적 복잡성, 인간으로부터의 제약, 물리 법칙 등 여러 요인에 의해 제한될 수 있음. 단기적으로는 이러한 요소들이 어려운 제약이 될 수 있지만, 장기적으로는 지능에 의해 더 유연해질 수 있음. 예를 들어, 지능을 사용하여 새로운 실험 패러다임을 개발하거나, 필요한 도구를 구축하거나, 인간 기반 제약을 우회할 방법을 찾을 수 있음. 핵심 질문은 이 모든 것이 얼마나 빨리, 어떤 순서로 일어나느냐임.
5. AI의 발전은 "특이점"처럼 초 또는 일 단위로 즉시 세상을 변화시키지는 않을 것이며, 동시에 기술 진보가 완전히 포화되어 AI가 거의 도움이 되지 않을 것이라는 극단적인 관점도 옳지 않음. 실제로는 이 두 가지 극단적인 그림의 복잡한 혼합물일 가능성이 높으며, 작업과 분야에 따라 다르고 세부 사항에서 매우 미묘할 것임. 이를 이해하기 위해서는 "지능에 대한 한계 수익"에 대해 생각하고, 지능과 보완적이며 지능이 매우 높을 때 제한 요인이 되는 다른 요소들을 파악해야 함.
6. 강력한 AI의 개발은 2026년 정도에 올 수 있다고 예상되지만, 이는 불확실하며 훨씬 더 오래 걸릴 수도 있음. 이 에세이에서는 그것이 합리적으로 빨리 올 것이라고 가정하고 그 이후 5-10년 동안 무슨 일이 일어날지에 초점을 맞추고 있음. 강력한 AI는 "데이터 센터에 있는 천재들의 나라"로 비유될 수 있으며, 이는 수백만 개의 인스턴스로 구성되어 각각 독립적으로 작업할 수 있거나 필요한 경우 협력할 수 있음.
7. AI의 발전이 가져올 수 있는 긍정적인 변화를 논의하는 것은 중요하지만, 이를 할 때는 선전으로 보이는 것을 피하고, 과대망상적이거나 "SF소설" 톤을 띠지 않도록 주의해야 함. 진정으로 영감을 주는 미래에 대한 비전을 갖는 것이 중요하며, 단순히 위험을 피하는 계획만 있어서는 안 됨. 두려움은 하나의 동기부여가 될 수 있지만, 그것만으로는 충분하지 않으며 희망도 필요함.
8. AI의 발전이 가져올 수 있는 긍정적인 변화를 더 정확히 예측하고 이해하기 위해서는 생물학, 경제학, 국제 관계 및 기타 분야의 전문가 그룹을 모아 더 나은 버전의 분석을 수행하는 것이 가치 있을 것임. 이 에세이는 그러한 그룹을 위한 시작으로 볼 수 있으며, 앞으로 더 깊이 있고 전문적인 분석이 필요함.
9. AI의 발전은 다양한 분야에서 혁명적인 변화를 가져올 수 있지만, 이러한 변화의 속도와 범위는 여러 요인에 의해 제한될 수 있음. 예를 들어, 생물학적 실험이나 하드웨어 구축과 같은 물리적 과정은 AI의 지능이 아무리 높아져도 일정 시간이 필요함. 또한 일부 문제는 본질적으로 예측 불가능하거나 혼란스러워서 AI도 현재의 인간이나 컴퓨터보다 크게 나은 해결책을 제시하지 못할 수 있음.
10. AI의 발전이 사회에 미치는 영향을 고려할 때, 법적, 윤리적, 사회적 제약을 무시할 수 없음. 조율된 AI는 이러한 제약을 존중하면서 발전해야 하며, 이는 때때로 기술적으로 가능한 것과 실제로 구현 가능한 것 사이에 격차를 만들 수 있음. 예를 들어, 임상 시험에 대한 규제나 사회의 변화에 대한 저항은 AI가 의료 분야에서 빠르게 혁명을 일으키는 것을 제한할 수 있음.
11. AI의 발전은 단기적으로는 현존하는 제약에 의해 제한될 수 있지만, 장기적으로는 이러한 제약을 우회하거나 해결하는 방법을 찾을 수 있음. 예를 들어, AI는 새로운 실험 방법을 개발하여 현재의 한계를 극복하거나, 규제 시스템을 개선하는 데 도움을 줄 수 있음. 그러나 이러한 과정은 점진적일 것이며, 일부 제약(예: 기본적인 물리 법칙)은 절대적이어서 AI로도 극복할 수 없을 것임.
<생물학과 신체건강>
12. AI 기반 생물학과 의학은 인간 생물학자들이 다음 50-100년 동안 달성했을 진보를 5-10년 안에 압축할 수 있을 것으로 예상됨. 이는 "압축된 21세기"라고 불리며, 강력한 AI 개발 후 몇 년 안에 21세기 동안 이루었을 모든 생물학과 의학의 진보를 이룰 수 있다는 개념임.
13. AI가 가속화한 생물학이 가져올 수 있는 주요 변화로는 거의 모든 자연 감염성 질병의 예방과 치료, 대부분의 암 제거, 유전병에 대한 효과적인 예방과 치료, 알츠하이머병 예방, 다른 질병들에 대한 개선된 치료, 생물학적 자유의 확대, 인간 수명의 두 배 연장 등이 포함됨.
14. 이러한 변화들이 7-12년 내에 실현된다면, 이는 수천 년 동안 인류를 괴롭혀 온 대부분의 재앙들이 일시에 제거되는 엄청난 인도주의적 승리가 될 것임. 새로운 세대는 질병에 대한 언급이 우리에게 괴혈병, 천연두, 흑사병이 들리는 것처럼 들릴 수 있을 것임.
15. 이러한 변화는 사회 보장, Medicare, 의료 비용 등 현재 많은 경제학자와 정책 전문가들이 고민하고 있는 문제들에 대한 상황을 크게 개선할 수 있음. 근로 연령 인구와 은퇴 인구의 비율이 크게 변할 것이기 때문임.
16. 생물학 분야에서 AI의 영향력은 데이터 분석을 넘어 전체 연구 과정을 가속화하는 데 있음. AI는 실험 설계와 수행, 새로운 생물학적 방법이나 측정 기술 발명 등 생물학자들이 하는 거의 모든 일을 수행하고 개선할 수 있을 것으로 예상됨.
17. 생물학에서의 진보는 소수의 중요한 발견들에 의해 주도되어 왔음. 이러한 발견들은 생물학적 시스템에 대한 정밀하고 일반화된 개입을 가능하게 하는 측정 도구나 기술과 관련되어 있으며, 연간 약 1개 정도의 주요 발견이 생물학 진보의 50% 이상을 주도한다고 볼 수 있음.
18. 이러한 주요 발견들의 예로는 CRISPR, 다양한 종류의 현미경 기술, 게놈 서열 분석 및 합성, 광유전학 기술, mRNA 백신, CAR-T와 같은 세포 치료법 등이 있음. 이들은 생물학적 복잡성과 데이터 한계를 극복하고 생물학적 과정에 대한 이해와 통제를 직접적으로 증가시키는 강력한 도구임.
19. AI가 이러한 발견의 속도를 10배 이상 증가시킬 수 있다고 예상되는 이유는 여러 가지임. 이러한 발견들이 소수의 연구자들에 의해 이루어지고, 종종 실제로 만들어진 시기보다 몇 년 앞서 '만들어질 수 있었다'는 점, 그리고 많은 발견들이 독립적이어서 병렬로 작업할 수 있다는 점 등이 그 근거임.
20. 임상 시험의 속도와 관련하여, 현재의 느린 속도는 대부분 효과가 미미하거나 모호한 약물을 엄격하게 평가해야 할 필요성에서 비롯됨. 그러나 효과가 뛰어난 치료법의 경우 승인 과정이 더 빠르게 진행될 수 있음. 예를 들어, COVID-19에 대한 mRNA 백신은 9개월 만에 승인되었음.
21. AI 기반 생물학 과학은 더 나은 동물 및 세포 실험 모델을 개발하여 임상 시험에서의 반복 필요성을 줄일 수 있을 것으로 예상됨. 이는 특히 노화 과정과 같이 수십 년에 걸쳐 진행되는 현상에 대한 약물 개발에 중요할 것임.
22. 생의학 혁신은 다른 기술들과 달리 개발 후 성공적으로 배포되고 사용되는 경향이 있음. 이는 AI가 생물학 분야에서 성취할 수 있는 것에 대해 낙관적인 전망을 제시함.
23. AI가 가속화한 생물학이 가져올 수 있는 구체적인 변화들 중 일부는 다음과 같음:
- 거의 모든 자연 감염성 질병의 예방과 치료
- 대부분의 암 제거 (사망률과 발병률 95% 이상 감소)
- 유전병에 대한 효과적인 예방과 치료
- 알츠하이머병 예방
- 당뇨병, 비만, 심장병 등 다른 질병들에 대한 개선된 치료
- 생물학적 자유의 확대 (체중, 외모, 생식 등에 대한 더 많은 통제)
- 인간 수명의 두 배 연장 (약 150세까지)
<신경과학과 정신건강>
25. AI는 신경과학 진보를 4가지 경로로 가속화할 것으로 예상됨: 전통적인 분자 생물학/화학/유전학, 세밀한 신경 측정 및 개입, 고급 계산 신경과학, 행동 개입.
26. AI가 가속화한 신경과학은 5-10년 안에 대부분의 정신 질환을 치료하거나 예방할 수 있을 것으로 예상됨. 이는 생화학적 요인과 신경망 수준의 문제 해결을 통해 이루어질 것임.
27. 정신질환이나 일부 지적 장애와 같은 '구조적' 상태는 치료가 더 어려울 수 있지만, AI의 도움으로 뇌를 재구조화하는 방법을 발견할 가능성이 있음.
28. 정신 질환의 유전적 예방이 가능해질 것으로 보이며, 배아 선별을 통해 많은 질병을 예방할 수 있을 것임. 다만 복잡한 특성에 대한 배아 선별은 사회적 논란을 일으킬 수 있음.
29. 임상 질병으로 간주되지 않는 일상적인 심리적 문제들도 해결될 가능성이 높음. 예를 들어 화를 쉽게 내는 것, 집중력 부족, 불안 등의 문제에 대해 더 효과적인 해결책이 개발될 수 있음.
30. 인간의 기준 경험이 크게 개선될 수 있음. 계시, 창의적 영감, 연민, 성취감, 초월, 사랑, 아름다움, 명상적 평화와 같은 놀라운 경험들이 더 자주, 더 쉽게 접근 가능해질 수 있음.
31. 인지 기능을 전반적으로 향상시키는 것도 가능할 것으로 예상되며, 이는 '생물학적 자유' 또는 '연장된 수명'의 신경과학 버전이라고 볼 수 있음.
32. '마인드 업로딩'은 이론적으로는 가능할 수 있지만, 실제로는 상당한 기술적, 사회적 과제에 직면해 있어 가까운 미래(5-10년 내)에 실현되기는 어려울 것으로 보임.
33. AI가 가속화한 신경과학의 발전은 대부분의 정신 질환에 대한 치료법을 크게 개선하거나 치료할 가능성이 있으며, 인간의 인지 및 정서적 능력을 크게 확장시킬 것으로 예상됨.
34. 이러한 변화로 인해 세상은 외부적으로는 크게 달라 보이지 않을 수 있지만, 인간이 경험하는 세상은 훨씬 더 나은 장소가 될 것이며, 자아실현의 기회가 더 많아질 것임.
35. 개선된 정신 건강은 정치적, 경제적 문제를 포함한 많은 사회적 문제들을 완화하는 데 도움이 될 것으로 예상됨.
<경제발전과 빈곤>
36. AI가 개발도상국의 경제 발전과 빈곤 해결에 기여할 수 있는 여러 가지 방법이 있지만, 이는 기술 발전만큼 확실하지는 않음. 경제는 인간으로부터의 제약과 본질적인 복잡성을 포함하기 때문임.
37. 개발도상국에서의 건강 개입 분배에 대해 낙관적인 전망이 있음. AI는 질병 근절 캠페인의 역학 모델링을 개선하고 분배 물류를 최적화할 수 있을 것으로 예상됨.
38. 경제 성장 측면에서, AI 주도의 경제 정책이 개발도상국의 빠른 성장을 가능하게 할 수 있음. 목표로는 연간 20%의 GDP 성장률을 제시하고 있으며, 이는 AI 지원 경제 결정과 AI 가속화 기술의 자연스러운 확산을 통해 달성될 수 있음.
39. AI는 식량 안보 개선, 기후 변화 완화, 국가 내 불평등 해소에도 기여할 수 있음. 예를 들어, AI 주도의 두 번째 녹색 혁명이 농업 생산성을 크게 향상시킬 수 있음.
40. 개발도상국과 선진국 모두에서 AI 지원 혜택을 선택하지 않는 '옵트아웃' 문제가 우려됨. 이는 디지털 격차를 심화시키고 민주주의를 약화시킬 수 있는 잠재적 위험이 있음.
41. 전반적으로, AI의 생물학적 발전을 개발도상국에 빠르게 가져다주는 것에 대해 낙관적이지만, 경제 성장과 불평등 해소에 대해서는 희망적이면서도 확신하지는 않음.
42. AI를 통한 개발도상국의 발전은 완벽하지 않을 수 있지만, 강력한 노력을 통해 올바른 방향으로 빠르게 진전을 이룰 수 있을 것으로 기대됨. 이는 모든 인간에게 빚진 존엄성과 평등의 약속을 지키는 첫 걸음이 될 수 있음.
<평화와 거버넌스>
43. 질병, 빈곤, 불평등이 감소해도 인간은 여전히 서로에게 위협이 되며, 기술 발전과 경제 발전이 민주주의와 평화로 이어지는 경향이 있지만 이는 느슨한 경향이고 빈번한 후퇴가 있음.
44. 과거에 전쟁이 끝났다고 생각했지만 세계 대전이 일어났고, 후쿠야마의 '역사의 종말'과 자유 민주주의의 승리 예측도 아직 실현되지 않았으며, 중국과의 자유 무역이 중국을 자유화할 것이라는 기대도 빗나갔음.
45. AI가 민주주의와 평화를 구조적으로 발전시킬 것이라고 믿을 강한 이유가 없으며, 오히려 AI가 더 나은 선전과 감시를 가능하게 하여 독재자의 도구가 될 수 있음.
46. 강력한 AI가 만들어질 때 민주주의가 세계 무대에서 우위를 점하는 것이 중요하며, 이를 위해 '협약 전략'이 필요함.
47. '협약 전략'은 민주주의 연합이 AI에 대한 우위를 확보하고, 군사적 우위를 달성하며, 더 많은 국가에 AI의 혜택을 분배하는 것을 포함함.
48. 민주주의가 세계 무대에서 주도권을 가지면 AI가 모든 곳에서 구조적으로 민주주의에 유리할 수 있으며, 이는 정보 전쟁에서의 승리와 자유로운 정보 환경 조성을 통해 가능함.
49. 삶의 질 향상, 자유로운 정보 유통, AI를 활용한 반체제 인사들의 활동 지원 등이 민주주의를 증진시킬 수 있음.
50. AI를 활용하여 법률 및 사법 시스템을 개선하고, 시민들의 의견을 집계하며, 정부 서비스를 효율적으로 제공할 수 있음.
<일과 의미>
51. AI가 모든 것을 수행하는 상황에서도 인간이 의미와 경제적 생존을 어떻게 할 것인지에 대한 질문이 남아있으며, 이는 사회 조직에 관한 거시적 문제와 관련되어 예측이 어려움.
52. 의미의 문제에 대해, AI가 더 잘할 수 있다고 해서 인간의 활동이 무의미해지는 것은 아니며, 대부분의 사람들은 자신이 최고가 아니라는 사실에 크게 신경 쓰지 않음.
53. 의미는 주로 인간 관계와 연결에서 오며, AI 이후의 세계에서도 인간은 어려운 과제에 도전하고 성취감을 얻을 수 있을 것임.
54. 경제적 문제는 의미의 문제보다 더 어려우며, 단기적으로는 비교 우위로 인해 인간의 생산성이 증가하고 새로운 직업이 창출될 수 있음.
55. 장기적으로 AI가 매우 효과적이고 저렴해지면 현재의 경제 구조가 의미를 잃을 수 있으며, 이에 대한 사회적 논의가 필요함.
56. 새로운 경제 구조는 보편적 기본 소득, AI 시스템의 자본주의 경제, 또는 예상치 못한 방식의 인간 가치 등 다양한 형태가 될 수 있음.
57. 새로운 경제 구조의 실현 가능성은 많은 실험과 반복이 필요하며, 착취적이거나 디스토피아적인 결과를 방지하기 위해 노력해야 함.
<정리>
58. AI가 모든 것을 잘 해결한다면 질병 퇴치, 생물학적 및 인지적 자유 증가, 빈곤 해소, 자유 민주주의와 인권의 르네상스 등이 일어날 수 있으며, 이는 많은 이들에게 감동을 줄 수 있음.
59. 이 비전은 매우 급진적이고 일부에게는 환상적으로 보일 수 있지만, 동시에 좋은 세상을 그리는 많은 시도들이 불가피하게 이와 유사한 결론에 도달하는 경향이 있음.
60. 공정성, 협력, 호기심, 자율성에 대한 기본적인 인간의 직관은 반박하기 어려우며, 이는 법치주의, 민주주의, 계몽주의 가치로 이어짐.
61. AI는 인류가 이미 향하고 있던 방향으로 더 빨리 도달할 수 있는 기회를 제공하며, 이는 논리를 더 선명하게 하고 목적지를 더 명확하게 만듦.
62. 이러한 비전은 초월적인 아름다움의 대상이며, 우리는 이를 현실로 만드는 데 작은 역할을 할 수 있는 기회를 가지고 있음.
출처 : 페친 박시용님 페북
댓글 9
/ 1 페이지
셀빅아이님의 댓글
좋은내용이네요.
제일 문제는 군사적 이용이 제일 걸리네요.
이스라엘이 이번에 AI 결정으로 최대 효율로 주변 민간인까지 학살했죠.
제일 문제는 군사적 이용이 제일 걸리네요.
이스라엘이 이번에 AI 결정으로 최대 효율로 주변 민간인까지 학살했죠.
74 랜덤 럭키포인트 당첨을 축하드립니다.
사람만이희망이다님의 댓글의 댓글
@셀빅아이님에게 답글
http://www.withoutwar.org/?p=22119&fbclid=IwY2xjawF4HFdleHRuA2FlbQIxMQABHcj7pYlufev-KZilC6l_zlIkcnAlWwpdc5CpBPC3a0_J64_uwujcyMEJ7A_aem_Yhlm6VY9jSECTQOV35rKUg '더욱 지능적으로 더러워진 전쟁' 본 기사에서도 제일 시선을 끄는 문장입니다만 ;;
59 랜덤 럭키포인트 당첨을 축하드립니다.
aicasse님의 댓글
원문에서 그 ceo가 Iain M. Banks의 Culture 시리즈를 언급했다고 하더군요. 10개 정도의 sf 소설로 이루어진 시리즈이고, 먼 미래에 물리학의 발전으로 사실상 무한대의 에너지를 거의 공짜로 확보하게 되고, 고도로 발전된 AI가 운영하는 헤도니스트 유토피아 사회를 다루는 이야기들인데, 재미있습니다. 최근 LLM을 비롯한 AI의 발전을 보면서 컬처 시리즈를 많이 떠올리곤 했었습니다. 여기에서 이야기하는 발전상도 약간 컬처를 떠올리게 하는 면이 있습니다. 물론 무한대의 에너지를 인류가 확보하는 것은 어려울 테고, 컬처 수준의 AI의 등장도 지금 당장은 아니겠지만, 어쨌든 강력한 AI의 등장만으로도 세상은 뭔가 컬처와 비슷하게 될 지도 모르겠습니다.
고약상자님의 댓글
의학분야 연구에서 AI는 이미 빠르게 도입되고 있으며, 일상적인 연구에 적용되고 있습니다. 아마 점점 더 빠르고 강력하게 연구에 사용되기 시작할 것이고, 아주 가까운 시일 내로 엄청난 결과물들이 쏟아져 나올 것으로 예상하고 있습니다. 아무리 늦어도 5년 이내가 될 것으로 생각합니다.
30 랜덤 럭키포인트 당첨을 축하드립니다.
rendezvous님의 댓글
좋은 의도를 가진 사람들만 쓰면 좋겠지만 역사를 보면 결국 독재자, 테러/범죄집단, 기타 이런저런 이익을 얻고자 하는데서 악용하는게 걱정입니다.
10 랜덤 럭키포인트 당첨을 축하드립니다.
긴급휴무님의 댓글
'평화와 거버넌스' 부분에서 말하고 있는 내용이 가능할까요? 민주주의 진영의 AI가 우위에 서면 가능하다는데... '제1차 세계 AI 전쟁'이 벌어질것 같네요.
나는지구인이다님의 댓글
잘 운영이 되면 인류 문명에 크게 기여할 거는 확실하겠네요.
84 랜덤 럭키포인트 당첨을 축하드립니다.
파이프스코티님의 댓글
위와같이 되기만 힌다면이야~~
굉장히 고무적이네요.