마지막 몇 분 동안, 조금 더 도발적인 이야기를 해보겠습니다. ( 데미스 하사비스의 Accelerating scientific discovery with AI )
알림
|
페이지 정보
작성일
2024.11.20 17:18
본문
데미스 하사비스의 Accelerating scientific discovery with AI
마지막 몇 분 동안, 조금 더 도발적인 이야기를 해보겠습니다. 물론, 양자 컴퓨팅 동료들에게는 큰 존경을 표하며 말씀드립니다. 저는 AlphaGo를 만든 이후로 우리가 무엇을 하고 있는지, 그리고 고전적인 시스템의 한계가 무엇인지 오랫동안 고민해 왔습니다.
고전적인 튜링 머신이 우리가 이전에 생각했던 것보다 훨씬 더 많은 것을 할 수 있다는 점은 분명합니다. 저는 우리가 튜링 머신이 할 수 있는 일의 한계를 밀어붙이고 있는 ‘튜링의 챔피언’처럼 느껴집니다.
양자 컴퓨팅 연구자들이 고전 컴퓨팅을 바라보는 시각 중, 일부는 여전히 단순한 무차별 대입 방식으로 양자 시스템을 시뮬레이션해야 한다는 다소 오래된 견해를 가지고 있다고 생각합니다. 그러나 저는 더 우아한 방법으로, 즉 기본적인 구조를 모델링하여 문제를 해결할 수 있다고 봅니다.
물론 기본적인 구조가 전혀 없는 상황이라면 모든 상태를 열거하는 방법 외에 대안이 없겠지만, 제 추측으로는 자연 시스템, 혹은 자연에서 발생하는 대부분의 패턴은 기본적인 구조를 가지고 있으며, 이는 고전 알고리즘으로도 효율적으로 발견하고 모델링할 수 있습니다.
만약 이 추측이 맞다면, 이는 복잡도 이론, 특히 P=NP 문제와 같은 문제뿐만 아니라 정보와 엔트로피의 정의와 같은 물리학의 근본적인 이슈에도 큰 영향을 미칠 수 있습니다.
복잡도 이론에서 종종 간과되는 점 중 하나는, 테스트 시간 전에 대규모의 사전 계산을 수행하는 아이디어입니다. 이것이 바로 우리가 뉴럴 네트워크 모델에서 하고 있는 일입니다.
즉, 우리는 모델을 훈련시키는 데 엄청난 양의 사전 계산을 수행한 다음, 매우 효율적으로 테스트 시간에 새로운 질문에 답변하도록 모델을 사용하는 것입니다.
이 접근 방식은 전통적인 컴퓨팅 시스템에서 문제로 여겨졌던 몇 가지 한계를 극복할 수 있게 해줍니다.
마지막으로, 책임감에 관한 이야기를 하며 마무리하겠습니다. 어제 논의에서도 언급했듯이, AI는 의학이나 기후와 같은 인류의 가장 큰 도전 과제를 해결할 수 있는 놀라운 잠재력을 가지고 있습니다.
하지만 반드시 책임감 있고 안전하게 구축되어야 하며, 모두를 위한 혜택으로 사용되어야 합니다. 저는 AI와 관련해 "빠르게 움직이며 부수기" 방식으로 접근해서는 안 된다고 생각합니다.
AI는 너무 중요하고, 너무 심오한 기술이기 때문입니다. 대신, 우리는 과학적 방법론에 강하게 의존해야 합니다.
AGI와 같은 변혁적인 기술은 예외적인 주의가 필요하며, 그 가능성에 대해 거의 경외심을 가져야 한다고 생각합니다. 그러나 동시에 우리는 이러한 기술이 가져다줄 수 있는 혜택을 최대한 누리기 위해 대담해야 합니다. 이는 우리가 사회의 가장 큰 도전 과제를 해결하는 데 절실히 필요한 혜택들입니다.
따라서 제 결론은, 우리는 대담하면서도 책임감 있게 행동해야 한다는 것입니다.
마지막으로, 제 오랜 꿈은 AGI를 구축하여 그것이 궁극적인 범용 도구가 되어 우리가 우주를 이해할 수 있도록 돕는 것입니다.
감사합니다.
What are the limits of classic systems?
• Classical Turing Machines can do much more than we previously thought
• Do a massive amount of pre-compute upfront to develop an accurate model
• Use the model to efficiently explore a solution space in polynomial time
Proposed Conjecture: "Any pattern that can be generated in nature can be efficiently discovered and modelled by a classical learning algorithm"
• Potentially has big implications for complexity theory including P=NP, and maybe even fundamental physics!
- Demis Hassabis
----
늘 하던 이야기의 후반부에 못 봤던 내용이 있어서 그 부분을 먼저 옮겨 봤습니다. 영상은 댓글의 링크로 있습니다.
이하 전문 번역입니다.
----
매우 감사드립니다. 이 자리에 설 수 있어 정말 영광이고 기쁩니다. 오늘 제가 얼마나 많은 내용을 다룰 수 있을지 보겠습니다. 발표 마지막에 양자와 AI가 어떻게 관련될 수 있는지에 대한 논란의 여지가 있는 슬라이드 하나를 추가했는데, 시간이 된다면 다룰 예정입니다. 오늘 제 발표는 AI를 활용한 과학적 발견의 가속화에 관한 것입니다.
딥마인드는 2010년에 설립되었으며, 우리는 '아폴로 프로그램'에 비유할 수 있는 인공지능 일반화(Artificial General Intelligence, AGI)를 구축하기 위한 노력을 하고 있습니다. AGI란 인간의 모든 인지적 능력을 보여주는 범용 AI 시스템을 의미하며, 이는 AI 연구에서 굉장히 중요한 이정표가 될 것입니다.
딥마인드, 이제는 구글 딥마인드의 사명은 모든 인류의 이익을 위해 책임감 있게 AI를 구축하는 것입니다. 우리는 게임에서 시작했습니다. 많은 분이 아시다시피, 우리의 첫 주요 성과는 2015년과 2016년에 이루어진 알파고(AlphaGo) 프로그램으로, 이는 셀프 러닝 과정을 통해 바둑 게임을 정복한 학습 시스템이었습니다. 이는 오늘날 우리가 보는 현대 AI 작업에 많은 영감을 주었습니다.
그렇다면 바둑이 왜 그렇게 중요한가요? 물론 대부분의 분들이 아시겠지만, 1990년대 체스에서 딥 블루(Deep Blue)가 가리 카스파로프를 이겼습니다. 그러나 바둑이 정복되기까지는 20년이 더 걸렸습니다. 이는 바둑이 체스보다 훨씬 더 복잡한 게임이기 때문입니다. 그 복잡성의 한 가지 지표는 바둑의 가능한 포지션이 10의 170승으로, 이는 우주에 있는 원자 수보다 훨씬 많다는 것입니다.
따라서 특정 게임 상황에서 최적의 움직임을 결정하기 위해 모든 가능성을 열거하는 것은 불가능했습니다. 사실, 바둑이 워낙 복잡해서 최소 10년 이상, 심지어 프로페셔널 수준에서 세계 챔피언을 이길 프로그램이 등장하려면 더 오랜 시간이 걸릴 것이라고 여겨졌습니다.
하지만 2016년에 우리는 한국 서울에서 1백만 달러 상금을 걸고 열린 유명한 도전 매치를 통해 이를 증명했습니다. 이 경기는 전 세계 2억 명 이상의 사람들이 시청했으며, 알파고는 4대 1로 승리했습니다. 알파고는 경기에서 승리했을 뿐만 아니라 새로운 창의적인 움직임과 전략을 만들어냈습니다. 이는 인간이 3000년 이상, 그리고 수백 년간 전문적으로 바둑을 연구했음에도 이전에 본 적이 없었던 것들이었습니다.
그 중 유명한 사례가 2차전에서 알파고가 만든 37번째 움직임입니다. 이 움직임은 알파고가 승리를 가져오게 했습니다.
이제 알파고가 어떻게 작동했는지 간략히 설명드리겠습니다. 이는 오늘날 AI 최첨단 기술의 미래를 논할 때 중요할 것입니다. 그리고 이런 아이디어들 중 일부는 현재 다시 중요성을 얻고 있습니다.
알파고와 그 후속 버전인 알파제로(AlphaZero)를 훈련시킨 방법은, 무작위로 초기화된 뉴럴 네트워크에서 시작해, 이 시스템이 스스로 10만 번의 게임을 플레이하게 하는 것이었습니다. 이를 통해 첫 번째 버전의 시스템 데이터를 생성했습니다.
이 데이터를 사용하여 두 번째 버전의 시스템을 훈련했는데, 이 시스템은 특정 상황이나 위치에서 첫 번째 버전이 어떤 움직임을 할 가능성이 높은지 예측하고, 게임 끝에 어느 쪽이 승리할 확률이 높은지를 계산하는 것이 목적이었습니다.
따라서 이러한 두 가지를 예측할 수 있다면, 거대한 검색 공간을 효율적으로 축소하여 제한된 시간 내에 처리 가능한 범위로 만들 수 있습니다. 이렇게 해서 두 번째 버전을 훈련시키고, 첫 번째 버전과의 100번의 게임 대결을 통해 성능을 비교했습니다. 두 번째 버전이 첫 번째 버전을 통계적으로 유의미한 수준, 즉 55% 이상의 승률로 이긴다면, 이후 데이터 생성은 두 번째 버전으로 대체됩니다.
이 과정에서 첫 번째 버전을 두 번째 버전으로 교체한 뒤, 새 데이터를 생성하기 위해 다시 10만 번의 셀프 플레이 게임을 진행합니다. 이제 이 게임들의 품질은 첫 번째 버전의 데이터보다 약간 더 나아졌습니다. 그런 다음, 두 번째 버전의 데이터를 기반으로 세 번째 버전을 훈련시킵니다.
이 과정을 17번 반복하면, 무작위 상태에서 시작해 역사상 어떤 인간이나 기계보다 더 강력한 바둑 플레이어로 발전할 수 있습니다. 그리고 이 모든 것이 현대 컴퓨터로는 8시간 이내에 가능하며, 실시간으로 그 진화를 지켜볼 수 있습니다.
물론 새로운 버전이 이전 버전을 이기지 못하면, 기존 버전으로 다시 10만 번의 게임을 플레이하며 데이터베이스를 확장합니다. 그러면 20만 번의 게임 데이터로 새로운 버전을 훈련할 수 있게 됩니다.
이 시스템은 매우 강력한 셀프 러닝 시스템입니다. 이를 통해 바둑 모델의 검색 트리를 상상해보면, 트리의 각 노드는 특정 바둑 게임의 위치를 나타냅니다. 여러분이 트리의 최상단, 즉 현재 위치에 있다고 가정했을 때, 이 위치에서 가능한 경우의 수는 거의 다루기 어려울 정도로 많습니다. 그러나 주어진 시간 안에 트리의 작은 부분(예: 파란색 가지들)만 탐색해야 합니다.
결국, 예를 들어 1분의 계산 시간을 다 소모했을 때, 가장 가능성이 높은 최적의 다음 움직임(여기서 분홍색으로 표시된)을 출력해야 합니다. 이 시스템은 모델을 사용해 효율적으로 검색 과정을 안내합니다.
초기 단계에서 딥마인드는 이런 알고리즘적 아이디어를 증명하기 위해 게임을 일종의 시험 무대로 활용했습니다. 게임은 알고리즘의 진전을 빠르고 효율적으로 측정할 수 있는 완벽한 시험대입니다. 게임에서 진보를 확인하기는 매우 쉽습니다. 명확한 승리 조건이나 점수 등의 메트릭이 있기 때문입니다.
하지만 게임은 수단일 뿐, 그것이 목적은 아니었습니다. 우리의 목표는 게임뿐 아니라 실세계 문제에도 적용할 수 있는 범용 알고리즘을 개발하는 것이었습니다. 우리는 간단한 아타리(Atari) 게임부터 가장 복잡한 실시간 전략 게임에 이르기까지 다양한 게임에서 중요한 성과를 달성했습니다. 알파제로 같은 프로그램은 바둑이나 체스뿐만 아니라 모든 2인 완전정보 게임에서 세계 챔피언 수준을 넘어설 수 있었습니다.
이러한 돌파구를 이루고 나서, 2016년과 2017년쯤부터는 게임에서 배운 기술을 사용하여 더 심각한 문제로 관심을 돌리기 시작했습니다.
이는 제가 평생 AI를 연구한 이유이기도 하며, AI를 도구로 활용해 과학적 발견 자체를 가속화하는 것이 저의 열정입니다.
그렇다면 어떤 문제가 이러한 방법에 적합한지 어떻게 판단할까요? 일반적으로 세 가지 기준을 봅니다.
첫째, 문제를 대규모 조합 검색 공간이나 해결 공간을 탐색하는 문제로 묘사할 수 있는가입니다. 이는 이러한 방법에 적합합니다.
둘째, 명확한 목적 함수나 최적화할 메트릭이 있는가입니다. 이는 탐색 과정을 유도하고 개선할 수 있도록 도와줍니다.
셋째, 학습 모델에 사용할 많은 데이터가 있거나, 이상적으로는 올바른 분포에서 더 많은 합성 데이터를 생성할 수 있는 정확하고 효율적인 시뮬레이터가 있어야 합니다.
흥미롭게도 과학의 많은 문제들이 이러한 방식으로 재구성될 수 있습니다.
제가 첫 번째로 선택한 문제는 단백질 접힘 문제(protein folding problem)였습니다. 이는 제가 20년 이상 고민해 온 문제이기도 합니다. 이 문제는 생물학 분야에서의 유명한 그랜드 챌린지로, 단백질의 아미노산 서열만으로 단백질의 3D 구조를 예측하는 것입니다.
생물학자 분들은 이 문제를 잘 아시겠지만, 익숙하지 않으신 분들을 위해 설명하자면, 왼쪽의 아미노산 서열을 보면 대략적으로 단백질의 유전적 서열로 생각할 수 있습니다. 여기에서 몸 안에서 단백질이 실제로 가지는 정교한 3D 구조(오른쪽)를 예측하는 것이 목표입니다.
단백질의 3D 구조는 그 기능에 대해 많은 것을 알려줍니다. 물론 구조만이 단백질의 기능을 설명하는 유일한 요소는 아니지만, 중요한 정보를 제공합니다.
이 문제를 해결할 수 있다면 약물 개발이나 생물학적 메커니즘에 대한 근본적인 이해에 큰 도움이 될 것입니다.
2020년에 우리는 이 문제에 대한 해답으로 인정받는 AlphaFold 2를 개발했습니다. 이는 계산 생물학 분야의 오랜 난제를 해결한 것으로 평가되었습니다.
AlphaFold 2는 대부분의 단백질에서 평균 오차가 1 앙스트롬(Angstrom) 이하로 예측 정확도를 달성했습니다. 이는 실험적 오차 수준과 경쟁할 수 있어야 유용하다는 생물학자들의 기준을 충족시킨 것입니다.
이 시스템은 매우 정확할 뿐만 아니라 놀라울 정도로 빠릅니다. 우리는 1년 내에 현재 과학적으로 알려진 약 2억 개의 단백질을 접히는 데 성공했으며, 매년 새로 발견되는 유전적 서열에 따라 새 단백질들을 계속 접히고 있습니다.
이 모든 데이터는 오픈 소스 데이터베이스로 제공되며, 누구나 무료로 이용할 수 있습니다. 이는 유럽의 EMBL-EBI와 협력하여 관리되고 있으며, 현재까지 전 세계 200만 명 이상의 생물학자와 의학자들이 이 데이터를 활용했습니다. 또한 25,000회 이상의 인용이 이루어졌습니다.
AlphaFold 2의 예측과 기반 모델은 구조 생물학 분야에서 엄청난 영향을 미쳤습니다. 저희는 직접 몇 가지 프로젝트에서도 협력했으며, 화면에 몇 가지 예를 나열해 두었습니다.
특히 자랑스러운 것은 WHO 산하의 DNDi와 협력하여 소외 질병에 관한 연구를 진행한 것입니다. 이는 전 세계 남반구와 같은 저소득 지역에서 발생하는 소외된 질병을 대상으로 합니다. 우리는 바이러스나 박테리아 내 단백질의 구조를 제공하여 약물 개발 과정을 가속화할 수 있도록 돕습니다. 이는 대형 제약회사가 투자하지 않는 질병이나 분야에 초점을 맞추어 매우 보람 있는 작업이었습니다.
과학자들이 AlphaFold의 예측과 모델을 다양한 방식으로 활용하는 것을 보는 것도 인상적이었습니다. 현재도 이 시스템들은 계속 발전하고 있습니다.
우리는 올해 초 AlphaFold 3를 출시했으며, 생물학이 정적인 시스템이 아니라는 점을 이해하고 있습니다. AlphaFold 2는 단백질 구조의 정적인 스냅샷을 제공했지만, 생물학은 동적인 시스템으로, 분자들이 서로 어떻게 상호작용하는지가 중요합니다.
AlphaFold 3는 단백질 간 상호작용뿐만 아니라 단백질과 소분자(예: 약물 분자), 단백질과 RNA, 단백질과 DNA 간의 상호작용까지 예측할 수 있는 새로운 단계를 시작했습니다.
이러한 발전은 향후 10년 내에 가상 세포를 시뮬레이션하거나 예측할 수 있는 시스템으로 이어질 가능성을 열어줍니다. AlphaFold 3는 그 첫걸음으로, 생물학적 상호작용을 보다 깊이 이해할 수 있도록 돕고 있습니다.
우리는 생물학에 국한되지 않고, 과학과 수학 전반에 걸쳐 다양한 작업을 수행해 왔습니다. 또한 의료 분야에서도 망막 스캔을 통해 망막 질환을 진단하는 시스템과 같은 혁신적인 연구를 진행했습니다.
기후 변화와 관련해서도 중요한 연구를 진행하고 있습니다. 예를 들어, EPFL과 협력하여 핵융합 반응로에서 플라즈마를 안정화하는 연구를 했으며, 기상 예측에서도 중요한 성과를 냈습니다. 우리는 Navier-Stokes 방법을 사용하는 전통적인 시스템보다 훨씬 빠르고 정확하게 10일치 기상 예측을 제공하는 GraphCast라는 최첨단 기상 예측 시스템을 개발했습니다.
또한 새로운 속성을 가진 신소재를 설계하고, 그 속성을 사전에 예측하는 작업도 진행 중입니다.
이 모든 것이 AI를 활용한 과학 연구의 일부입니다.
과학 연구 외에도, AGI로 가는 길과 창의성 및 생산성을 위한 도구 개발에도 많은 노력을 기울이고 있습니다.
물론 여러분은 생성형 AI 모델을 익히 알고 계실 것입니다. 우리는 이미지 생성, 비디오 생성, 음악 생성 등 다양한 생성형 AI 분야에서 최첨단 모델을 보유하고 있습니다. 텍스트 프롬프트만으로 현실적인 그림, 동영상, 음악 등을 생성할 수 있다는 점은 지금은 익숙해졌지만, 5~10년 전만 해도 상상하기 어려웠던 일입니다.
현재는 많은 관심이 멀티모달 기반의 기초 모델(multimodal foundational models)에 집중되고 있습니다. 이들은 단순히 대형 언어 모델보다 더 일반적이며, 텍스트뿐만 아니라 이미지, 오디오, 비디오, 코드 등 다양한 모달리티를 함께 처리할 수 있습니다.
우리가 개발한 Gemini 프로그램은 이러한 차세대 모델 중 하나로, 높은 수준의 성능을 자랑합니다. Gemini는 사람들이 상호작용하는 다양한 모달리티를 통합해 전체적인 맥락을 이해하고, 실질적으로 유용한 AI 시스템을 제공하는 것을 목표로 하고 있습니다.
올해 우리는 Project Astra라는 프로토타입을 시작했는데, 이는 일상생활에서 도움을 줄 수 있는 범용 AI 비서의 개념입니다. 이 AI 비서는 추천 작업이나 번거로운 행정 업무를 처리하고, 심지어 과학 분야에서는 연구 조수로도 활용될 수 있습니다.
청크 10:
Project Astra의 초기 프로토타입을 보여주는 2분짜리 동영상을 준비했습니다. 이 시스템은 Gemini를 기반으로 하며, 실제 세계에서 어떤 능력을 발휘할 수 있는지 간단히 데모 형태로 보여줍니다.
Speaker B
"자, 몇 가지 테스트를 해볼게요. 소리를 내는 것을 보면 알려주세요."
Speaker C
"스피커가 보입니다. 스피커는 소리를 냅니다."
Speaker B
"스피커의 이 부분을 뭐라고 부르죠?"
Speaker C
"트위터라고 합니다. 고주파 소리를 생성합니다."
Speaker B
"이것들에 대한 창의적인 두운(alliteration)을 만들어볼래요?"
Speaker C
"창의적인 크레용은 환하게 색칠해요. 확실히 다채로운 창작물을 만드네요."
Speaker B
"이 코드의 역할은 무엇인가요?"
Speaker C
"이 코드는 암호화 및 복호화 기능을 정의합니다. AES-CBC 암호화를 사용하여 키와 초기화 벡터를 기반으로 데이터를 인코딩하고 디코딩하는 것 같습니다."
Speaker A
"맞습니다."
Speaker B
"내가 어느 동네에 있을 것 같나요?"
Speaker C
"여기는 런던의 킹스 크로스(King’s Cross) 지역으로 보입니다. 이곳은 철도역과 교통 연결로 유명합니다."
Speaker B
"내 안경을 어디에서 봤는지 기억나요?"
Speaker C
"네, 기억납니다. 당신의 안경은 빨간 사과 근처 책상 위에 있었습니다."
Speaker B
"이 시스템을 더 빠르게 만들려면 여기에서 무엇을 추가해야 할까요?"
Speaker C
"서버와 데이터베이스 사이에 캐시를 추가하면 속도가 개선될 수 있습니다."
Speaker B
"이것이 무엇을 떠올리게 하나요?"
Speaker C
"슈뢰딩거의 고양이요."
Speaker B
"좋아, 이 듀오를 위한 밴드 이름을 하나 지어줘요."
Speaker C
"골든 스트라이프(Golden Stripes)."
Speaker B
"멋지네요. 고마워요, Gemini."
Speaker A
보시다시피, 여러분의 맥락을 완전히 이해하는 비서가 어떻게 도움을 줄 수 있을지의 시작을 보여줍니다. 지금은 아직 초기 단계이지만, 이런 시스템이 미래에는 일상생활에서 널리 사용될 수 있을 것입니다.
미래에는 이러한 시스템이 안경이나 다른 형태의 장치로 구현되어 일상에서 함께 사용할 수 있게 될 것입니다.
그렇다면 앞으로 무슨 일이 일어날까요? 앞으로 1~2년 내에 우리가 목격하게 될 큰 돌파구는 우리가 ‘에이전트 기반 시스템(agent-based systems)’이라고 부르는 것일 것입니다.
이 시스템들은 단순히 질문에 답하거나 수동적으로 반응하는 것을 넘어, 실제로 세상에서 어떤 일을 능동적으로 수행할 수 있는 시스템입니다.
예를 들어, 계획을 세우고 추론하며, 세상에서 행동하고 특정 목표를 해결하거나 작업을 수행할 수 있는 시스템을 의미합니다.
여기에서 필요한 것은 앞서 설명한 알파고 시스템과 현재의 Gemini 모델을 결합하는 것입니다. 우리가 작업 중인 것은 이러한 계획 시스템과 언어 및 멀티모달 모델의 강점을 결합하는 것입니다.
즉, 게임 모델에서 계획하는 대신, 언어와 멀티모달 모델을 활용해 현실 세계에서 계획을 세우는 시스템을 만드는 것입니다.
마지막 몇 분 동안, 조금 더 도발적인 이야기를 해보겠습니다. 물론, 양자 컴퓨팅 동료들에게는 큰 존경을 표하며 말씀드립니다. 저는 AlphaGo를 만든 이후로 우리가 무엇을 하고 있는지, 그리고 고전적인 시스템의 한계가 무엇인지 오랫동안 고민해 왔습니다.
고전적인 튜링 머신이 우리가 이전에 생각했던 것보다 훨씬 더 많은 것을 할 수 있다는 점은 분명합니다. 저는 우리가 튜링 머신이 할 수 있는 일의 한계를 밀어붙이고 있는 ‘튜링의 챔피언’처럼 느껴집니다.
양자 컴퓨팅 연구자들이 고전 컴퓨팅을 바라보는 시각 중, 일부는 여전히 단순한 무차별 대입 방식으로 양자 시스템을 시뮬레이션해야 한다는 다소 오래된 견해를 가지고 있다고 생각합니다. 그러나 저는 더 우아한 방법으로, 즉 기본적인 구조를 모델링하여 문제를 해결할 수 있다고 봅니다.
물론 기본적인 구조가 전혀 없는 상황이라면 모든 상태를 열거하는 방법 외에 대안이 없겠지만, 제 추측으로는 자연 시스템, 혹은 자연에서 발생하는 대부분의 패턴은 기본적인 구조를 가지고 있으며, 이는 고전 알고리즘으로도 효율적으로 발견하고 모델링할 수 있습니다.
만약 이 추측이 맞다면, 이는 복잡도 이론, 특히 P=NP 문제와 같은 문제뿐만 아니라 정보와 엔트로피의 정의와 같은 물리학의 근본적인 이슈에도 큰 영향을 미칠 수 있습니다.
복잡도 이론에서 종종 간과되는 점 중 하나는, 테스트 시간 전에 대규모의 사전 계산을 수행하는 아이디어입니다. 이것이 바로 우리가 뉴럴 네트워크 모델에서 하고 있는 일입니다.
즉, 우리는 모델을 훈련시키는 데 엄청난 양의 사전 계산을 수행한 다음, 매우 효율적으로 테스트 시간에 새로운 질문에 답변하도록 모델을 사용하는 것입니다.
이 접근 방식은 전통적인 컴퓨팅 시스템에서 문제로 여겨졌던 몇 가지 한계를 극복할 수 있게 해줍니다.
마지막으로, 책임감에 관한 이야기를 하며 마무리하겠습니다. 어제 논의에서도 언급했듯이, AI는 의학이나 기후와 같은 인류의 가장 큰 도전 과제를 해결할 수 있는 놀라운 잠재력을 가지고 있습니다.
하지만 반드시 책임감 있고 안전하게 구축되어야 하며, 모두를 위한 혜택으로 사용되어야 합니다. 저는 AI와 관련해 "빠르게 움직이며 부수기" 방식으로 접근해서는 안 된다고 생각합니다.
AI는 너무 중요하고, 너무 심오한 기술이기 때문입니다. 대신, 우리는 과학적 방법론에 강하게 의존해야 합니다.
AGI와 같은 변혁적인 기술은 예외적인 주의가 필요하며, 그 가능성에 대해 거의 경외심을 가져야 한다고 생각합니다. 그러나 동시에 우리는 이러한 기술이 가져다줄 수 있는 혜택을 최대한 누리기 위해 대담해야 합니다. 이는 우리가 사회의 가장 큰 도전 과제를 해결하는 데 절실히 필요한 혜택들입니다.
따라서 제 결론은, 우리는 대담하면서도 책임감 있게 행동해야 한다는 것입니다.
마지막으로, 제 오랜 꿈은 AGI를 구축하여 그것이 궁극적인 범용 도구가 되어 우리가 우주를 이해할 수 있도록 돕는 것입니다.
감사합니다.
----
* 관련 글 - 선형 표현 가설 (겉핥기: o1) (2024. 11. 18.): https://www.facebook.com/seungjoon.choi/posts/pfbid02s2xPECTriVomBh13iLqYqo5R5dhtM8Ye6FtLCeGwvvCTvK1D4ivMXJPRkB11PMfjl
* 관련 글 - 고원일까? 우회일까? 스케일링은 작동할까? (2024. 11. 11.): https://www.facebook.com/seungjoon.choi/posts/pfbid0KVuPkCWATappNBehY3aPZJ9z5DntrCvdYFutG39M5HRX3e3futNNxgJrcLLhWbRel
* 관련 글 - AGI를 향한 접근 - "실시간 A/B 테스트가 아니라 과학적 방법론을 쓰자" (2023. 3. 22.): https://www.facebook.com/seungjoon.choi/posts/pfbid02TzzACnbLn2DGHB5SJABTmK7gd8QxPhWc4aoreGbYD15qU1iHodykApLxBu9v4w55l
링크 참조 바랍니다
감사합니다.
댓글 2
/ 1 페이지
wind님의 댓글의 댓글
@RanomA님에게 답글
Winner of Nobel Prize in chemistry describes how his work could transform lives
https://www.youtube.com/watch?v=kwcgo-NgmAg
허사비스 "노벨상 수상은 평생의 영광...AI 잠재력 입증 첫 사례로 기억되길"
https://www.aitimes.com/news/articleView.html?idxno=164078
이런 인터뷰를 했네요...
https://www.youtube.com/watch?v=kwcgo-NgmAg
허사비스 "노벨상 수상은 평생의 영광...AI 잠재력 입증 첫 사례로 기억되길"
https://www.aitimes.com/news/articleView.html?idxno=164078
이런 인터뷰를 했네요...
RanomA님의 댓글