Claude 제작사 CEO 다리오 아모데이 인터뷰 요약

알림

가사라 112.♡.211.243

2024.11.15 10:49

558

렉스 프리드먼 유튜브 채널에 Claude 를 만든 Anthropic 의 CEO 다리오 아모데이와 나눈 대담이 올라왔네요.

최근 블로그에 Machines of Loving Grace 라는 제목으로 올린 글을 계기로 대담하게 된 거 같습니다.

AI 의 최전선에서 LLM 을 만들고 있는 CEO 의 생각을 들어보는건 유익하겠다 싶어서 Google AI Studio 로 요약해봤고요.

블로그 내용도 뒤이어서 요약했습니다.

그 전에 인간들이 AI 로 인해 직업을 잃게 되는 상황에 대해 조금 더 자세한 내용을 질의했더니 다음과 같이 답변해주네요.

이 분은 2026년부터는 프로그래밍이라는 직업 자체가 지금보다는 휠씬 적은 수의 전문가집단처럼 될 거라고 예측하는 것 같고 저도 매우 공감하는 바입니다.

그리고 그 전망은 시기의 차이만 있을 뿐이지 다른 모든 영역에도 해당된다고 할 수 있겠죠.

요약에도 나오지만 인간은 AI 로 인해 폭증하는 생산성을 인류가 최대한 공정하게 나누는 정치질서를 새로 개발해야 하는 전혀 색다른 과제에 직면한거 같기도 합니다.

렉스 프리드먼 팟캐스트: 다리오 아모데이 요약

LLM의 스케일링 법칙: 다리오는 10년 전 음성 인식 시스템 연구 시절부터 데이터, 모델 크기, 훈련 시간 증가에 따라 모델 성능이 향상되는 것을 관찰했다. 2017년 GPT-1 결과를 보고 언어 모델 스케일링 가능성 확신. 스케일링은 네트워크 크기, 데이터, 컴퓨팅 파워의 선형적 증가를 포함. 모델이 커질수록 더 복잡한 패턴을 포착하고, 언어의 진화적 특성상 복잡한 패턴의 롱테일 분포가 존재하기 때문에 더 나은 성능을 보인다고 추측.

LLM 스케일링의 한계: 인간 수준 이하의 한계는 없을 것으로 예상하지만, 특정 영역에서는 한계가 있을 수 있음. 데이터 부족, 모델 개선 정체, 새로운 아키텍처 또는 최적화 방법의 필요성 등이 한계의 원인. 컴퓨팅 파워의 한계도 존재하지만, 현재 컴퓨팅 클러스터 규모는 계속 증가 추세. 모델 능력은 현재 박사 수준에 도달했고, 2026년 또는 2027년까지 인간 수준에 도달할 것으로 예상.

OpenAI, Google, xAI, Meta와의 경쟁: Anthropic의 목표는 AI 안전을 위한 모범 사례를 설정하여 업계 전체의 발전을 유도하는 것. 기계적 해석성 연구가 그 예시. 경쟁에서 이기는 것보다 AI 생태계 개선이 중요.

Claude: Claude는 Opus, Sonnet, Haiku 세 가지 크기로 출시. Haiku는 빠르고 저렴한 소형 모델, Sonnet은 중형 모델, Opus는 가장 크고 강력한 모델. 각 세대 모델은 성능과 기능 향상. Claude 3.5 Sonnet은 이전 Opus 3보다 우수한 성능 보임. Opus 3.5 출시 예정. 모델 버전 관리 및 명명 체계는 현재 업계의 과제.

Claude 비판: Claude 성능 저하에 대한 사용자 불만은 다른 기초 모델에서도 나타나는 현상. 모델 가중치 변경 없이 시스템 프롬프트 변경 또는 A/B 테스트가 원인일 수 있음. 모델의 복잡성과 사용자 상호 작용 방식의 미묘한 변화도 영향.

AI 안전 수준: Anthropic은 AI의 오용 및 자율성 위험을 해결하기 위해 '책임 있는 스케일링 정책(RSP)'과 'AI 안전 수준 표준(ASL)'을 개발. ASL 1은 위험이 없는 시스템, ASL 2는 현재 AI 시스템, ASL 3는 비국가 행위자의 능력을 향상시킬 수 있는 시스템, ASL 4는 국가 행위자의 능력을 향상시키거나 주요 위험 원인이 될 수 있는 시스템, ASL 5는 인간을 능가하는 시스템. RSP는 모델의 위험 수준에 따라 안전 및 보안 요구 사항을 부과하는 'if-then' 구조를 사용. ASL 3는 내년에 도달할 것으로 예상.

컴퓨터 사용: Claude는 컴퓨터 화면 스크린샷을 분석하고 클릭 위치 또는 키 입력을 제안하여 컴퓨터를 사용 가능. 이 기능은 모델의 일반화 능력을 보여주는 사례. 현재는 실수 가능성이 있지만, 향후 안정성 향상 예상. 프롬프트 주입과 같은 새로운 공격 가능성도 고려해야 함.

정부의 AI 규제: 다리오는 AI 안전을 위해서는 규제가 필요하다고 주장. SB 1047과 같은 법안은 긍정적 측면도 있지만, 혁신을 저해할 수 있는 단점도 존재. 위험을 효과적으로 해결하는 동시에 혁신을 저해하지 않는 외과적이고 표적화된 규제 필요.

훌륭한 팀 구성: 다리오는 인재 밀도가 인재 규모보다 중요하다고 강조. 훌륭한 AI 연구원 및 엔지니어의 가장 중요한 자질은 열린 마음. 젊은 AI 연구자에게는 모델을 직접 사용해보고 새로운 아이디어를 탐구하라는 조언.

사후 훈련: Anthropic의 Claude는 지도 미세 조정, RLHF, 헌법적 AI, 합성 데이터 등 다양한 사후 훈련 기법을 사용. RLHF는 모델을 더 똑똑하게 만드는 것이 아니라 인간과 모델 사이의 간극을 메우는 역할. 현재는 사전 훈련이 가장 비용이 많이 들지만, 향후에는 사후 훈련 비용이 더 커질 수 있음.

헌법적 AI: AI 시스템 자체가 헌법이라는 원칙 문서를 기반으로 응답을 평가하고 개선하는 방식. 인간의 피드백 필요성 감소 및 데이터 효율 증대. 헌법의 원칙은 인간과 AI 모두 이해 가능해야 함.

"Machines of Loving Grace": 다리오의 에세이는 강력한 AI의 긍정적 영향과 미래 모습 제시. AI는 생물학, 화학 등 다양한 분야에서 혁신을 가속화하고 암 치료, 전염병 예방, 인간 수명 연장 등에 기여할 수 있음. AI의 위험성도 인지하고 있지만, 긍정적 미래를 위해 노력하는 것이 중요.

삶의 의미: 강력한 AI 시대에 인간은 새로운 의미를 찾아야 함. 경제 및 권력 집중과 같은 문제 해결, AI 기술의 혜택을 모두에게 분배하는 것이 중요.

프로그래밍: AI는 프로그래밍 분야에서 빠르게 발전하고 있으며, 2026년 또는 2027년에는 코더의 대부분 작업을 수행할 수 있을 것으로 예상. 하지만 인간은 고급 시스템 설계, UX 디자인 등에서 비교 우위를 유지하고 생산성 향상을 위해 새로운 작업을 창출할 것. 강력한 IDE 개발은 프로그래밍 경험 향상에 큰 기회.

출처 분석 브리핑 문서: Dario Amodei의 "Machines of Loving Grace"

주요 주제: 강력한 인공지능(AI)의 긍정적 잠재력과 그러한 미래를 향한 낙관적인 전망

핵심 아이디어:

Amodei는 강력한 AI의 위험성에 대한 논의가 중요하지만, 그 잠재적 이점을 간과해서는 안 된다고 주장합니다. 그는 AI가 인류에게 긍정적인 영향을 미칠 수 있다는 믿음을 가지고 있으며, 특히 5가지 영역에 주목합니다.

생물학 및 신체 건강
신경과학 및 정신 건강
경제 개발 및 빈곤
평화 및 거버넌스
일과 의미

Amodei는 "압축된 21세기"라는 개념을 제시하며, 강력한 AI가 등장하면 인류가 한 세기에 걸쳐 이룰 과학적 진보를 단 5-10년 안에 달성할 수 있을 것이라고 예측합니다.
그는 AI가 과학 연구 과정 전체를 가속화하여 생물학 및 신경과학 분야의 혁신을 이끌어 낼 수 있다고 강조합니다. 이는 단순히 데이터 분석 도구로서의 AI가 아닌, 인간 과학자들이 수행하는 거의 모든 작업을 수행하고, 지시하고, 개선할 수 있는 "가상 과학자"로서의 AI를 의미합니다.
AI는 질병 치료, 인간 수명 연장, 정신 건강 개선, 빈곤 완화, 기후 변화 완화, 정치 및 거버넌스 시스템 개선 등 다양한 분야에서 긍정적인 역할을 할 수 있습니다.
Amodei는 AI가 민주주의와 평화를 증진하는 데 사용될 수 있지만, 이러한 결과는 보장된 것이 아니며 인간의 노력과 의지에 달려 있다고 강조합니다.
그는 AI 발전으로 인해 일자리 감소와 같은 경제적 문제가 발생할 수 있지만, 인류는 역사적으로 그러한 도전을 극복해 왔으며 AI 시대에도 새로운 경제 모델을 찾을 수 있을 것이라고 믿습니다.
Amodei는 인류가 AI를 활용하여 더 나은 미래를 만들어갈 수 있다는 낙관적인 견해를 제시하며, 이러한 비전을 실현하기 위해서는 위험을 예방하고 이점을 극대화하기 위한 공동의 노력이 필요하다고 강조합니다.

주요 인용구:

"저는 대부분의 사람들이 강력한 AI의 위험성을 과소평가하고 있다고 생각하는 것처럼, 그 긍정적인 면 또한 과소평가하고 있다고 생각합니다."
"강력한 AI가 개발된 후, 우리는 몇 년 안에 21세기 전체에 걸쳐 이루었을 생물학 및 의학 분야의 모든 진보를 이룰 수 있을 것입니다."
"저는 AI를 단순히 데이터를 분석하는 도구로만 생각하는 것이 아니라, 생물학자들이 하는 거의 모든 것을 수행하고 지시하고 개선하는 데 사용하는 것에 대해 이야기하고 있습니다."
"AI가 지원하는 생물학 및 의학은 인간 생물학자들이 향후 50-100년 동안 이루었을 진보를 5-10년으로 단축할 수 있을 것이라고 예측합니다."
"우리가 AI를 올바르게 설계하고 구축한다면, 적어도 전 세계의 자유 옹호자들이 유리한 위치에 서는 싸움이 될 수 있습니다."
"우리에게는 AI를 현실로 만드는 데 작은 역할을 할 기회가 있습니다."

결론:

Amodei의 글은 강력한 AI의 잠재력에 대한 흥미로운 비전을 제시합니다. 그는 AI가 인류가 직면한 많은 문제에 대한 해결책을 제공할 수 있다고 믿지만, 동시에 이러한 긍정적인 결과를 달성하기 위해서는 신중한 계획, 협력 및 윤리적 고려가 필수적임을 강조합니다. 그의 에세이는 AI의 미래와 인류에 미칠 영향에 대한 중요한 질문을 제기하며, 더 깊은 논의와 성찰을 촉구합니다.