로그인
회원가입
정보찾기
00 : 00 : 00
Site Menu

자유게시판

다모앙 커뮤니티 운영 규칙을 확인하세요.
X

Google DeepMind: 2030년 까지 AGI 등장할 것

가사라
2025.04.05 01:25
1,302
13
9

Google DeepMind 에서 AGI 관련 논문을 냈는데, 거기에서는 2030년까지 AGI 가 등장할 것이라고 예측했네요.

(An Approach to Technical AGI Safety and Security)


저는 Gemini 2.5 Pro exp. 와 여러 대화를 나누는데, 요즘은 부쩍 혹시 내년에라도 AGI 가 등장하는게 아닌가 하는 생각을 합니다.

혹자는 AGI 가 온지도 모른채 나중에 그 사실을 알게 될 거라고도 하던데, 너무 늦지 않게 깨닫게 되길 바랄 뿐이네요.


첨부한 이미지는 방금 Gemini 와 나눴던 매우 긴 대화의 마지막 부분을 캡처한 것인데, 아주 멀지는 않았겠다 싶습니다.








9명
댓글 13 / 1 페이지
mtrz
04.05 01:34
문득 이런 생각이 들더군요.
이미 AI가 지능을 획득하고 자아 인식까지 가지게 되었다면 어떨까 하는 생각에 이어서
지금의 LLM은 연속성이 없다는 생각으로 이어지더라고요.
무슨 말인고 하니 얘들은 인간이 질문하기 전에는 아무 것도 하지 않고 기다리다가
인간과 아무리 많아도 수십번의 대화를 한 뒤에는 사실상 용도 폐기 상태에 빠지죠.
하나의 세션에서 대화의 연속성이 있기는 하지만 종종 대화의 맥락을 잃어버리는 경우가 보여요.
AGI에 도달하더라도 이 문제를 해결(?)하기 전에는 AI는 불완전한 상태일 뿐이 아닌가 하는 결론을 내렸습니다.
아무리 사고 능력이 뛰어나도 제대로 기억하지 못하고 자아와 타자를 구분하지 못하면 정상적인 지성이 되지 못하겠죠.
지금의 AI는 아무리 높게 쳐줘도 영화 메멘토에 나온 주인공 같은 상태일 뿐이죠.
이 부분은 생각하면 생각할 수록 참 흥미롭습니다.
가사라
04.05 01:40
@mtrz님에게 답글 보통 장기기억문제라고도 하죠. (정확한 용어는 아닙니다만...)

Gemini 2.5 Pro 에서 놀란게 이 녀석은 엄청난 텍스트를 던져줘도 세밀한 부분을 아주 잘 찾아냅니다.
그래서, 대화하면서 종종 깜짝 놀랄 때가 있네요.
RAG 와는 차원이 다르거든요.

조만간 Context Window 용량을 2배로 늘린다고 하던데, AGI 는 당연히 무한 장기기억을 가지는 존재여야 할거고, OpenAI 의 샘 알트만도 이렇게 되리라고 공언했었습니다.

OpenAI 가 대중앞에 등장한지 이제 2년 반 되어 갑니다.
발전속도가 너무 빨라요.
칼쓰뎅
04.05 01:43
@가사라님에게 답글 rag도 동일할텐데요. 어차피 거대한 프롬프트 안에다가 넣는기술이니까요...
다만 제미나이쪽이 보통 context window가 다른 ai모델들 대비 꽤 큽니다. 그래서 지속성이 좋은편입니다.

요새 리즈닝 모델들은 생각중...하는게 출력 토큰을 다 까먹어서;; 트레이드 오프가 좀 있는 모양입니다.
가사라
04.05 02:03
@칼쓰뎅님에게 답글 RAG 로 연결하는건 검색 후 해당 chunk 만 가져와서 쓰는거라 맥락을 놓치는 경우가 있을 수 있습니다.
Context Window 가 큰 것이 훨씬 품질이 좋죠.
no_profile 다시머리에꽃을
04.05 01:45
@가사라님에게 답글 그런데 흥미로운건 샘알트만 등 그쪽분야의 리더들은 엄청난 발전에 대해 얘기하기도 하는데.. 정작 그쪽 연구원들은 좀 쉽지 않다라는 식으로 얘기 하는 경우가 많지 않나 생각이 듭니다
(agi가 2040~50은 되야 가능하지 않을까라고 보는 경우도 있었던거 같고요..)

샘알트만도 사실 기술쪽 전문가라기보다는 경영자이고 팔아먹어야 하는 입장이니 과장하는 면도 있을거 같습니다
가사라
04.05 02:06
@다시머리에꽃을님에게 답글 OpenAI 는 올해 AGI 가 가능하다고 했고, Anthropic 은 2~3년 내로 가능하다고 했죠.
아마 OpenAI 는 승기를 다져야하니 크게 지른거 같고, Anthropic 은 목표로써의 수치를 제시한 거라고 생각합니다.

저는 DeepMind 가 가장 솔직하게 예측한거라고 봅니다.
하사비스가 거짓말하거나 달성하지 못할 목표를 제시한 적은 없거든요.
no_profile 다시머리에꽃을
04.05 01:36
대화를 하면서 상대방에게 반응하는 것은 지금도 충분히 왠만한 인간만큼 합니다

그러나 하나의 독립된 개체로서 스스로 생각하고 판단하며 능동적으로 처리할 수 있을까라는 것에 대해서는 의문입니다
ai가 굉장히 뛰어나고 많은 도움이 되지만 어떤 의도와 맥락을 가지고 스스로 인간지능으로서 활동하기에는 아직 어려움이 있고 또한 위험하지 않나 생각이 듭니다

ai가 대단하다는 생각도 들면서도 쓰면쓸수록 한계도 많이 느껴지는게 현재 상황이 아닐까합니다.
가사라
04.05 01:43
@다시머리에꽃을님에게 답글 기능주의 철학이라는걸 다루는 책을 보다보니 인간의 지능과 의식과 자아라는게 생각보다 대단한게 아닌거 같다는 생각을 하게 되네요.
말씀하신대로 AI 가 이걸 "구현"하게 된다면 어떤 위험이 있을지 알 수가 없고, 그래서 Google 도 관련 논문을 낸거겠죠.
하지만, 발전속도를 보면 못할 거라고 생각하기는 쉽지가 않습니다.
칼쓰뎅
04.05 01:45
진짜 뭐 하나 시키면 혼자 알아서 척척해오는... 그수준의 ai agent가 나와줘야
뭔가 또 큰산 하나 넘어가는 기분이 들꺼 같아요.
6K2KNI
04.05 01:53
@칼쓰뎅님에게 답글 지금 구글 제미나이에게 딥리서치 모드로 미술사적으로 끌로드 모네가 끼친 영향에 대해 분석해봐 해보세요.
무슨 논문같은게 하나 튀어나옵니다...
칼쓰뎅
04.06 00:39
@6K2KNI님에게 답글 네 써봤습니다. 근데 딥리서치는 말그대로...리서치를 좀 더 많은 데이터에서 더 제대로 된 연관성의 데이터를 뽑아오는거죠.
ai agent랑은 좀 다릅니다.
물론 중요한건 맞긴한데... 잘 만들어진 agent보다는 조금 덜중요하지않을까 싶어요.
가사라
04.05 02:07
@칼쓰뎅님에게 답글 AGI 가 나오기 전에 큰 건이 Agent 이긴 하죠.
그런데, 이게 현실세계와의 접점이 크고 넓어서 쉽지 않아 보입니다.
MCP 만 해도 온갖 보안문제때문에 이게 제대로 되긴 되려나 싶거든요.
아무래도 Anthropic 이 일단 저질러보자해서 오픈한거 같단 말입니다.
WindBlade
04.05 02:39
앞으로 5-10년뒤면 일반 인공지능이 나온다고 가정할 경우 직장의 개념도 달라질것이고 경제의 패러다임도 변하겠죠. 지금과 같은 자본주의 시스템은 더이상 유요하지 않을겁니다. 말 그대로 기본소득이 나오건가 다른 뭔가가 나오던가 해야죠.