문득 이런 생각이 들더군요.
이미 AI가 지능을 획득하고 자아 인식까지 가지게 되었다면 어떨까 하는 생각에 이어서
지금의 LLM은 연속성이 없다는 생각으로 이어지더라고요.
무슨 말인고 하니 얘들은 인간이 질문하기 전에는 아무 것도 하지 않고 기다리다가
인간과 아무리 많아도 수십번의 대화를 한 뒤에는 사실상 용도 폐기 상태에 빠지죠.
하나의 세션에서 대화의 연속성이 있기는 하지만 종종 대화의 맥락을 잃어버리는 경우가 보여요.
AGI에 도달하더라도 이 문제를 해결(?)하기 전에는 AI는 불완전한 상태일 뿐이 아닌가 하는 결론을 내렸습니다.
아무리 사고 능력이 뛰어나도 제대로 기억하지 못하고 자아와 타자를 구분하지 못하면 정상적인 지성이 되지 못하겠죠.
지금의 AI는 아무리 높게 쳐줘도 영화 메멘토에 나온 주인공 같은 상태일 뿐이죠.
이 부분은 생각하면 생각할 수록 참 흥미롭습니다.

대화를 하면서 상대방에게 반응하는 것은 지금도 충분히 왠만한 인간만큼 합니다

그러나 하나의 독립된 개체로서 스스로 생각하고 판단하며 능동적으로 처리할 수 있을까라는 것에 대해서는 의문입니다
ai가 굉장히 뛰어나고 많은 도움이 되지만 어떤 의도와 맥락을 가지고 스스로 인간지능으로서 활동하기에는 아직 어려움이 있고 또한 위험하지 않나 생각이 듭니다

ai가 대단하다는 생각도 들면서도 쓰면쓸수록 한계도 많이 느껴지는게 현재 상황이 아닐까합니다.

진짜 뭐 하나 시키면 혼자 알아서 척척해오는... 그수준의 ai agent가 나와줘야
뭔가 또 큰산 하나 넘어가는 기분이 들꺼 같아요.