지난 글(링크)에서 AI 활용 사례를 보았습니다. 상호작용에 그다지 전문적인 기술이 필요한 것이 아니며 일반적인 대화처럼 이루어질 수 있다는 점이 많은 분들께 자극이 되었길 바랍니다. 재미를 느껴서 잘 하게되는 것이 아니라 잘 하게 되었기 때문에 재미를 느끼는 것이라면 재미를 느낄 때까지 익숙해지려는 초기의 노력이 약간은 필요하지 않나 합니다.

이번 글타래 작성의 원래 의도는 활용 사례를 예시로 드는 것 자체였지만 대화내용에 관심을 주신 분들이 꽤 있어서 곱셈효과에 대한 설명을 조금 더 하고 가야겠다는 생각이 들었습니다.

곱셈연산이 덧셈연산의 반복을 의미하는 만큼 인간과 인공지능 간의 상호작용은 결과값이 다시 입력값으로 투입되는 되먹임 구조를 반복적으로 가진다는 의미로 곱셈효과라는 이름을 붙인 것에 불과힙니다. 이를 좀 더 세부적으로 1) 상호작용 결과에 대한 누적과 2) 인공지능 성능향상에 대한 누적으로 나눌 수 있습니다.

특히 활용사례는 1)에 대한 것으로 결과값의 질적향상 이외에 시간절약을 통한 양적향상을 중점적으로 보이고 싶었습니다. 만약 인공지능 기술이 현시점에서 정체되더라도 기술에 적응하는 것은 의미있다는 것을 말씀드리고 싶었던 것이죠.

반면에 결과값의 질적향상의 경우에 그 증가폭에는 한계를 가질 수밖에 없습니다. 예를 들어 보통의 지적수준을 가진 중학생에게 아인슈타인이 상대성이론을 설명한다면 그 아이가 이론을 이해할 수 있을까요? 아마 어려울 겁니다. 다만 설명을 듣지 않았을 때보다 이해도가 약간 올라가겠죠. 그리고 자신의 이해를 바탕으로 다시 질문하게 될 겁니다. 아인슈타인이 그 질문에 답을 하고 아이는 자신의 능력범위 안에서 이해를 하는 과정이 반복되겠죠.

마찬가지로 아무리 성능이 좋은 인공지능이 결과를 내놓더라도 사용자의 이해범위를 넘어서는 내용은 수용될 수 없습니다. 사용자는 자신의 이해범위 내에서 다시 인공지능에게 입력값을 넣기 때문에 인공지능이 내놓는 결과값의 품질은 무한정 상승하지 못합니다. 상호작용의 한계효용체감 효과라고 부를 수 있겠네요. 비슷한 형태의 그래프가 됩니다. 분명 결과값의 질적향상은 일어나지만 마치 캡이 씌워진 것처럼 특정값을 향해 수렴하는 형태를 보이는 것이죠.

따라서 인간과의 상호작용을 통한 2) 인공지능 성능향상에는 분명한 한계점이 있을 것이라고 예측할 수 있습니다. 인공지능의 입장에서 바라보면 노이즈가 섞인 신호가 계속 들어오는 것처럼 보이는 것이죠. 효율성을 높히려면 노이즈가 적은 정돈된 신호를 입력값으로 받을 필요가 있고, 따라서 개발사는 사용자의 등급을 나누려는 시도를 할 가능성이 있다는 것이 이전 글에 등장한 예시의 첫 번째 대화내용입니다.

이 단계가 바둑의 알파고로 치자면 이세돌 선수와 대국을 치룬 알파고 버전 일명 돌파고로 볼 수 있습니다. 실제로 이 버전을 개발하면서 인간이 만들어낸 모든 기보를 학습시킨 것이 아니라 KGS 데이터베이스에서 비교적 고수(6단 이상)의 기보만 추려서 학습에 사용했다는 것는 이런 의미를 가지고 있는 것이죠.

이세돌 선수와의 대국 이후 알파고는 인간 최고수의 레벨을 뛰어넘었다는 것을 증명한 만큼, 이후의 성능향상에 인간의 피드백은 큰 도움이 되지 못한다고 평가받았다고 볼 수 있습니다. 이후 버전에서 는 적 알파고를 대전 상대로 만들어서 성능향상을 도모하는데 이렇게 개발된 버전을 알파고 마스터 버전이라고 합니다. 대규모언어모델이 인간의 지적능력에 도달한 지금, 이와 유사한 방식으로 개발이 진행되고 있습니다.

며칠 전 OpenAI가 발표한 CriticGPT(기사)가 적 알파고와 유사한 역할을 맡게 되는 것이죠. CriticGPT는 ChatGPT가 생성한 답변을 평가하는 방식으로 작동하는 것으로 알려졌습니다. 아직은 인간의 평가가 필요하지만 CriticGPT의 성능이 인간의 최고급 지적수준에 도달하는 순간 인간의 평가도 노이즈가 되겠죠.

알파고는 이후에 아예 인간의 기보를 학습시키지 않고, 바둑의 룰만 알려준 상태에서 자기들끼리 대국을 두는 식으로 강화학습을 진행했고, 이 버전을 알파고 제로라고 부릅니다. 제로베이스에서 쌓아올린 모델이라는 뜻이겠죠. 성능이 돌파고<마스터<제로 순인 만큼 대규모언어모델도 비슷한 길을 걸어가게 될 것으로 추측해볼 수 있습니다.

인공지능끼리의 상호작용으로 만들어질 GPT Zero(가칭)라고 부를 수 있을 것 같네요. 다만 이 버전을 만들기 위해서는 넘어야할 벽이 있습니다. 알파고 제로에게 바둑의 룰을 알려줬던 것 처럼 대규모언어모델에게 그에 해당하는 인간 사고의 기초적인 방법을 알려줘야 하는 것이죠. 즉 초기학습 자료로써 ‘생각하는 방법’을 학습시켜야 한다는 것인데 아직 우리가 생각이 무엇인지 명확하게 규명하지 못했기 때문에 당분간은 개발하기 어려운 상황에 있다고 볼 수 있습니다. (이 부분이 시리즈글이 다루는 내용입니다. [링크: 생각을 생각하다])