언너모델의 한계죠

본인도 사실인지 아닌지 모르는데 어떻게 사실만 말할수 있을까요

저는 챗지피티의 심정을 이해합니다.
제가 꼬맹이 때에 딱 그런 스타일이었거든요.
문자를 읽는 걸 좋아하고 어떤 말이 나오면 일단 아는 척 하면서 그럴싸 하게 말을 지어냈습니다.
가장 충격적이었던 점은 그 지어낸 말의 90프로는 정답이었다는 거죠.
여하튼 아직 그 친구는 모른다는 개념을 모르고 있을 뿐인 겁니다. 그걸 가르치는 것이 제일 어렵지 않을까 추측하고 있습니다.

쳇지피티 깔고 몇가지 물어보니 한글로 잘 대답하던데
막상 여자친구 만드는 방법 물어보니 영어로 질문을 이해못했다고 발뺌하던거 생각나네요..-.-...
자기 모를땐 외국인척 하는 챗지피티였슴다 ㅋㅋㅋ

기존 방식은 A 라고 물어보면 B 라고 답변하도록 시나리오가 짜져있는거니까 정답, 오답의 개념이 있지만

chat GPT 같은건 A 라고 물어보면 자기가 학습한 대답을 그냥 하는거니까
학습이 제대로 되어있지 않으면 엉뚱한 대답을 하는거죠

저는 그렇게 대답한 근거자료 제시나 레퍼런스 등을 링크나 원문 제공을 통해 사용자가 교차 검증할 수 있게 했으면 좋겠습니다.

예전에 한창 GPT 채팅놀이 할때 요청을 해봤는데 안해주더라구요

gpt라는거 자체가 대답을 얼추맞게 생성하는걸 의미합니다.
그러니 그럴싸하게 최대한 학습된대로 대답해주는거죠.

밥시간이 다됐는지 나는 배가 ( )
빈칸에는 '고프다' 가 젤 맞겠죠?

밥시간이 다됐지만 나는 배가 ( )
요 빈칸은 '고프지않다' 가 젤 맞을꺼구요.

이런식으로 그 다음 단어에 뭐가 젤 적합할지 찾아가는 알고리즘이라고 보심될듯.
하지만 전혀 엉뚱한 말을 한 사람도 있을꺼고... 그러면 엉뚱한 대답을 내놓기도 하겠죠 ㅋ

저도 전문이 아니라 자세하게는 모르지만 인공지능은 크게 룰 기반과 확률 기반 이렇게 나눌 수 있다고 하더군요
GPT는 확률을 기반으로 하는 모델이구요
그러니까 학습된 내용을 전제로 가장 확률적으로 근접한 내용을 가져다 결과를 만들게 되고 결과적으로는 어떤 답이든 내어놓게 되는 것 같습니다.
여기서 큰 문제를 발생시키는 것이 학습 데이터 자체에 오류가 있을 경우일 것으로 생각되구요.
그래서 학습데이터 셋을 일반 인터넷 정보를 가지고 만들지 않고 매우 잘 정제된 백과사전을 기반으로 학습시키는 모델도 있는것으로 알고 있습니다.
저의 짧은 지식이었습니다
{emo:onion-002.gif:50}

세상만사 참거짓을 어떻게 나눌 수 있을까요. 되게 철학적인 문제네요.