현재 인간이 AI보다 나은건 "모르는 건 모른다"하는 거네요.
개
개복치는몰라몰라 (211.♡.158.235)
2024년 7월 10일 PM 05:32 · 수정됨(18:47)
조회 669 공감 0
소위 말하는 메타인지가 아직 AI에게는 없다..
그래서 세종대왕 맥북투척사건 처럼
자신이 가진 데이터내에서 주절주절 근사값의 뿌리는 것이다.. 라는 이야기를 보았습니다.
물론 극복하기 위해서 더 데이터를 축적하고,
타 AI랑 비교검증해서 정확도를 높이는 방법을 취한다고 하네요.
하지만 이런 방식으론 모르는건 모른다 할수가 없는...
과연 미래에는 어떤 방법으로 AI의 메타인지를 구현하게 만들 수 있을지 궁금해집니다.
그리고 그게 구현되기 전까지는
AI가 아무말 대잔치 하는구나... 하는걸 캐치하는게 중요한 능력이 되겠네요.
댓글 (9)
- S
sdfsdfsdf
24.07.10 · 112.♡.119.26
-
CCLUVIC.SYS
24.07.10 · 175.♡.136.219
모르는걸 모른다고 못(안) 하는 사람들도 많죠.
자존심 때문에.... - 개
개복치는몰라몰라
→ CLUVIC.SYS 작성자 24.07.10 · 211.♡.158.235
그래서 차라리 사법권을 AI에게.. -
Mmtrz
24.07.10 · 172.♡.95.47
꼬마 때 끝없이 조잘대는 것을 멈추지 못하는 성격이었는데요. 모르는 것이 나오면 모른다는 사실을 깨닫기도 전에 말을 마구 지어냈습니다. 그럼에도 제법 높은 정확도로 사실을 지어내기도 했죠. 모르긴 몰라도 많은 어른들이 신동이라고 오해했을 겁니다.
제 생각에 GPT들은 그 지점에 와 있는 것 같아요.
얘들의 문제는 사용자들과 나누는 대화를 피드백으로 누적할 수 없다는 겁니다. 학습은 다른 곳에서 지정된 사람과 자료들로만 할 수 있죠.
그래서 전 이 친구들의 발전이 조만간 정체기를 맞이할 거라 생각합니다. - 다
다시머리에꽃을
24.07.10 · 106.♡.67.185
ai의 경우도 직접적으로 학습한 결과이외에 추론으로 얻어진 결과도 전달하죠
사람도 역시 마찬가지인데..
사람이나 ai나 둘 다 거짓말/정확하지 않은 답변을 할 가능성이 있음..
그런데 인간은 사람의 답변은 의심하지만 ai의 답변은 더 신뢰하는 경향이 있음..
해서 ai의 실수가 더 유별나 보이는게 아닐까요 - 개
개복치는몰라몰라
→ 다시머리에꽃을 작성자 24.07.10 · 211.♡.158.235
사실 AI가 추론을 하는 것 처럼 보이는게 진정한 추론인가 하는 것도 생각해 볼 문제인 것 같아요. - 다
다시머리에꽃을
→ 개복치는몰라몰라 24.07.10 · 106.♡.67.185
저는 인간의 추론과 ai의 추론이 과연 다를게 뭔지도 생각해볼 문제인거 같네요 -
MMoonKnight
24.07.10 · 39.♡.47.154
메타인지도 좀 웃긴게 반대로 아는것도 모른다 라고 인지 할때도 있죠
메타인지도 결국 편한데로 생각하는게 아닌가 합니다 ㅎ -
달달짝지근
24.07.10 · 125.♡.218.23
오류가 정제된 데이터가 많이 필요한데 생각보다 많이 부족하다고 들었습니다
댓글을 작성하려면 이 필요합니다.
어느 정도는 그 불완전함을 사람들이 오히려 이용하는 것을 보면서
아직은 기계와 사람 사이의 어느정도의 매꿔지지 않는 차이는 있구나 느끼고 있슴다.