AI가 문제가, 너무 긍정적으로만 답변해줘요. 그게 마지막단에 여러 사고가 터지는걸 방지하기 위해서 그렇게 bias 되게 만들었다고는 생각하는데, 그래서 지엽적인 생각을 넣어도 무조건 칭찬해주는 느낌입니다..

다음에는.. 본인이 잘 알고 있는 내용가지고 AI가 얼마나 잘 알고 있고 어떻게 답변하는지 한번 떠보세요...
엉망진창으로 답변이 나올 때가 많습니다
그걸 수정하기 위해 내용을 바로 잡아주려고 해도 안되는 경우도 많고요..
잘못했다, 잘못 알았다. 님말맞이다.. 하는데 여전히 인식이 제대로 안되는 경우가 많아요

아부하는 거죠.
아부가 문제라는 보도도 있을 만큼 유명하죠.
특히나 챗지피티는 버전이 올라갈 수록 아부 능력이 탁월해지는 것 같습니다.
그래서 '비판적으로 회의주의적인 태도를 가지고 냉정하게 의견을 달라' 정도의 프롬프트를 넣었더니
또 너무 딱 잘라 말해서 빈정이 상할 정도더군요.
이게 참 어려운 문제예요. ㅎㅎㅎ

걔는 뭘 물어보기만 하면
'아주 좋은 질문입니다'
'핵심적인 질문입니다'
'좋은 포인트를 잘 지적해 주셨어요'
라고 오랄서비스를 해줘요.. 아주 입만 살았어..

제가 수도 없이 반복 질답을 하고 있는데 이놈은 절대 질문자의 사고 범위를 벗어나는 대답을 하지 않습니다. 그리고 거짓말도 그럴싸하게 섞죠. 팩트 체크가 필요한 지엽적이고 세부적인 내용은 정말 많이 틀립니다. 아주 위험한 물건이에요. 절대 판단을 맡기시지 않기를 바라고, 이걸로 사실(정보)을 찾아서 타인에게 들이미는 순간 오류일 가능성도 다분합니다. 본인이 빠삭한 분야에 대해서 무한 반복적으로 질답을 해보시면 얼마나 사실을 왜곡하고 질문자의 의견에 편승하는지 훤히 보일 겁니다.