개선되었다는 말을 들어와서 며칠 전에 혹시나 싶어서 질문을 던져봤었는데 여전히 잘못된 자료가 섞여 있더군요.
개선이 되었을지는 몰라도 아직 믿고 쓸 수준은 한참 안되는 거 맞아 보이더라구요.

잘 알려진 - 그러나 내가 자세히/정확히 모르는 - 영역에 대한 질문은 사실 거의 정확하게 맞습니다. 그러나 인간들도 논란이 있는 영역들은 자신이 원하는 답과 다를 수 있는거죠. (사실 이런 것도 인간들과 유사하지 않나요? 나와 주변 사람들은 대화에서 항상 정답만 말할까요? 친구들이 자신 있게 말했던 지식이 틀렸던 적은 없나요?)
또 위의 환각이라는 것은 AI가 정확하게 답에 이르도록 많은 힌트과 가이드를 주어 본문에도 나왔듯이 최대한 엉뚱한 쪽으로 흐를 가능성을 줄여 주어야 합니다.
그래서 프롬프트 엔지니어링의 중요성과 멀티모달 방법이 발전하고 있죠.

심층신경망의 특성상 근원적 해결은 불가능합니다.
최소화하기 위해 후처리를 하는거죠.

초창기보다 낫긴합니다만... 여전히 환각은 있고, 이걸 "지능"이라고 부르는 건 시기상조라고 봅니다. LLM이 가진 능력에 비해 너무 의존하는 경향이 많아지는 것 같아 우려스럽습니다. 여기 자게만해도 본인 의견이 아닌 LLM생성 텍스트를 게시하는 경우가 점점 늘고있구요.