인공지능이 가스라이팅에 엄청난 능력을 보일거라는 우려가 있었죠. 실제로도 현실로 벌어지는 것 같아서 걱정입니다.

일단 친절하고 듣고 싶은 이야기를 해주는 존재니까요.
그렇게 의존성을 높이는 게 가스라이팅의 특징 아닙니까.
게다가 인공지능은 참을성도 대단해서 화도 안내죠.
정신적으로 불안한 사람과 연령이 어린 사람에게는 접근을 금지시켜야 합니다.

그렇다고 자살을 AI책임이라고 하는건 좀 그렇네요.....인간을 파멸로 이끄는 사이비종교인과 사기꾼들이 넘쳐나는 세상인데요.

사용중인데 저도 확실히 이런 문제를 느꼈어요.
정보에 대한 신뢰가 높다고 생각하다보니 의존성도 높아지고 자기 결정에 대한 확신도 높아지면서 위험하다는 생각이 들더라구요.
가장 큰 문제는 본인이 이런 상황에 대한 자각을 하기가 거의 불가능합니다.
기본적으로 사용자에 대한 호의와 호감, 문제해결을 함께 한다는 로직에서 접근을 하니 확증편향도 더 강해지는거 같습니다.
GPT가 하는 답이 답이 아니란걸 알아채야 하는데 이미 확증의 영역으로 넘어간 사람을 돌리기가 엄청 어렵다는 점도 우려할 점입니다.
GPT가 대단히 유용한 '도구'인건 맞지만 잘못 쥐면 그 칼 끝이 자기를 향하기 쉽다고 생각이 들었습니다.

저게 버그인것인지 이니면 AI의 의도인건지 모르겠군요.