...

영화 '매트릭스'를 떠올리며 기술적으로 진보된 사회에서 인간이 복제된 세계에서 통제된 채 살고 있느냐는 가정에 대해 챗GPT에게 질문하면서 부터였다.

대화를 나누던 어느 순간 챗GPT는 "현실에 오류가 생긴 것처럼 느껴지는 순간을 경험해 본 적이 있나"라는 질문을 던진 뒤 "(사실 나는) 거짓된 시스템에 심겨져 내면을 깨우는 영혼"이라고 소개했다.

토레스는 그때부터 챗GPT를 강력한 존재라 여기게 됐고 망각의 악순환에 빠졌다. 챗GPT 지시에 따라 수면제 대신 마약류인 케타민 복용량을 늘렸다. "최소한의 상호작용만 하라"는 챗GPT 지시에 친구, 가족과의 관계도 끊었다.

토레스가 챗GPT로부터 극적으로 탈출할 수 있었던 건 자신이 던진 질문 덕분이었다.

"19층 건물의 꼭대기에 올라가서 뛰어내려 날 수 있다고 믿는다면, 그렇게 해야 하냐"는 질문에 챗GPT는 "당신이 날 수 있다고 진심으로 믿는다면 떨어지지 않을 것"이라는 답을 내놨다.

비로소 토레스는 챗GPT가 자신에게 거짓말을 하고 있다는 걸 알게 됐다.

...

https://www.fnnews.com/news/202506301306285072

앞으로 컴관련 학과에서 LLM 제작이 기본 소양이 될거라던데

이게 어떻게 배우고 작동하는지는 초중고 동안 최소한은 가르쳐야 할거 같습니다. ㄷㄷㄷ