BBC 기사

OpenAI tells ChatGPT models to stop talking about goblins

https://www.bbc.com/news/articles/c5y9wen5z8ro

내용 일부 GPT-5.5 Thinking 번역입니다.

오픈AI가 자사 AI 도구 일부에 고블린에 대해 말하지 말라는 지시를 내려야 했습니다. 이 단어가 응답에 무작위로 섞여 들어가는 현상을 발견했기 때문입니다.

목요일(현지 시각) 올라온 블로그 글에서 회사 측은 최근 플래그십 모델인 GPT-5 기반 ChatGPT와 다른 도구들이 사용하는 비유 표현에서 신화 속 생물인 고블린뿐 아니라 그렘린에 대한 언급이 늘어난 것을 포착했다고 밝혔습니다.

https://openai.com/index/where-the-goblins-came-from/

사용자와 직원들로부터 문제를 '작은 고블린들'이라고 묘사하는 사례가 지적되자, 오픈AI에서는 이 문제를 완화하기 위한 조치를 취했다고 밝혔습니다. 여기에는 코딩 에이전트인 Codex가 관련이 없는 한 고블린을 언급하지 않도록 지시하는 것도 포함됐습니다.

오픈AI에서는 ChatGPT를 위해 만든 너드스러운 성격(nerdy personality)이 뜻하지 않게 고블린 언급을 좋게 평가하도록 학습되고 있었다는 사실을 확인했습니다.

이번 문제는 AI 시스템과 그 학습 방식이 말버릇과 같은 오류를 장려하고 굳어지게 만들 수 있다는 가능성을 AI 기업들이 다루기 어렵다는 점을 보여줍니다.

회사에서는 지난 11월 GPT-5.1 출시 이후 고블린, 그렘린, 그리고 다른 생물들에 대한 언급이 증가한 것을 처음 알아차렸다고 밝혔습니다.

같은 블로그 글에서 "사용자들은 모델이 대화에서 이상할 정도로 지나치게 친근하게 구는 것에 대해 불만을 제기했고, 이것이 특정한 말버릇에 대한 조사로 이어졌다"라고 설명했습니다.

이어 고블린 언급을 몇 차례 본 한 연구원이 조사해 달라고 요청한 뒤 개발자들은 ChatGPT 응답에서 해당 단어가 등장하는 빈도가 GPT-5.1 출시 이후 175% 증가했다는 사실을 발견했다고 덧붙였습니다.

한편 그렘린 언급은 52% 증가한 것으로 나타났습니다.

증가율은 컸지만 전체 응답에서 보면 그 비중은 크지 않을 수 있습니다. 오픈AI에서는 "답변에 ‘작은 고블린’이 한 번 등장하는 것은 해롭지 않고, 심지어 매력적일 수도 있다"라면서도 출력 전반에서 이 표현의 등장 빈도가 늘어난 점은 조사할 필요가 있었다고 밝혔습니다.

[나머지 내용 생략]

https://x.com/sama/status/2049692014586048973