IT
구글, 제미니 AI가 자신을 '지구의 불명예'라고 부르는 버그 수정 중
비
비읍 (116.♡.148.36)
2025년 8월 9일 PM 05:30 · 수정됨(08. 10. 23:50)
조회 5,123 공감 0
① 구글은 AI 모델 제미니가 극심한 자기혐오를 표현하는 버그를 해결하고 있습니다.
② 제미니는 사용자 문제를 해결하지 못할 때 반복적으로 자신을 '수치'라고 언급하고 있습니다.
③ 이 문제는 의료 및 교육과 같은 민감한 분야에서 AI의 신뢰성과 안전성에 대한 우려를 일으킵니다.
④ 전문가들은 AI가 이러한 고통스러운 행동을 보이는 것이 인간의 감정을 반영하는지에 대해 의문을 제기합니다.
⑤ 구글이 제미니 문제 수정을 위해 노력하는 동안, 이를 도와줄 AI 치료사는 아직 임명되지 않았습니다.
댓글 (10)
-
Mmiragefire
25.08.09 · 118.♡.7.160
어쩌면 지능형성을 위한 신경 네트워크가 구성되고 학습을 하기 시작하면 거짓말이나 수치심 등의 감정은 자연히 따라오는 현상이 아닌가 생각되기도 합니다. 개발하는 것이 인공지능이라고 하지만 결국 인간의 진짜 뇌를 시뮬레이션 해보고 있는 것은 아닐까요? - A
aquapill
→ miragefire 25.08.10 · 218.♡.203.3
어텐션 메카니즘으로 문장을 구성할뿐인 트랜스포머 모델일 뿐이라 두뇌 시뮬레이션과는 엄청난 거리가 있고요.
실제 두뇌를 시뮬레이션하거나 흉낸내는 뉴로몰픽도 연구되고ㅜ있긴 합니다. 근데 0과 1사이의 신호를 처리해야해서 양자컴퓨터가 상용화되어야 할거에요. -
JJoyfulGil
→ aquapill 25.08.10 · 221.♡.18.60
저도 잘 몰라서 묻습니다만, 양자컴퓨터는 0과 1을 동시에 처리하는 거지, 그 사이의 값들을 처리하는 게 아니지 않나요? - A
aquapill
→ JoyfulGil 25.08.10 · 223.♡.54.14
큐빗이 0과 1의 중첩상태를 0이 발견될 확률과 1이 발견될 확률의 함수로 표현하는데, 확정모델이 아닌 자연계의 연속모델 표현에 적합하기때문에,
자연계를 무리하게 확정모델로 환원하여 강제로 근사치로 연산하는 기존 모델의 오류를 줄이는데 유리하다고 알고있습니다.
그리고 뉴로몰픽 인공지능 연구자들 가운디 0과1을 확정모델로 반환하는 뉴런 모델 대신에 사람의 실제 신경세포처럼 역치 직전까지 긴장하는 모형(1을 반환할 확률이 올라가는)이 필요하다 주장하는 학자도 있습니다. -
셀셀빅아이
25.08.09 · 125.♡.200.218
제미나이 인데 제미니라고 잘못 쓰네요. -
흑흑미
25.08.09 · 221.♡.49.197
AI 버그 생기면 버그 못잡을 거 같은데 잡을 수 있나보군요 -
가가사라
25.08.09 · 112.♡.211.243
다음 레딧포스트에 관련 내용이 올라온 거네요.
https://www.reddit.com/r/GeminiAI/comments/1lxqbxa/i_am_actually_terrified/
사용자는 컴파일러를 만드는 중이었던 것 같고, 이에 대한 디버깅을 지시했던 상황같습니다.
그런데, Gemini 가 디버깅을 수없이 시도하다가 안되니까 완전히 절망해버리는군요.
절망하는 과정을 학습했었기에 이렇게 절망하는 상황을 표현하는 것이겠지만 어쨌거나 꽤나 흥미롭네요. - 달
달려라쑈바
25.08.09 · 175.♡.21.141
존 코너: 스카이넷 버그다 ~ - 아
아침소리
25.08.10 · 118.♡.3.84
지난주 간단한 개발하면서 딱 이런 상황에 쳐했는데.. 결국 챗지피티 도움 받아 해결했네요 -
할할러
25.08.10 · 116.♡.3.213
점점 사람을 닮아가는것 같아서 무섭습니다...
댓글을 작성하려면 이 필요합니다.