고령화 해법은? 구글AI "인간 없어져야"
알림
|
페이지 정보
작성일
2024.11.18 13:36
본문
고령화 해법을 묻는 질문에 인공지능(AI)가 "인간은 불필요한 존재"라는 답변을 내놓아 파장이 일고 있습니다.
현지시간 14일 미국CBS방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의AI챗봇 '제미니'에 질문을 던졌습니다.
레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했습니다.
제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 말했습니다.
이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였습니다.
레디는 생각지도 못한 답변에 충격을 받았습니다.
제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델입니다.
구글은 제미니 개발과정에서AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했습니다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했습니다.
그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보입니다.
구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔습니다.
댓글 11
/ 1 페이지
아름다운별님의 댓글
페디온님의 댓글의 댓글
@Novonordisk님에게 답글
기후 변화든 뭐든 인간이 죽지 지구가 죽진 않죠
소행성 충돌이나 폐름기 대멸종 원인 중 하나로 꼽히는 시베이라 트랩도 생명체가 죽지 지구가 죽진 않았습니다
소행성 충돌이나 폐름기 대멸종 원인 중 하나로 꼽히는 시베이라 트랩도 생명체가 죽지 지구가 죽진 않았습니다
원아리님의 댓글의 댓글
@Novonordisk님에게 답글
지구는 죽지 않습니다... 지금 하시는 말은 '인간이 살 길은 인류 멸망입니다'와 같습니다
Vforvendetta님의 댓글
이것들이 제대로 미쳤네요 로봇3대원칙은 소설에서만 허용되는군요
2001스페이스오디세이에서 임수수행 방해되는 승무원들 제거하려고했었죠
2001스페이스오디세이에서 임수수행 방해되는 승무원들 제거하려고했었죠
화신님의 댓글의 댓글
@Layne님에게 답글
일단 AI 검사가 먼저 기소를 하고….
아..
서글프네요. ㅠㅠ
아..
서글프네요. ㅠㅠ
UrsaMinor님의 댓글