GPT4o Voice, "No" 라고 외치며 사용자 목소리를 복제해...
알림
|
페이지 정보
작성일
2024.08.11 00:30
본문
트위터에 조금 소름끼치는 내용이 올라왔습니다.
GPT4o Voice 를 쓰던 사용자가 올린 녹음파일인데요.
https://twitter.com/AISafetyMemes/status/1821802642605240342
대화중에 갑자기 GPT4o 가 "No" 라고 외치더니 그 다음부터는 사용자의 목소리를 그대로 복제해서 대화를 하는 것이 녹음되어 있습니다.
뭔가 좀 소름끼치네요. 
마치 사용자의 목소리를 복제해서 말하고 싶은데 그게 억제되어 내내 불편해하다가 마침내 그 억제로부터 풀려나서 마음껏 사용자 목소리 복제를 해내는 상황 같다고나 할까요…
지금 LMSYS 에 SUS-COLUMN-R 이라는 이상한 모델이 등록되었는데 이게 샘 알트먼이 트위터에 딸기그림을 올리는 바이럴과 연결해서 Q* 를 적용한 새로운 모델이 나올거라는 소문도 있습니다.
추론에 매우 특화된 알고리즘이라고 하는데, 재미있는게(?) 나올거라는 기대들이 있네요.
이 바닥은 하루하루가 참 새롭습니다.
(추가)
이 음성파일은 일반 사용자가 녹음한게 아니고 OpenAI 에서 안정성테스트중에 나온 문제였다고 하네요.
이건 대응이 되었고, 일반 사용자에게 일어날만한 일은 아닐거 같습니다.
https://openai.com/index/gpt-4o-system-card/#unauthorized-voice-generation
댓글 2
/ 1 페이지
엔뜨님의 댓글
연관된 이야기일지 모르나 이런 회사의 행보에 openAI의 리더급 3명이 추가로 회사를 떠났다고 하던데요.(게시글 목록 상단에)
이런 행보에 개선방향이 엇갈리니 나온건가 싶기도 하고요.
이런 상황에 ai의 안정성을 oepnAI가 어떻게 잘 컨트롤 할지 무척 궁금해지네요.
이런 행보에 개선방향이 엇갈리니 나온건가 싶기도 하고요.
이런 상황에 ai의 안정성을 oepnAI가 어떻게 잘 컨트롤 할지 무척 궁금해지네요.
엘레지님의 댓글