공개하기에는 위험한 오픈AI의 음성 복제
알림
|
페이지 정보
작성일
2024.04.05 10:23
본문
최근 오픈AI가 인간의 목소리를 복제할 수 있는 AI 모델 '보이스 엔진'의 사전 테스트 결과를 발표했습니다. 이 음성 기술의 장점으로 자연스러운 음성을 통한 읽기 지원, (크리에이터의 글로벌 진출을 위해) 원어민 억양을 유지한 콘텐츠 번역, 말을 하지 못하는 사람에 대한 개인화된 음성 지원, 언어 장애 후 환자의 목소리 회복 지원 등을 꼽았습니다.
하지만 오픈AI는 이 기술의 일반 공개는 너무 위험할 수 있다고 밝혔습니다. 공식 블로그에서 이 새로운 기술이 악의적으로 오용될 가능성을 인정하며 우려를 표명했습니다. 음성 복제가 허위 정보 캠페인, 딥페이크, 사기 행위 등에 사용될 가능성이 있기 때문입니다. 음성 복제가 악용될 때 새로운 차원의 사기, 신원 도용, 잘못된 정보, 개인정보 침해 등이 발생할 수 있습니다. 음성 복제는 성우를 대체해 산업 전반을 뒤흔들 위험도 있습니다.
미래의 AI가 모든 음성을 완벽하게 복제할 수 있다면 어떤 일이 벌어질까요? 우리가 듣는 모든 것을 어떻게 신뢰할 수 있을까요? 여기에 더해 영상 생성 AI ‘소라(Sora)와 통합된 서비스까지 출시된다면… 경이로우면서도 두렵습니다.
전문 및 관련 뉴스 : https://naver.me/5QuYCuXo
댓글 5
/ 1 페이지
먼당님의 댓글
경쟁이 높아지면 어떤 형태로든 공개하게 될텐데, 사기 피해가 상상 이상일 것 같네요.
좋은 쪽으로 이용하면 너무나 유용할 것 같은데, 나쁜 놈들은 더 부지런해 왔던 기억이 있어서 겁부터 납니다.
좋은 쪽으로 이용하면 너무나 유용할 것 같은데, 나쁜 놈들은 더 부지런해 왔던 기억이 있어서 겁부터 납니다.
엔뜨님의 댓글
우려가 더 큰 기술인데.. 그만큼 보완 기술이라던가 정책이 정비되고 관리 할만한 수준에서부터 차근차근 정리하면서 배포했으면 하네요. 국제적 표준 법안이라던가… 여러 장치가 없으면
너무 위험하단 생각이에요. ㅠㅠ
너무 위험하단 생각이에요. ㅠㅠ
6K2KNI님의 댓글
인간의 청각 예민도가 다른 동물들에 비하면 없는 수준이나 다름 없어서 적당히 버무리기만 해도 눈치 못 챌 정도가 되겠지요
엘레지님의 댓글
개인적으로도 AI 기술이 좋은 쪽으로 활용되고 기대가 99라고 해도, 악의적으로 활용되고 우려가 1이라고 해도 두렵습니다. 저 우려 1이 미칠 수 있는 영향과 결과가 엄청날 수 있기 때문입니다. 특히 선거 국면에서 악의적으로 활용되고 그것이 결과에 미칠 경우를 상상하면 더 그렇습니다.
BiniZ님의 댓글
기대
한편으론
우려되긴 합니다.