오픈AI, 'GPT-5' 3개월 뒤 출시하나...90일 간 안전 위원회 활동 선언

알림

가을무렵 121.♡.10.106

2024.06.01 09:47

3,094

쓰기

오픈AI가 'GPT-5'로 추정되는 차세대 프론티어 모델에 대한 훈련을 시작했다고 발표했다. 더불어 새로운 인공지능(AI) 모델 ‘안전 및 보안 위원회’를 출범, 3개월 간 활동을 시작한다고 발표했다. 이에 따라, 이르면 8월말 새 모델 출시가 가능해 진다.

오픈AI는 28일(현지시간) 블로그를 통해 이런 사실을 밝히며 추후 일정을 소개했다.

GPT-5라고 명시하지는 않았으나, “최근 차세대 프론티어 모델 훈련을 시작했고, 이 모델은 결과적으로 일반인공지능(AGI)로 나아가는 다음 단계의 기능을 할 것으로 기대된다”라고 전했다.

이와 관련, 비즈니스 인사이더는 지난 3월 일부 기업에 GPT-5 테스트 버전을 제공했다고 전한 바 있다. 당시 GPT-5 버전을 본 한 CEO는 "정말 좋다"라는 소감도 남겼다.

이를 감안하면 이미 모델의 사전 훈련은 끝나고, 레드팀 테스트와 기업 테스트 등만 남겨 둔 것으로 볼 수 있다.

또 오픈AI는 새로운 모델과 미래 기술이 제기하는 위험을 다루기 위해 새로운 안전 및 보안 위원회를 구성했다고 발표했다.

위원회는 모든 오픈AI 프로젝트에 대한 중요한 안전 및 보안 결정에 대한 권장 사항을 만드는 일을 담당한다. 첫번째 임무는 향후 90일 동안 오픈AI의 개발 과정과 보호 장치를 평가하고, 부족한 부분에 대해 추가로 개발을 진행하는 것이다.

새 모델을 훈련하는 동안, 위원회는 기술을 보호하기 위한 정책과 프로세스를 다듬기 위해 노력할 것이라는 설명이다. 이렇게 만들어진 정책이 이사회 승인을 얻는 프로세스다.

오픈AI는 지난해 12월 샘 알트먼 CEO 복귀 직후 이사회 승인 없이 새 모델을 출시하지 않겠다고 선언한 바 있다. 따라서 위원회의 조치 사항이 승인되면, GPT-5를 출시할 수 있게 된다. 상당수 외신들도 '모델 출시 3개월 카운트 다운에 들어갔다'라고 표현했다.

위원회는 대부분 오픈AI에 호의적인 이사회 멤버와 알트먼 CEO 및 내부 직원으로 구성됐다. 이사회 의장을 맡고 있는 브렛 테일러 전 세일즈포스 공동 CEO가 안전 및 보안 위원회를 이끌고, 애덤 디앤젤로 쿼라 CEO, 니콜 셀리그먼 소니 엔터테인먼트 전 회장, 샘 알트만 오픈AI CEO 등 내부 직원 6명이 포함된다. 외부 전문가와도 접촉 중인 것으로 알려졌다.

이번 조치는 최근 모델 안전을 담당하던 초정렬팀의 해체와 스칼렛 요한슨 목소리 도용 문제 등이 잇달아 불거진 가운데 등장했다. 일부에서는 오픈AI가 안전 문제를 중요하게 생각하지 않는다는 지적이 나온 상태다.

오픈AI는 “우리는 역량과 안전성 면에서 업계 최고인 모델을 개발하고 출시하게 돼 자랑스럽지만, 이 중요한 순간에 치열한 논쟁도 환영한다”라고 밝혔다.