오픈AI의 AGI 준비 팀장 퇴사, “아직 AGI는 준비되지 않았다”

오픈AI의 AGI(일반인공지능) 준비 팀장 마일스 브런디지가 사임했습니다. 팀은 해체돼 팀원은 다른 부서로 재배치됐습니다. 그는 “오픈AI나 다른 어떤 선도적인 연구소도 AGI에 대해 준비되지 않았고, 전 세계도 마찬가지”라고 했습니다. 그는 앞으로 AI 정책 연구에 초점을 맞춘 비영리 단체를 설립하거나, 기존 단체에 합류할 계획입니다. AI 산업 전반을 아우르는 문제에 대해 더 많은 시간을 할애하고, 더 자유롭게 글을 발표하며, 더 독립적으로 일하고 싶다고 밝혔습니다.

지난 5월, 오픈AI는 AI의 실존적 위험성을 연구하던 슈퍼얼라인먼트 팀을 해산했습니다. 이 과정에서 공동 창립자 일리야 수츠케버와 이 팀을 이끌었던 얀 라이크가 사임했습니다. 지난 달에는 CTO(최고기술책임자) 미라 무라티가 퇴사했습니다. 최고연구책임자 밥 맥그로와 연구 부사장 배럿 조프도 뒤를 이었습니다. 오픈AI는 비영리 기업에서 영리 기업으로 전환하는 구조조정을 실행할 계획입니다. 그 목적으로 최근 66억 달러 규모의 펀딩 라운드를 완료해 1,570억 달러의 기업 가치를 인정받았습니디. 

오픈AI가 설립 취지에서 벗어나는 것에 대해 많은 구성원이 우려하고 있으며, 잇닿은 자진 퇴사가 이어지고 있습니다. 마일스 브런디지도 6년 동안 오픈AI의 안전 전략을 수립하는 정책 연구 책임자를 거쳐 AGI 준비 부서의 수석 고문으로 근무 중이었습니다. 회사의 외부 레드팀(실제 공격을 시뮬레이션하는 사이버 보안 테스트) 프로그램과 AI 모델의 기능과 한계를 자세히 설명하는 최초의 시스템 카드 등 여러 중요한 프로젝트를 이끌었습니다.

그의 퇴사와 AGI 준비팀의 해체는 오픈AI가 기초 안전 연구에서 상용제품으로 초점을 옮기고 있다는 것을 반영합니다. 그는 회사의 상업화 추진이 안전한 AGI를 추구한다는 회사의 사명을 약화했다고 지적했습니다. 그는 2019년부터 회사의 영리추구 방향에대해 지속적으로 우려를 표명했습니다. 그의 퇴사는 오픈AI 조직 내의 문화적 균열이 계속 커지고 있다는 추정합니다.