AI 규제 법안, AI 안전과 혁신의 딜레마

최근 미국 캘리포니아주 의회는 AI 안전을 위한 새로운 법안이 발의했습니다. '첨단 AI 모델을 위한 안전과 보안 혁신법(일명 SB-1047)’입니다. 지난 5월 주 상원을 통과했으며, 이달 하원 최종 표결을 앞두고 있습니다.

이 법안의 핵심은 강력한 규제 조치를 통해 AI 위험을 완화하는 것입니다. 특히 공공 안전과 보안에 영향을 미칠 수 있는 AI에 대한 포괄적인 위험 평가와 안전 프로토콜을 의무화합니다. 위반 시 상당한 벌금을 부과합니다. AI 개발과 배포에 있어 투명성과 책임의 필요성을 강조합니다.

이는 AI 업계의 뜨거운 찬반 논쟁을 일으켰습니다. 제프리 힌튼, 요슈아 벤지오 등, 이 법안을 지지하는 측은 첨단 AI 모델의 잠재적인 재앙을 막기 위해, 필요한 조치라고 밝혔습니다. 실용적인 접근 방식을 제공해 AI 안전을 달성하기 위한 중용한 진전이라고 했습니다.

한편에서는, 이 법안이 SF소설에 가까운 터무니 없는 두려움으로 혁신을 저해하고, AI 개발의 주도권을 망칠 수 있다고 우려합니다. 또한, 법안의 모호한 언어와 광범위한 적용 범위가 스타트업과 오픈소스 개발자들에게 불리하게 작용할 수 있다는 지적도 있습니다. 메타의 얀 르쿤은 소셜미디어에 "오픈소스 AI를 죽이고 AI 혁신을 크게 늦추거나 중단시킬 것"이라고 강조했습니다.

포스팅 전문 및 관련 정보 : https://naver.me/5Q3pcSTL​