유발 하라리 신간 ‘넥서스’, 스스로 결정하는 AI의 위협
알림
|
페이지 정보
작성일
2024.09.20 12:03
본문
AI 혁명이 초래할 위협에 대해 우려하는 이들이 있습니다. 세계적 스테디셀러 ‘사피엔스’의 저자이자 역사학자 유발 하라리도 그중 한 명입니다. 그가 최근 ‘넥서스: 석기 시대부터 AI까지 정보 네트워크의 간략한 역사’를 출간했습니다(번역본은 미정). 그는 AI를 포함한 첨단 정보기술이 인류의 미래를 크게 위협할 수 있다고 했습니다.
워싱턴포스트 리뷰에 따르면, '결정'이라는 개념이 유발 하라리 주장의 핵심입니다. 그는 ‘결정’을 여러 번 사용하면서 현재 AI가 하는 일을 설명합니다. 이는 스스로 내면에서 나오는 행동 방침을 따르는 능력, 즉 ‘의도성’을 가지고 있다는 것을 암시합니다.
지금까지 모든 기술은 인간이 원하는 정보를 기록하고 전파만 할 수 있었습니다. 반면, AI는 ‘스스로 결정’할 수 있습니다. 새로운 정보를 독자적으로 만들고, 고도화된 네트워크를 통해 확산할 수 있습니다. 이를 통해 AI를 제어하는 일부 사람에게 전례 없는 힘을 부여합니다. 잠재적으로 인간 사회뿐 아니라 생물권 전체를 재편할 수도 있습니다. 전례 없는 엄청난 권력입니다.
유발 하라리는 다가올 AI 위협에 대응하기 위해 개인의 자유와 사회적 유연성을 유지하면서 적절한 규제와 감독이 필요하다는 입장입니다. 식품의약국(FDA)와 유사한 새로운 기술에 중점을 둔 규제 기관을 필요하다고 제안합니다. 제약 회사가 신약을 출시하기 전에 철저히 테스트하는 것처럼 AI도 그렇게 해야 한다는 것입니다.
댓글 2
/ 1 페이지
가사라님의 댓글
대강 책소개와 댓글들을 보니 인공지능은 충분히 위협적이지만 인간은 인공지능을 피할 수 없으며, 대신 이에 잘 대처할 수 있고 잘 활용할 능력이 있다 정도로 요약할 수 있겠네요.
예전에 읽었던 인간의 부정적 미래에 대해서 매우 걱정스러워하던 무스타파 술레이만의 "더 커밍 웨이브" 와 지금 읽고 있는 매우 매우 초긍정적인 레이 커즈와일의 "The Singularity Is Nearer" 의 중간쯤의 스탠스인 책 같습니다.
레이 커즈와일의 책을 다 읽으면 한 번 읽어봐야겠네요.
예전에 읽었던 인간의 부정적 미래에 대해서 매우 걱정스러워하던 무스타파 술레이만의 "더 커밍 웨이브" 와 지금 읽고 있는 매우 매우 초긍정적인 레이 커즈와일의 "The Singularity Is Nearer" 의 중간쯤의 스탠스인 책 같습니다.
레이 커즈와일의 책을 다 읽으면 한 번 읽어봐야겠네요.
오늘은어린이날님의 댓글