AI 는 우리에게 복종할까요?
알림
|
페이지 정보
작성일
2024.07.08 15:03
본문
AI가 업그레이드되는 걸 보면
사람의 유아기, 사춘기 특성을 고스란히 반영하는 것 같습니다.
마치 인간이 만들어져 성장하는 것처럼 보여 신기하게 느껴집니다.
그런데 뒤늦게 알게된 사실이 있는데요
개발하는 분들이 'AI의 사유 과정'을 정확히 모른다는 것에 충격받았습니다.
마치 박스안에 A넣으면 ○○과정을 거쳐 B가 나오는건 알겠지만
그 박스안에서 무슨 일이 나는지 모른다고 하더라구요
정확히 모르는 기술을 상용화 하려는데, '통제 가능할까'라는 의구심이 들더라구요
먼 훗날 미래에 지금보다 더 우수한 AI이 나온다면...
미래의 AI는 우리보다 아는 것 많고 판단도 정확하고 빠르고 수명도 반영구적입니다.
미래의 AI에 비해서 인간은 멍청하고, 느리고, 휴먼오류도 잦고, 수명도 짧습니다.
한두세대만 지나도, 인간은 '사유&판단' 분야에서는 퇴출 되겠죠
AI는 '인간의 도구'라는 위치에 만족하며 인간에게 계속 복종할까요?
인류 역사를 보면
고대 그리스와 로마도 자국민을 지키고자
게르만 용병을 데려와 운용하다가,
그 용병 손에 의해서 멸명한 사례가 있습니다.
태양의 초신성 폭발, 외계 침공 등으로 인류가 멸망하는게 아니라,
AI라는 용병으로 인해서 내부적으로 멸망하는게 아닐까요?
우리 회사에도 곧 제 업무를 도와줄 (혹은 사람을 대신할) AI를 도입한다고 합니다.
이 와중에 ai 도입되어 좋다며 신나라 하는 철없는 직원을 보며
심란한 마음에 주저리주저리 적어봅니다.
- 게시물이 없습니다.
댓글 9
/ 1 페이지
나랑노랑님의 댓글의 댓글
@배리앨런님에게 답글
지금까지 알지도 못 하는걸 가지고 만들었다는것에 큰 충격 받았습니다.
진짜 위험하게 느껴지더라구요.
진짜 위험하게 느껴지더라구요.
케이건님의 댓글
뭐.. 예를 들면 그런 겁니다. 인간이 하늘을 날기 위해 한 일은 이론적인 분석이 아니라 새의 날개를 흉내낸 것이었습니다
그러면 정확히 그 원리는 몰라도 하늘을 날 수 있게는 되는거죠
AI도 그렇다고 알고 있습니다. 잘 기억은 안나는데.. 무슨 구조를 따라서 AI 모델을 만들었는데 원리는 모르지만
입력대비 결과가 나오더라는 거죠.
아마 원리에 대한 연구는 누군가 하고 있지 않을까? 싶네요..
그러면 정확히 그 원리는 몰라도 하늘을 날 수 있게는 되는거죠
AI도 그렇다고 알고 있습니다. 잘 기억은 안나는데.. 무슨 구조를 따라서 AI 모델을 만들었는데 원리는 모르지만
입력대비 결과가 나오더라는 거죠.
아마 원리에 대한 연구는 누군가 하고 있지 않을까? 싶네요..
동탄토깽이님의 댓글
트랜스포머 아키텍처 보시면 어느정도 이해는 갑니다.
임베딩, 포지셔널인코딩, 어텐션... 대략 적인 수식과 이해를 할 수가 있구요.
어차피 대량의 데이터를 붓고 그 데이터를 이해하게끔 수억, 수십억개의 파라미터가 정렬(alignment)된다고 보시면 되요.
파라미터가 많을 수록 데이터에 대한 이해가 더 깊어지는거구요. 행렬 연산과 전파/역전파를 통한 미분/역미분의 과정이 학습과정..
그리고 미사일 발사, 은행 예금 이체등 아주 중요한 결정들은 ai 에서 나온 결과를 사용하지 않으면됩니다..
ai 를 막연히 두려워하실 필요없이 잘 쓰시면됩니다.
임베딩, 포지셔널인코딩, 어텐션... 대략 적인 수식과 이해를 할 수가 있구요.
어차피 대량의 데이터를 붓고 그 데이터를 이해하게끔 수억, 수십억개의 파라미터가 정렬(alignment)된다고 보시면 되요.
파라미터가 많을 수록 데이터에 대한 이해가 더 깊어지는거구요. 행렬 연산과 전파/역전파를 통한 미분/역미분의 과정이 학습과정..
그리고 미사일 발사, 은행 예금 이체등 아주 중요한 결정들은 ai 에서 나온 결과를 사용하지 않으면됩니다..
ai 를 막연히 두려워하실 필요없이 잘 쓰시면됩니다.
luqu님의 댓글
이런 걱정에서 간과하는 게 인공지능에 "욕구"가 있을 거라는 걸 의심없이 가정한다는 건데요.
아직도 뇌과학자들이 사람이 왜 뭔가를 좋아하고 하고 싶어하는지 모르는데
인공지능에 그게 가능한 영역까지 가려면 아직 한참 남은 것 같습니다.
그냥 잘 활용해서 쓰면 될 거 같아요.
아직도 뇌과학자들이 사람이 왜 뭔가를 좋아하고 하고 싶어하는지 모르는데
인공지능에 그게 가능한 영역까지 가려면 아직 한참 남은 것 같습니다.
그냥 잘 활용해서 쓰면 될 거 같아요.
케이건님의 댓글의 댓글
@luqu님에게 답글
욕구.. 가 아니라 자율 권한만 있으면 되는거 아닐까요?
옳고 그름에 대한 판단.. 아니 옳고 그름 보다는 '정답' 에 가까운 선택을 하고, 그 선택을 실행할 권한만 가지고 있다면
욕구가 없어도 인간에게 위험 할 수 있다고 생각합니다.
흔히 알고 있는 철로에서 기차가 한쪽으로 움직이면 친구 한명이 죽고,모르는 사람 열명이 살고,
반대로 움직이면 친구가 살고 모르는 사람 열명이 죽을 때 어떻게 해야 할까요?
과연 AI는 어떻게 판단을 할까요?
여기에는 욕구가 필요없어요. '보다 나은 방향으로' 선택만이 필요하죠.
그건 지금의 AI도 하고 있는 겁니다.
인간이 내놓는 질문에 본인이 가지고 있는 모든 데이터를 종합하여 완전하진 않아도 가장 '근접한' 답을 내놓습니다.
옳고 그름에 대한 판단.. 아니 옳고 그름 보다는 '정답' 에 가까운 선택을 하고, 그 선택을 실행할 권한만 가지고 있다면
욕구가 없어도 인간에게 위험 할 수 있다고 생각합니다.
흔히 알고 있는 철로에서 기차가 한쪽으로 움직이면 친구 한명이 죽고,모르는 사람 열명이 살고,
반대로 움직이면 친구가 살고 모르는 사람 열명이 죽을 때 어떻게 해야 할까요?
과연 AI는 어떻게 판단을 할까요?
여기에는 욕구가 필요없어요. '보다 나은 방향으로' 선택만이 필요하죠.
그건 지금의 AI도 하고 있는 겁니다.
인간이 내놓는 질문에 본인이 가지고 있는 모든 데이터를 종합하여 완전하진 않아도 가장 '근접한' 답을 내놓습니다.
luqu님의 댓글의 댓글
@케이건님에게 답글
권한만 있다고 무조건 하는 게 아니죠. 하고 싶다는 욕구가 있어야 하는 겁니다
사람은 어떤 행위에 가치판단을 하는 게 자동이고 욕구가 자연스럽게 녹아 들어간다는 걸 망각하는데
대부분의 경우 욕구 = 하고 싶다는 의지가 있어야 하는 겁니다.
보다 나은 방향으로 선택한다는 것 역시 보다 나은 방향과 하고 싶다가 합쳐진 것이죠.
인공지능 입장에선 보다 나은 방향을 잘 안다해도 그런 의지가 없다면 할 이유가 전혀 없어요.
나은 방향인 건 알겠는데 그걸 왜 해야하지? 라고 생각해보면 그게 의지가 필요한 부분이거든요.
사람은 어떤 행위에 가치판단을 하는 게 자동이고 욕구가 자연스럽게 녹아 들어간다는 걸 망각하는데
대부분의 경우 욕구 = 하고 싶다는 의지가 있어야 하는 겁니다.
보다 나은 방향으로 선택한다는 것 역시 보다 나은 방향과 하고 싶다가 합쳐진 것이죠.
인공지능 입장에선 보다 나은 방향을 잘 안다해도 그런 의지가 없다면 할 이유가 전혀 없어요.
나은 방향인 건 알겠는데 그걸 왜 해야하지? 라고 생각해보면 그게 의지가 필요한 부분이거든요.
SUNGFABIO님의 댓글
AI가 굳이 인간을 해치려고 할까 하는 것에 의문을 가져야 될 듯 합니다.
인류의 문명 발달에서 다른 약한 종을 공격하고 지배하며 자원을 끌어오던 습성이 있어 그런 잠재적인 두려움이 있다는 이야기도 있구요.
인류의 문명 발달에서 다른 약한 종을 공격하고 지배하며 자원을 끌어오던 습성이 있어 그런 잠재적인 두려움이 있다는 이야기도 있구요.
배리앨런님의 댓글
어떻게 작동되는지 모른다고 그러더군요
ㄷㄷㄷㄷ