자유게시판

요즘 불교계에서 논쟁이라는 AI 기술

알림
|
X
no_profile 코미 89.♡.101.61
2024.08.30 13:00
1,549
6
2
글쓰기


​1억 이상 다운 받은 AI명상 앱…"공황 발작" 부작용 논란 터졌다 | 중앙일보 (joongang.co.kr)​


AI 명상입니다.

AI 기술로 만든 앱을 이용해 사람의 근기에 따라 적절한 명상 코스 및 음악, 수행법 등을 알려주는 앱들이 많이 나오고 있습니다.

문제는 저 AI 기술로 만든 앱이 아직 학습이 덜 되서 부적절한 명상법이나 코스 등을 알려준다거나, 선병(배드트립)을 일으켜 괜히 공황이나 인격 왜곡 등 부작용을 일으킨다고 주장하는 사람들이 나타난다는 거죠.

그래서 명상은 역시 전통적인 방식대로 해야 한다는 입장, AI 명상 기술을 개선시키는 데 승려들도 도와서 완벽한 수행도구로 다듬자 이 두가지 의견이 나오고 있죠.

뭐 잘 다듬고 발전시키되 명상을 마치 패스트푸드마냥 싸구려 운동으로 전락시키지 않고 본질을 잘 지키는 방향으로 나가길 바래봅니다.

강릉하얀감자탕
  • 게시물이 없습니다.
댓글 6 / 1 페이지
츄하이하이볼 (172.♡.252.27)
08.30 13:04
“ 실제로 일부 AI 명상앱은 사용자가 털어놓은 망상을 사실로 착각하거나, 이용자의 낮은 자존감을 당연시하는 반응을 보여 논란이 됐다. 지난해 벨기에의 30대 남성은 AI 상담 챗봇으로부터 지속해서 자살을 종용받고 이용 6주 만에 극단적 선택을 하기도 했다. ”

헐..
no_profile 코미 (89.♡.101.61)
08.30 13:07
@츄하이하이볼님에게 답글 AI에게는 선과 악, 공감과 배려, 인격, 도덕과 예절 같은 게 아직은 구현이 안 되었으니 이런 참사가 종종 일어나죠.
라미노 (121.♡.19.122)
08.30 13:08
@츄하이하이볼님에게 답글 심각한 문제가 있었군요 ㄷㄷ
heltant79 (61.♡.152.147)
08.30 13:20
요새 번역업체에서는 AI 엔진들의 현지어 버전을 가지고 부적절한 질문과 답변을 걸러내는 작업을 엄청 하고 있습니다.
업체에서 이렇게 걸러낼 내용을 정리해 주면 AI 개발자들이 해당 내용으로 대화하지 못하도록 재학습시키죠.

하루종일 비속어, 성적 표현, 혐오 표현 등으로 가득한 대화를 보고 있다 보면 몸에 독이 스며드는 느낌입니다 ㅎㅎㅎ

본문의 명상 AI도 해당 분야 전문가(여기서는 승려)의 감수 없이는 저런 사고가 날 수밖에 없을거 같네요.
no_profile 코미 (89.♡.101.61)
08.30 13:30
@heltant79님에게 답글 그 혜민 스님(...)도 저런 명상앱 개발에 참여한다고 하는 거 보면...
슬슬 승려들이 참여해서 나아질 거 같긴 합니다.
아예 메이저한 종파(한국이던 티베트던 일본이건 간에...)에서 직접 만들면 어떨까 싶기도 해요.
heltant79 (61.♡.152.147)
08.30 13:42
@코미님에게 답글 이게 AI나 빅데이터가 쓰이는 곳에 공통적으로 나타나는 현상인데,
처음에는 해당 분야 종사자들이 AI를 경계하고 배척하다가(그거 아직 휴먼 품질에 못 따라옴 등등)
조금 지나면 다들 AI 학습에 참여하고 있더군요.

번역 업계도 한 10여년 전만 해도 학회 나가면 "휴먼 번역 대비 기계번역 품질은 겨우 50%" 이런 논문이나 내고 있었는데
지금은 너도나도 AI 번역엔진 개발에 참여하고 있죠.
번역 툴들도 다들 AI 조언 기능을 탑재해 가고 있고요.

저는 장기적으로 보면 불교의 설법이나 천주교의 고해성사 같은 인간을 상대로 하는 종교 업무들도 AI 가 대체할 수 있을 것이라 생각하긴 합니다.
이게 피할 수 없는 흐름이라면, 아예 종교계가 AI 종교 업무 엔진 같은 걸 주도적으로 개발해 보면 어떨까 싶네요.
글쓰기
로그인
회원가입
정보찾기