ChatGPT는 쓸 게 못 되는군요
에놀미타

Lv.1 에놀미타 (125.♡.108.126)

2024년 12월 10일 PM 04:58 · 수정됨(17:59)

조회 1,789 공감 0

무료 버전이라 그럴 수도 있지만 환각(hallucination)의 위험성을 실감했습니다.

단순 반복 작업은 도구를 쓰면 편리하지만 사고를 도구에 맡기면 검증의 비용이 더 클 수도 있습니다.

확률적으로 임계치만 넘으면 true로 평가하는 구조적인 문제가 있는 것 같습니다.


데카르트: 나는 생각한다. 고로 나는 존재한다.


생각을 도구에 맡기면 나의 존재를 지워가는 게 아닐까 생각해봅니다.

정보의 범람 시대에 챗봇보다 무수한 정보의 참/거짓을 판정하는 AI가 필요하지 않을지..


댓글 (15)

  • 파이랜

    파이랜 Lv.1

    24.12.10 · 211.♡.62.78

    유료 버전 쓰라는거죠...
  • 에놀미타

    에놀미타 Lv.1 → 파이랜 작성자

    24.12.10 · 125.♡.108.126

    무료가 쓸만해야 지갑을 열지 않을까?란 생각이 듭니다.
  • 바람쟁이 Lv.1

    24.12.10 · 112.♡.26.11

    유료버젼 사용중인데요..
    계산을 잘 못하거나 틀린 부분들이 자주 나오더군요..
  • 일리어스

    일리어스 Lv.1

    24.12.10 · 211.♡.22.79

    요즘은 그래서 샌드박스 형으로 데이터 내에서만 대답을 해주는 AI 도 있습니다
    물론 기반은 chatGPT 같은 AI 인데.
    생성되는 답변 자체를 제한하는거죠

    할루시네이션이 해결되었다고 하더라구요
  • 에놀미타

    에놀미타 Lv.1 → 일리어스 작성자

    24.12.10 · 125.♡.108.126

    전문 지식의 경우 제한이 가능하겠지만 일상적인 문제는 제한이 쉽지 않을 것 같아요
  • 제리아스

    제리아스 Lv.1

    24.12.10 · 106.♡.197.150

    평소에 맞는 말만 하니까 이번에도 맞겠지

    유언이 될수도 있죠
  • 따끈따끈

    따끈따끈 Lv.1

    24.12.10 · 220.♡.238.46

    항상 의심하면서 쓰고 있습니다.
    초안 뽑는데는 최고이지만, 그 단계를 넘어가면 믿으면 안 돼요.
  • 쿠스콩 Lv.1

    24.12.10 · 218.♡.224.142

    유료도 좀 애매하긴 합니다만
    무료에 비할 바는 또 아닙니다
  • 부산혁신당

    부산혁신당 Lv.1

    24.12.10 · 121.♡.122.153

    인터넷 키보드 배틀에서 아무말이나 지껄여서 아무튼 따박따박 답하는 아이 보듯 해야해요
  • 에놀미타

    에놀미타 Lv.1 → 부산혁신당 작성자

    24.12.10 · 125.♡.108.126

    키배 뜰 때 성능은 확실한 것 같습니다.

댓글을 작성하려면 이 필요합니다.