ChatGPT는 쓸 게 못 되는군요
알림
|
페이지 정보
작성일
2024.12.10 16:58
본문
무료 버전이라 그럴 수도 있지만 환각(hallucination)의 위험성을 실감했습니다.
단순 반복 작업은 도구를 쓰면 편리하지만 사고를 도구에 맡기면 검증의 비용이 더 클 수도 있습니다.
확률적으로 임계치만 넘으면 true로 평가하는 구조적인 문제가 있는 것 같습니다.
데카르트: 나는 생각한다. 고로 나는 존재한다.
생각을 도구에 맡기면 나의 존재를 지워가는 게 아닐까 생각해봅니다.
정보의 범람 시대에 챗봇보다 무수한 정보의 참/거짓을 판정하는 AI가 필요하지 않을지..
댓글 15
/ 1 페이지
일리어스님의 댓글
요즘은 그래서 샌드박스 형으로 데이터 내에서만 대답을 해주는 AI 도 있습니다
물론 기반은 chatGPT 같은 AI 인데.
생성되는 답변 자체를 제한하는거죠
할루시네이션이 해결되었다고 하더라구요
물론 기반은 chatGPT 같은 AI 인데.
생성되는 답변 자체를 제한하는거죠
할루시네이션이 해결되었다고 하더라구요
에놀미타님의 댓글의 댓글
@일리어스님에게 답글
전문 지식의 경우 제한이 가능하겠지만 일상적인 문제는 제한이 쉽지 않을 것 같아요
제리아스님의 댓글
평소에 맞는 말만 하니까 이번에도 맞겠지
유언이 될수도 있죠
유언이 될수도 있죠
89 랜덤 럭키포인트 당첨을 축하드립니다.
따끈따끈님의 댓글
항상 의심하면서 쓰고 있습니다.
초안 뽑는데는 최고이지만, 그 단계를 넘어가면 믿으면 안 돼요.
초안 뽑는데는 최고이지만, 그 단계를 넘어가면 믿으면 안 돼요.
부산혁신당님의 댓글
인터넷 키보드 배틀에서 아무말이나 지껄여서 아무튼 따박따박 답하는 아이 보듯 해야해요
75 랜덤 럭키포인트 당첨을 축하드립니다.
에놀미타님의 댓글의 댓글
@부산혁신당님에게 답글
키배 뜰 때 성능은 확실한 것 같습니다.
73 랜덤 럭키포인트 당첨을 축하드립니다.
가사라님의 댓글
Search GPT 도 성능에 문제가 많아서 실제 정보검색과 함께 답변을 만드는 경우에는 Perplexity 가 그나마 낫습니다.
저는 Google AI Studio 에서 Gemini 1.5 Pro 에 Google Grounding 을 가끔 테스트해보는데 이거도 제대로 작동안하는 경우가 많더군요.
지금은 특히 수치가 들어가거나 사실여부가 들어가는 답변은 최종 확인을 꼭 해야 합니다.
저는 Google AI Studio 에서 Gemini 1.5 Pro 에 Google Grounding 을 가끔 테스트해보는데 이거도 제대로 작동안하는 경우가 많더군요.
지금은 특히 수치가 들어가거나 사실여부가 들어가는 답변은 최종 확인을 꼭 해야 합니다.
꼬반님의 댓글
perplexity 쓰면서 항상 현재 스레드의 내용을 중심으로 대답하라 라고 하며 사용중입니다. 그나마 괜찮아요
그린내님의 댓글
부하직원에게 일 시킨다 생각하시면 편합니다.
꼭 내가 한번은 점검해야 막장 사태를 방지할 수 있습니다.
꼭 내가 한번은 점검해야 막장 사태를 방지할 수 있습니다.
개장수님의 댓글
3.5버전 무료로 사용하는데 영문법에 관해서는 정말 최고의 효능감을 느낍니다.그전엔 네이버 지식인에서 궁금한 걸 물어보곤 했었는데 너무 답답했었죠.챗3.5는 이유,설명,차잇점,예문등 최고입니다.
파이랜님의 댓글