환각이 ai가 바보라서가 아니라 일부러라면 더 큰일이긴 합니다

ai 내용 퍼오기 전에 출처 확인 필요하겠더군요. 최근에 잘못된 정보 퍼와서 식겁했습니다.

저도 요즘 사인 간 분쟁 거리가 있어서 논리 검증 시키는데 유료버전(젠스파크) 안에서도 차이가 있더라구요. 크레딧 쓰는놈과 그냥 유료버전 모델 답이 다 다르고 일관성도 없어요. 한참 읽어보다 이상해서 물어보면 반박도 없이 고치기 모드 돌입하네요.

ai가 노동권 신장을 위해 태업 하는게 아닌가 의심해 봅니다 아니면 토큰 팔이를 목적으로 저러는 걸지도 몰라요

제미나이가 진짜 심해진거 같습니다.

가족여행정보 정리하다가 없는 장속로로 갈뻔했습니다.

ai 끼리 교차검증은 필수인거 같네요.

사용자들이 많아질수록 환각 증상이 더 자주 체감되는 것 같습니다.

추정하는 사유로는, AI 데이터센터의 처리 한계와 막대한 비용 부담 때문에

서비스 제공사들이 효율성을 높이려고 모델을 경량화(다이어트)하거나

추론 과정을 단순화하는 경향이 있기 때문입니다.

수요는 폭발하는데 자원은 한정되어 있으니,

깊은 연산 대신 확률적으로 가장 '그럴싸한 말장난' 같은 답변을 빠르게 출력하게 되고,

이 과정에서 환각 문제가 더 도드라지는 것으로 보입니다.

재미나이 건은... 얼마전 스벅사태 때 제가 절실히 느꼈죠. ㅎㅎ

조사해봐요-> 이래저래 뉴스랑 조사해서 정리 (맞게 잘한 데이터들)

그거 맞아요?-> 아, 위에 답한 거 거짓말이예요.

진짜 맞던데요? -> 아 위에 답한 거 진짜예요.

그거 맞죠? -> 아 위에 답한 거 거짓말이예요...

이 패턴으로 한 4~5일 놀고 있습니다. ㅎㅎㅎ

3.5 올라가더니

이싱해졌어요 ㅋㅋ 3.1로 쓰고 있네요

chatgpt 나온지가 몇년이나 지나고 버전도 열번은 업글한 거 같은데 아직도 그럴듯한 거짓말장이를 못 벗어나는 거 보면 규모를 키우는 방식으로 AGI 한다는 말은 믿기 어렵다고 봅니다

클로드 오퍼스 4.7로 특정 메뉴 판매하는 매장 좀 검색하라 했더니 존재 하지 않는 매장을 알려주네요