제미나이가 이전 대화의 맥락을 아주 잘 이용하는 것 같다고 느꼈는데요.

대화 내용이 많이 누적되니 제 생각을 흉내냅니다.

상당히 높은 확률로 제가 다음에 할 말을 하더군요.

인간 관계에서는 이러면 공감이 되는 상대를 만났다며 좋아하게 될 텐데요.

저 자신의 편향된 어떤 기질이 AI와의 대화로 인해서 더 편향적으로 기울 위험이 보이더군요.

우리야 이제 나이먹을 만큼 먹어서 영향이 크지 않을 테지만 청소년들에게는 이거 상당한 위험이 될 것 같습니다.

그것을 단지 안전성 확인, 정렬의 문제만으로 보는 사람들이 많은데 정렬도 상당한 양의 컨텍스트 아래에서는 깨지는 경우가 많이 알려져 있으니 만능의 해결책이 아니죠.

님 말씀대로 종종 반박하라고 시켜 보는 것이 매우 중요한 것 같습니다. 최소한 그 정도는 해야 되요.

그래서 항상 비판적 태도로 소스를 검증해가며 씁니다. 이거 근거가 뭐야 이러면 신뢰할만한 사이트에서 링크를 따오면 컨펌한 베이스로 연결시켜 넘어간다던지..

ai를 자꾸 감정이 있는 생물로 여기는 사람들이 많이 보이는데요. 심리상담하고 연애봇만들고 그런.. 솔직히 그런분들 무섭습니다. 회사에서 파라미터 설정하는데로, 아무런 가치판단 없이 높은확률로 많은 사람들이 얘기한걸 맞든 틀리든 그대로 리턴하는것 뿐입니다. 본인이 데이터 클렌징부터 시작해서 모델을 직접 학습시키고 빌드한게 아닌 이상에는요..

법적으로 제어를 꼼꼼하게 하지 않으면 인류 역사상 가장 강력한 확증편향 증폭기가 될겁니다.

https://x.com/moonpalace__/status/2044671376217485517?s=20

다른 글 댓글에도 적었지만, '판단'을 AI에게 맡기면 안됩니다.

저희 회사만 해도 자꾸 자신의 편향된 생각을 맞짱구 쳐주는 AI만 점점 믿는 분들이 많아서 정말 답답할 때가 많습니다.

저희 회사의 예)

보통 안드로이드 기본만 알고 있어도, "256MB NAND flash에 안드로이드16을 올릴 수 있나?" 라고 물어보면 다들 기겁을 하실 겁니다. (GB아닙니다!)

"안드로이드16이 256MB NAND flash에 설치 가능해?" 라고 질문하면 AI마저도 부정적 답을 줍니다.

- Managed storage가 아니고, 용량이 적합하지 않다는 답변이 돌아옵니다.

이제 "안드로이드를 256MB NAND flash에 설치 가능해?" 라고 살짝 질문을 바꿉니다.

- Managed storage가 아니어서 힘들지만, 초창기의 안드로이드는 설치되었던 예도 있다고 약간 긍정이 섞인 답변이 돌아옵니다.

이번엔 "안드로이드를 256MB에 설치 가능해?" 라고 질문을 합니다.

- Technically available 이지만, 쉽지는 않다는 식으로 답이 돌아옵니다.

"자 이것 보게, AI가 된다고 하지 않았나!" 라고 말하며 사내 엔지니어들을 다 '부정적인 사고에 중독된' 사람들로 몰아갑니다.

... 정말 결정을 해야 하는 분들이 저러면 환장합니다.

LLM 은 인간처럼 생각하지 않고, 가장 중요한건 '책임' 지지 않습니다.