Google, 검색에서 이상한 AI 답변 제거 위해 긴급 대응
페이지 정보
본문
소셜 미디어에서는 구글의 새로운 AI 개요(Overview) 기능이 이상한 답변을 제공하는 예시들이 화제가 되고 있다. 피자에 접착제를 바르라는 답변부터 바위를 먹으라는 제안까지 다양하다. 이러한 혼란스러운 출시로 인해 구글은 특정 검색에 대해 AI 개요를 수동으로 비활성화하기 위해 분주히 움직이고 있으며, 이는 사용자가 소셜 네트워크에 게시된 후 사라지는 다양한 밈을 보는 이유다.
구글은 2023년 5월에 베타 버전으로 출시된 이래로 AI 개요 기능을 1년간 테스트해왔으며, 선다 피차이 CEO는 그 기간 동안 10억 건 이상의 쿼리를 처리했다고 밝혔다. 하지만 피차이는 또한 구글이 하드웨어, 엔지니어링 및 기술적 돌파구를 통해 AI 답변 제공 비용을 80% 절감했다고 언급했다. 이러한 최적화가 기술이 준비되기 전에 너무 일찍 이루어졌을 수 있다는 우려가 제기되고 있다.
한 익명의 AI 창립자는 “한때 최첨단 기술과 고품질 제품을 선보였던 회사가 이제는 저품질 출력물로 밈이 되고 있다”고 The Verge에 말했다.
구글은 AI 개요 제품이 대체로 “고품질 정보를” 사용자에게 제공한다고 주장하고 있다. 구글 대변인 메건 판즈워스는 The Verge와의 이메일 인터뷰에서 “우리가 본 많은 예시는 드문 쿼리였으며, 조작된 예시나 재현할 수 없는 예시도 있었다”고 밝혔다. 판즈워스는 또한 “우리의 콘텐츠 정책에 따라 적절한 경우 특정 쿼리에 대한 AI 개요를 신속하게 제거하고, 이러한 예시를 사용하여 시스템의 광범위한 개선을 개발하고 있다”고 확인했다.
AI 전문가이자 뉴욕대학교 신경과학 명예 교수인 게리 마커스는 많은 AI 회사들이 이 기술이 80%의 정확도에서 100%로 발전할 것이라는 꿈을 팔고 있다고 The Verge에 말했다. 초기 80%를 달성하는 것은 상대적으로 간단하지만, 마지막 20%는 극도로 어려운 과제라고 마커스는 설명했다. 마커스는 “실제로는 이게 그럴싸한지, 이 출처가 합법적인지 판단하기 위해 어떤 추론을 해야 한다”며, “이는 인공지능 전반 지능(AGI)이 필요할 수도 있다”고 말했다. 또한 마커스와 메타의 AI 책임자인 얀 르쿤은 구글의 Gemini나 OpenAI의 GPT-4와 같은 현재의 대형 언어 모델이 AGI를 창출하지 않을 것이라고 동의했다.
구글은 어려운 상황에 놓여 있다. 빙(Bing)은 사티아 나델라의 “우리가 그들을 춤추게 만들었다”는 유명한 발언과 함께 구글보다 먼저 AI를 대대적으로 도입했으며, OpenAI는 자체 검색 엔진을 개발 중이라는 소문이 있고, 새로운 AI 검색 스타트업은 이미 10억 달러의 가치를 지니고 있으며, 최상의 경험을 원하는 젊은 세대는 틱톡으로 전환하고 있다. 회사는 경쟁 압박을 느끼고 있으며, 이는 혼란스러운 AI 출시를 초래하고 있다. 마커스는 2022년에 메타가 출시한 AI 시스템 갈락티카가 유리 섭취를 권장하는 등의 이유로 출시 직후 철회된 사례를 언급하며 이와 유사한 상황이라고 말했다.
구글은 AI 개요 기능에 대한 대담한 계획을 가지고 있다. 현재 존재하는 기능은 지난주 발표된 것의 일부분에 불과하다. 복잡한 쿼리에 대한 다단계 추론, AI가 정리한 결과 페이지 생성, 구글 렌즈에서의 비디오 검색 등 야심 찬 목표가 많다. 하지만 현재로서는 기본적인 것들을 제대로 구현하는 데 집중해야 하며, 구글의 평판은 이에 달려 있다.
마커스는 “이 모델들은 본래 자신들의 작업을 검증하는 기능이 없으며, 이것이 이 산업을 곤경에 빠뜨린 이유다”고 말했다.
출처 및 원문: https://www.theverge.com/2024/5/24/24164119/google-ai-overview-mistakes-search-race-openai
번역: chatgpt4o
가을무렵님의 댓글의 댓글
이러나 저러나 구글의 AI는 참 말이 많이 나오긴 하네요.
와싸다님의 댓글