AI 시대, ‘비판적 사고’가 필요하다

다가올 본격적인 AI 시대에는 철학적 탐구와 윤리적 함의를 포괄하는 ‘비판적 사고’를 해야 합니다. AI의 능력과 한계를 이해하고, 인간의 가치와 사회적 목표에 부합하는 방식으로 AI를 활용하는 데 있어서 필수입니다.

사실 철학은 AI 개발에 있어 중요한 역할을 했습니다. 1955년 ‘논리 이론가'라는 초기 AI 시스템은 화이트헤드와 버트런드 러셀의 철학적 토대 위에 구축됐습니다. 최근 생성 AI의 기반이 되는 대규모 언어 모델(LLM)도 핵심은 언어 사용의 통계적 패턴을 추적하고, 이를 활용하는 것입니다. 20세기 중반 오스트리아 철학자 루트비히 비트겐슈타인이 이 아이디어와 매우 흡사한 것을 표현했습니다. 그는 "단어의 의미는 그 단어가 언어에서 사용되는 것"이라고 말했습니다.

이렇게 철학적 탐구는 AI 시스템의 지능, 의식, 창의성에 대한 근본적인 질문을 해결하는 데 기여할 수 있습니다. 논리, 인식론, 윤리학의 개념은 AI 아키텍처와 알고리즘 개발을 위한 프레임워크를 제공할 수 있습니다.

개인 차원에서도 AI 기술을 효과적으로 활용하려면 구체적이고 비판적 사고 능력을 키워야 겠습니다. 사용자는 유용한 정보를 추출하기 위해 정확한 프롬프트(질문)를 구성하고, AI가 생성한 콘텐츠의 정확성과 관련성을 비판적으로 평가하는 것입니다. AI의 결과물을 인간의 경험과 판단으로 종합하는 방법을 배워야 합니다. 

인간과 AI 시스템 간의 이러한 역동적인 상호작용에는 균형 잡힌 접근 방식이 중요합니다. 비판적 사고를 유지하면서 AI의 혁신적 잠재력을 수용하는 것입니다. 또한 AI가 기존의 편견과 불평등을 강화할 수 있다는 것에 유념합니다. 과거 데이터로 학습된 AI 시스템은 여러 분야에서 차별적인 패턴을 지속시킬 수 있습니다. 따라서 항상 비판적 검토를 해야 합니다.

AI 시스템이 더 복잡해짐에 따라 의사 결정 과정이 불투명해져 '블랙박스(결과는 출력되지만 내부 작동 방식을 파악할 수 없는 것)' 문제가 발생할 수 있습니다. 이러한 투명성 부족은 AI 시스템이 오류를 범하거나 해로운 결과를 초래할 때 책임과 의무에 대한 문제가 발생합니다. 특히 고도로 발전된 AI 시스템이 인간의 가치와 목표에 부합하고, 인류에 대한 잠재적 위험을 완화하기 위한 사전 조치의 필요성 때문이라도 철학적 논의는 필요합니다.

철학자 플라톤은 알지도 못하면서 안다고 거짓 주장하는 것이 가장 위험한 태도라고 했습니다. 무지는 가르침으로 해결할 수 있지만, 진리(혹은 진실)를 알고 있다고 자만하는 태도는 심각합니다. 충동적이고 잘못된 신념으로 끔찍한 행동할 수 있습니다. AI 업계가 올바름에 입각해 어떤 진리가 타당한지 파악하는 것이 아니라, 자신의 이익만을 추구할 때 벌어질 일이 두렵습니다.