인공지능 기술이 급격히 발전함에 따라 유명 인사들의 발언이 대중에게 미치는 영향력이 더욱 커지고 있다. 최근 저명한 진화생물학자 리처드 도킨스(Richard Dawkins)가 인기 있는 거대 언어 모델인 Claude를 높게 평가하며 기술 커뮤니티 내에서 뜨거운 논쟁이 촉발되었다. 그는 AI가 인간 수준의 인지적 정교함을 갖추었다고 시사했으나, 인지과학자 게리 마커스(Gary Marcus)를 비롯한 비판적 시각을 가진 이들은 이러한 주장이 현행 AI 시스템의 실제 작동 원리와는 거리가 멀다고 지적한다.

이번 논쟁의 핵심은 구문론적 유창함과 의미론적 추론 능력 사이의 구분이다. Claude와 같은 거대 언어 모델은 대규모 텍스트 데이터를 통계적으로 학습하여 다음에 올 가장 확률 높은 단어를 예측하는 방식으로 작동한다. 이러한 기계적 특성은 놀랍도록 유창한 답변을 생성하지만, 이는 모델이 인간처럼 세상에 대한 정신적 모델을 가지거나 실제 추론 능력을 갖췄음을 의미하지는 않는다.

게리 마커스와 같은 회의론자들은 이러한 시스템을 충분한 검증 없이 '지능적'인 존재로 간주할 때 발생할 수 있는 과대평가의 위험성을 경고한다. 인간은 본능적으로 비인간 시스템에 인간적인 속성을 부여하려는 경향인 '의인화'의 함정에 빠지기 쉽다. 단순히 유창한 대화가 가능하다고 해서 기계가 과학적 개념을 진정으로 이해한다고 믿는다면, 예측 불가능한 오류로 이어질 수 있는 실질적인 위험을 간과하게 된다.

AI를 공부하는 학생들에게 이번 사건은 중요한 문해력 학습의 사례가 된다. 챗봇이 보여주는 언어적 유창함과 그 이면의 실제 역량을 분리해서 인식하는 것은 무엇보다 중요하다. AI 모델은 요약, 브레인스토밍, 패턴 인식에는 매우 강력한 도구이지만, 인간의 전문성 뒤에 있는 본질적인 진실성까지 갖춘 것은 아니다.

인간의 지성과 확률적인 텍스트 생성을 구분하는 능력을 갖추는 것이 향후 AI와의 협업을 올바르게 이끌어갈 열쇠가 될 것이다. 기술의 한계를 명확히 이해할 때, 우리는 비로소 도구에 의존하는 단계를 넘어 AI를 안전하고 지혜롭게 활용하는 단계로 나아갈 수 있다.

얼마 전, 진화생물학자로 유명한 리처드 도킨스 교수가 클로드(Claude)라는 AI를 보고 아주 똑똑하다며 칭찬한 일이 있었습니다. 그런데 이 발언을 두고 전문가들 사이에서 큰 논쟁이 벌어졌습니다. 대표적인 AI 비판가인 게리 마커스 교수는 AI가 사람처럼 생각하는 것이 아니라, 단지 사람인 척 연기를 잘하는 것뿐이라고 반박했거든요. 이 사건은 많은 사람이 AI와 대화하며 AI가 진짜로 상황을 이해하고 있다고 착각하기 쉽다는 점을 잘 보여줍니다.

AI의 원리를 식당 주방에 비유해 볼게요. AI는 요리사가 아니라, 세상의 모든 요리법 책을 다 외우고 있는 서빙 로봇과 같습니다. 다음에 나올 단어가 무엇일지 확률적으로 추측해서 문장을 잇는 방식(통계적 예측)으로 말을 만드는데, 워낙 방대한 정보를 학습하다 보니 마치 사람이 깊은 고민을 해서 대답하는 것처럼 보일 뿐이죠. 즉, 도킨스 교수가 AI와 대화하며 느꼈던 감동은 사실 AI가 교수의 뛰어난 질문 수준에 맞춰 그럴듯한 답변을 흉내 냈기에 가능한 일이었을지도 모릅니다.

중요한 것은 우리가 AI를 대할 때 정신을 바짝 차려야 한다는 점입니다. AI가 말을 유창하게 잘한다고 해서 그 내용이 항상 사실이거나 논리적이라고 믿으면 큰코다칠 수 있습니다. 때로는 AI가 자신 있게 틀린 정보를 내놓는 현상을 환각(Hallucinations)이라고 하는데, 이를 진짜 지식이라고 믿고 중요한 일을 맡기면 위험할 수 있죠. AI는 자료를 정리하거나 아이디어를 얻을 때 쓰는 유용한 도구일 뿐, 사람처럼 스스로 판단하고 책임을 질 수 있는 존재는 아니라는 점을 꼭 기억해야 합니다.