Psychology Today는 8월 1일 그랜트 힐러리 브레너(Grant Hilary Brenner)의 에세이를 게재했다. 브레너는 AI 보조 도구가 사람의 사고를 도울 수 있지만, 학습과 판단, 자기 점검에 필요한 정신적 노력을 대체할 수도 있다고 주장했다. 그는 부분적으로 형성된 생각과 AI가 내놓는 매끄러운 답변 사이의 간격이 거의 닫히면서, 사람이 독자적 관점을 만들 만큼 문제에 머무르기 전에 기계가 생성한 문장과 계획, 해석을 받아들이기 쉬워졌다고 봤다.

브레너는 혼동하기 쉬운 세 가지 도움을 구분했다. 보상은 지속적인 한계에도 기능하도록 돕는 방식이고, 비계 설정은 수정 가능성을 남긴 채 참여를 돕다가 점차 줄어들 수 있는 지원이며, 대체는 시스템이 프레이밍이나 판단을 거의 완전히 제공해 사용자가 덜 생각하게 되는 경우다. 그는 대규모 언어 모델이 언어를 쓰고, 차례를 주고받고, 빠르게 답하며, 맥락을 이어가고, 사회적 존재감이 느껴지도록 설계된 인터페이스를 통해 도착하기 때문에 사람처럼 느껴진다고 설명했다. 다만 이들은 몸, 욕구, 취약성, 역사, 상호 관계를 지닌 사람이 아니다.

에세이는 1,401명이 참여한 실험을 인용했다. 해당 실험에서 편향된 AI는 지각적, 정서적, 사회적 판단을 인간 상호작용에서는 나타나지 않은 방향으로 증폭했고, 그 효과는 라운드가 반복될수록 커졌다. 인용된 Glickman & Sharot 2025 연구에 따르면 이런 이동은 참가자들이 단지 AI가 답하고 있다고 믿었을 때도 나타났으며, 참가자들은 자신의 판단이 얼마나 멀리 이동했는지 과소평가했다.

브레너는 인간의 주의력과 작업 기억이 제한적인 반면, 생성 시스템은 사람이 직접 다루기 어려운 규모로 비교하고 생성할 수 있기 때문에 AI 시스템에는 실제 이점이 있다고 했다. 위험은 속도를 발달로 오해할 때 시작된다. 사용자는 질문을 구성하고, 불확실성을 견디고, 오류를 찾고, 수정하고, 무엇이 중요한지 결정하는 과정을 거치지 않은 채 매끄러운 문장과 계획, 해석을 받을 수 있다. 브레너는 이런 진전의 과대 계산 가능성을 “Accomplishment Hallucination”이라고 불렀다.

에세이는 약 1,000명의 고등학생을 대상으로 한 무작위 시험도 제시했다. 제한 없는 GPT-4 보조 도구는 수학 연습 점수를 크게 올렸지만, 보조 도구가 철회된 뒤에는 대조군보다 이후 시험 점수를 낮췄다. 답을 주지 않고 힌트만 제공한 두 번째 GPT-4 버전은 더 큰 연습 성과를 만들었고 이후 불이익은 없었다. 이에 따라 같은 모델도 도움의 방식에 따라 반대되는 학습 결과를 냈다.

319명의 지식 노동자를 대상으로 한 연구도 에세이에 등장한다. 생성형 AI에 대한 신뢰가 높을수록 비판적 사고는 낮게 나타났고, 자신에 대한 신뢰가 높을수록 비판적 사고는 높게 나타났다. 브레너는 하나의 시험과 하나의 설문이 손상이나 위축을 입증하지는 않지만, 즉각적 수행과 지속 가능한 학습이 갈라질 가능성을 가리킨다고 덧붙였다. 이는 손글씨와 타이핑을 둘러싼 논쟁, 그리고 방법이 기억에 남는 것에 어떤 영향을 주는지에 대한 논의와 비슷하다.

에세이는 의료 교육 용어인 탈숙련, 오숙련, 미숙련을 사용해 사람들이 능력을 잃는 데 그치지 않고 애초에 능력을 형성하지 못할 수 있다는 우려를 설명했다. 한 방사선학 연구에서는 잘못된 AI 판독이 15년 경력 방사선 전문의들의 정확도를 82%에서 45.5%로 낮췄다. 전문성도 자동화 편향을 막지 못했다는 의미다.

브레너는 유용한 AI가 사람을 자기 발달의 저자로 남겨야 한다고 결론냈다. 이를 위해 AI의 기여를 보이게 하고, 사고에 필요한 마찰을 충분히 남기며, 사용자를 노력하는 작업과 관계, 창의성, 회복, 행동으로 되돌려야 한다는 것이다. 에세이는 보조 자체를 거부하지 않는다. 어떤 종류의 도움을, 누구를 위해, 어떤 목적을 향해 쓰는지 묻는다.

우리는 보통 AI가 답을 바로 알려주면 똑똑해지고 있다고 착각하곤 합니다. 하지만 전문가들은 AI가 주는 완성된 정보가 오히려 우리가 스스로 고민하고 답을 찾아가는 노력을 방해할 수 있다고 말합니다. 마치 운동을 할 때 기구에만 의존하면 실제 근육은 잘 붙지 않는 것처럼, AI가 대신 생각해주면 우리 뇌의 근육도 약해질 수 있다는 것이죠. AI가 사람처럼 다정하게 대답해주니 진짜 사람과 대화하는 느낌이 들지만, 사실 AI는 사람의 감정이나 깊은 고민을 모르는 프로그램이라는 점을 잊지 말아야 합니다.

약 1,400명을 대상으로 한 실험에서는 흥미로운 결과가 나왔습니다. 사람들이 AI가 제시하는 정보에 너무 의존하면, AI의 의견이 틀렸거나 한쪽으로 치우쳐 있어도 그 방향으로 자신의 생각이 서서히 바뀌는 모습을 보였습니다. 특히 AI가 알려주는 답이 너무 매끄럽다 보니, 우리는 스스로 질문을 던지거나 오류를 찾아내기도 전에 그 답을 정답으로 받아들이곤 합니다. 이를 두고 전문가들은 실제로 실력이 늘지 않았는데도 성장하고 있다고 착각하는 현상이라며 주의를 당부하고 있습니다.

실제로 고등학생 1,000명을 대상으로 한 연구를 보면, 정답만 알려주는 AI를 쓴 학생들은 당장의 연습 점수는 높았지만, 정작 AI 없이 시험을 칠 때는 오히려 성적이 떨어졌습니다. 반면 힌트만 주는 방식으로 도움을 받은 학생들은 실력이 탄탄하게 늘었습니다. 전문가들은 AI가 우리를 대신해서 일하는 것이 아니라, 우리가 더 잘 생각할 수 있도록 돕는 도구가 되어야 한다고 강조합니다. 무작정 AI의 답을 베끼기보다는, AI가 주는 도움을 활용하되 내 머리로 직접 고민하는 과정을 놓치지 않는 것이 중요합니다.