AI는 사람들의 평균을 끌어올리는 동시에, 사람들을 평균으로 끌어당긴다

챗GPT가 불러온 ‘생성형 AI 혁명’으로부터 약 3년 반.
우리는 더 이상 긴 글을 한 줄 한 줄 읽거나, 직접 글을 잘 쓰지 않게 되었죠.
일상과 업무의 일부분에 AI를 사용하는 것은 너무나 당연한 일이 되었습니다.
AI는 글을 잘 씁니다. 너무 잘 쓰죠.
‘감히 인간이 AI가 쓴 글을 고쳐도 될까?’라는 생각이 들 정도로 논리적인 문장들을 몇 초 만에 내뱉습니다.
게다가 날이 갈수록 AI의 성능은 올라갑니다.
어딘가 어색하던 한국어도 이제 꽤 능숙해졌고, 밥 먹듯 하던 거짓말도 어느 순간 잘 하지 않게 되었죠.
전문적인 글을 쓸 때는 인터넷을 검색해 알아서 출처 검증까지 해줍니다.
그런데 이상하죠?
어딘가 ‘AI스럽습니다.’
왠지 재미가 없습니다.
마치 너무 똑똑하고 연구 실적도 대단한데, 유독 강의는 재미없는 교수님처럼요.
비슷하게 느끼신 분, 없으신가요.
그렇다면 애초에 매력적인 글, 사람들이 감동하는 글, 잘 팔리는 글이란 무엇일까요?
대부분의 인간은 친숙해서 받아들이기 쉬운 것과, 예측 불가능해서 흥미로운 의외성 사이의 어딘가에서 큰 매력을 느낍니다.
너무 익숙하기만 하면 재미가 없고, 너무 생소하면 쉽게 외면하게 되죠.
아마 ‘센스’가 좋은 사람들은 무의식적으로, 수치화하기 어려운 이 사이의 최적해를 잘 찾는 것 같습니다.
그렇다면 AI가 이 방법론을 기술적으로 흉내 낼 수 있을까요?
AI가 잘하는 것은 주어진 맥락에서 다음에 올 말의 확률을 정교하게 계산하는 것입니다. 그런데 우리가 ‘센스 있다’고 느끼는 표현은 때때로 가장 높은 확률의 선택이 아닙니다. 그렇다고 무작위인 것도 아닙니다.
AI는 매 순간 ‘다음에 무엇이 올까’를 계산
생성형 AI의 학습 시에 주어지는 목표는 다음에 등장할 토큰(=말 조각)을 예측하는 것입니다.
AI가 문장을 생성할 때는 지금까지 입력된 질문과 답변이 내부적으로 숫자로 변환되고, 어떤 정보가 현재 문맥에서 중요한지 계산됩니다. 그리고 학습된 규칙에 따라 다음에 등장할 가능성이 높은 ‘말 조각들’에 각각 점수를 매깁니다.
어떤 말 조각은 다음에 등장할 확률이 20%일 수 있고, 어떤 것은 8%, 또 어떤 것은 0.01%일 수도 있습니다. 하나를 선택한 뒤에는 그 말 조각을 다시 문맥에 포함시켜 똑같은 계산을 반복합니다.
긴 글도 결국은 이 과정의 연속입니다.
물론 일부 비판론자들의 주장처럼 AI가 단순한 자동완성기라는 뜻은 아닙니다.
AI 내부에는 학습을 통해 개념·관계·문법·세계 지식에 관한 복잡한 표현이 형성되고, 최근에는 스스로 점검하고 수정하면서 긴 추론 과정도 수행할 수 있게 되었죠.
하지만 기술 원리상, 최종적으로 문장이 출력되는 순간에는 언제나 다음 말 조각에 대한 확률분포를 거쳐야 합니다.
결국 가장 그럴듯한 말을 찾도록 학습된 AI 특유의 논리적이면서도 어딘가 뻔한 ‘AI스러움’이 발생합니다.
가장 그럴듯한 문장을 잘 찾는 능력
여기에 생성형 AI는 추가적인 훈련을 받습니다.
사람이 선호하는 답변을 학습하고, 지시를 더 잘 따르며 유용한 답변을 만들도록 AI를 유도합니다. 예를 들어 사람이 여러 AI 답변을 비교해 좋아하는 답변을 고르고, 이를 다시 AI 훈련에 반영하는 방식입니다.
어딘가 ‘이상한 말’을 제거하는 AI의 능력은 계속 좋아지고 있습니다. 코딩이나 비즈니스 문서처럼 글솜씨나 개성, 사람만의 감성이 덜 중요한 작업에서는 이런 방식이 뛰어난 효과를 발휘하죠.
하지만 정답도, 정해진 틀도 없는 작문에서는 이야기가 조금 다릅니다.
2026년 8월 24일 Nature Human Behaviour에 발표된 연구는 88만 건 이상의 텍스트를 분석했습니다. 사람이 쓴 글을 LLM으로 다듬거나 다시 쓰게 하자 핵심 내용은 대체로 유지됐지만, 사람마다 달랐던 문체의 차이는 줄었습니다. 즉, 글은 정돈됐지만 사람들 사이의 독특한 차이도 함께 줄어든 것입니다.
2024년 Science Advances의 실험에서도 비슷한 결과가 발견됐습니다. AI가 제안한 아이디어를 활용한 참가자들의 글은 평균적으로 더 창의적이고, 잘 쓰였으며, 재미있다는 평가를 받았습니다. 특히 원래 창작 능력이 낮았던 참가자에게 효과가 컸습니다. 하지만 AI의 도움을 받은 작품들을 서로 비교하자 작품 간 유사성은 오히려 증가했습니다.
AI는 사람들의 평균을 끌어올리는 동시에, 사람들을 평균으로 끌어당깁니다.
가장 효과적인 방법 = 구체적으로 지시하기
AI의 원리를 이해했다면, 활용법도 조금 달라집니다.
초기 생성형 AI에서는 temperature, top-k, top-p 같은 값을 조절해 답변의 다양성을 높이는 방법이 자주 논의됐습니다. temperature는 낮은 확률의 단어도 선택될 가능성을 높이고, top-k와 top-p는 다음 단어를 고를 후보의 범위를 조절하는 방식입니다. 하지만 이런 방법은 선택의 폭을 넓힐 뿐, 어떤 ‘의외성’이 의미 있는지까지 판단해주지는 못합니다.
지금까지 알려진 가장 효과적인 방법은 결국 프롬프트를 구체적으로 쓰는 것입니다.
조건을 많이 줄수록 AI의 자유가 줄어들어 더 뻔한 답이 나올 것 같지만, 흥미롭게도 정반대입니다.
막연한 질문은 가능한 답의 범위가 너무 넓기 때문에 AI가 학습한 가장 보편적이고 안전한 표현으로 돌아가기 쉽습니다. 반대로 목적, 맥락, 관점, 반드시 포함할 사실, 피해야 할 표현처럼 평균과 다른 조건을 구체적으로 추가하면 다음 토큰의 확률분포 자체가 달라지고, 그 결과 흔하고 뻔한 답변이 등장할 가능성은 오히려 줄어들죠.
결국 좋은 프롬프트에 필요한 것은 “좀 더 창의적으로 써줘”라는 지시가 아니라, 어디에서 평균을 벗어나야 하는지를 AI에게 구체적으로 알려주는 것입니다.
함께 읽어보기
글쓰기와 관련된 글 더 보기 →
RSI: 스스로 진화하는 AI는 어떤 미래를 만들까?
AI가 자신보다 더 뛰어난 AI를 만들고, 그 AI가 다시 더 뛰어난 AI를 만든다면 어떤 일이 벌어질까요? 이런 변화가 반복되면 인류가 오랫동안 풀지 못한 과학 문제를 해결하는 속도가…

AI는 무엇을 기억해야 할까? '꿈'으로 기억을 고치는 AI 에이전트
AI에게 "기억 노트"를 쥐여 주면 알아서 똑똑해질까요? Anthropic이 2026년 11월 6일 공개한 연구의 답은 "노트만으로는 부족하다"입니다. 승부처는 무엇을 적느냐, 그리고 틀…

GPT-6 Astra 열풍, AI는 얼마나 많은 자원을 소모할까?
GPT-6, 출시 일주일 만에 가입을 제한 며칠 전 출시된 OpenAI의 최신 AI 모델 GPT-6 Astra가 큰 관심을 받고 있습니다. OpenAI는 작년 말부터 개발자와 AI 헤비…

AI는 왜 자신 있게 거짓말을 할까?
AI에게 질문했는데, 존재하지 않는 정보를 인용하거나 없는 사실을 자신 있게 말한 적 없으신가요? 이것이 바로 AI 할루시네이션입니다. 이 글에서는 할루시네이션이 무엇인지, 왜 일어나는지…