GPT-6 Astra : 우리는 AI를 어디까지 이해할 수 있을까?

AI가 점점 더 복잡한 문제를 해결하면서, 그 과정을 인간이 일일이 검증하는 일은 어려워지고 있습니다.
그럼에도 인간의 개입과 검증은 AI를 올바르게 활용하기 위해 빼놓을 수 없는 과정입니다. 하지만 AI의 능력이 빠르게 발전해, 그 사고 과정과 방식이 인간이 이해하기 어려운 영역으로 들어선다면 어떻게 될지 생각해 볼 필요가 있습니다.
어제 정식으로 출시된 GPT-6 Astra는 이 질문에 중요한 시사점을 제공하는 AI 모델입니다.
OpenAI는 GPT-6 Astra가 이전 모델보다 적은 추론 단계를 ‘글’로 남기면서도 문제를 해결하고, 일부 평가에서는 그 추론을 감시하기가 더 어려워졌다고 밝혔습니다.
AI와 생각의 사슬
먼저 AI의 ‘생각의 사슬’, 즉 Chain of Thought(CoT)라는 기술의 원리를 간단히 살펴보겠습니다.
2022년 제이슨 웨이(Jason Wei) 등의 연구(Chain-of-Thought Prompting Elicits Reasoning in Large Language Models)는 언어모델에 중간 풀이 단계가 포함된 예시를 보여주면 수학과 논리 문제의 성능이 좋아질 수 있음을 보였습니다. AI가 답을 곧바로 출력하는 대신, 조건을 정리하고 계산하고 결론을 내리는 문장을 차례로 생성하도록 하는 방식입니다.
앞서 생성한 문장이 다음 계산의 근거가 되므로, AI가 스스로 풀이를 쓰는 과정 자체가 문제 해결에 도움을 줍니다. 사람이 복잡한 문제를 풀 때 종이에 풀이를 적으며 생각을 정리하는 것과 비슷합니다.
중요한 점은 이때 생성하는 ‘중간 단계’가 인간의 언어로 작성된다는 것입니다.
AI는 이 문장을 다음 추론에 활용하고, 인간은 그 기록을 읽으며 풀이를 따라가거나 오류를 찾아볼 수 있습니다. 검증에 활용할 수 있는 흔적이 남는 셈입니다.
생각의 과정을 알 수 없는 AI
GPT-6 Astra에서 주목할 대목은 이러한 CoT 생성을 제한했을 때의 능력입니다.
OpenAI가 공개한 UK AISI 평가에서 ‘No-CoT 수학 시간 지평’은 GPT-5.6 Sol의 3.6분에서 Astra의 30.9분으로 늘었습니다. 용어가 조금 어렵지만, 쉽게 말하면 Astra는 사람이 약 31분 걸려 푸는 수준의 수학 문제를 중간 풀이 없이 약 50%의 성공률로 맞혔다는 뜻입니다.
즉, 인간이 읽을 수 있는 풀이를 남기지 않고도 해결할 수 있는 문제의 수준이 높아졌다는 의미입니다.
그렇다면 GPT-6 Astra가 어떻게 이런 식으로 발전했을까요? 내부 구조가 공개되지 않은 만큼 답을 단정할 수는 없지만, 5.6에서 6이라는 모델 넘버로 업데이트되어서 공개된 점과 업계의 소문 등을 바탕으로 추측하건대, GPT-6 Astra는 지금까지의 GPT 시리즈와는 다른 방식으로 학습되었을 가능성이 있습니다.
그 ‘다른 방식’의 후보 중 하나가 COCONUT입니다. 쉽게 풀면 ‘언어로 옮기지 않는 사고’에 가까운 방식입니다. 시보 하오(Shibo Hao) 등의 연구진이 2024년 공개한 이 방법(Training Large Language Models to Reason in a Continuous Latent Space)은 중간 계산 결과를 다음 단어, 즉 인간의 언어로 바꾸는 단계를 건너뜁니다.
AI 내부에서 정보는 수많은 숫자의 묶음인 ‘벡터’로 표현됩니다. 보통은 이 숫자 상태를 바탕으로 다음 텍스트 조각을 선택하지만, COCONUT은 내부 상태를 다음 단계의 입력으로 직접 전달합니다. 중간 결과를 매번 인간의 단어로 옮기지 않고 계산을 이어가는 셈입니다. 비유하자면, 풀이를 한 줄씩 적으며 문제를 해결하던 방식에서 머릿속 계산을 끝낸 후에 답만 내놓는 방식으로 옮겨가는 것입니다.
연구진은 일부 논리 문제에서 이 방식이 여러 풀이 경로의 가능성을 담고, 막힌 길에서 되돌아가 다른 길을 찾아야 하는 과제를 더 적은 토큰으로 해결하는 데 유리할 수 있다고 보고했습니다.
핵심은 인간의 언어를 중심으로 발전해 온 거대 언어모델이, 매 단계 인간이 읽을 수 있는 문장을 거치지 않고도 문제 해결을 이어갈 수 있다는 점입니다.
AI를 어떻게 이해하고 신뢰할 것인가?
물론 OpenAI의 모델은 세부 구조와 학습 방법이 공개되지 않은 상업 모델입니다. GPT-6 Astra에 실제로 COCONUT과 같은 기술이 적용되었는지는 정확히 알 수는 없습니다.
그럼에도 이 연구 방향이 안전성에 던지는 질문은 분명합니다. 인간의 언어로 남는 중간 과정이 줄어들면, 그 기록을 읽어 문제를 찾아내는 감시 시스템이 활용할 수 있는 정보도 줄어듭니다.
OpenAI는 GPT-6 Astra가 일부 감시 회피 실험에서 감독을 피할 수 있었다고 보고합니다. 향후 AI의 안전성을 강화해서 위험한 행동의 빈도가 줄어들더라도, 그 행동의 원인과 과정을 발견하기는 더 어려워질 수 있습니다.
AI의 처리 속도 향상에도 주목해야 합니다. AI가 더 짧은 시간에 더 많은 판단과 행동을 수행한다면, 사람이 모든 과정을 순서대로 읽고 승인하는 방식은 점점 감당하기 어려워질 것입니다. 기록이 남아 있더라도 확인할 시간이 부족할 수 있고, 기록마저 해석하기 어렵다면 검증은 한층 더 어려워집니다.
AI가 수많은 인간의 작업을 대신하는 상황에서는 드물게 발생하는 오류도 가볍게 볼 수 없습니다.
가령 10만 번 중 한 번 예상치 못한 행동을 한다고 해도, 수억 번의 작업을 빠르게 수행하는 규모에서는 반복해서 쌓이는 문제가 됩니다. 여기에 그 행동의 이유를 인간이 이해하지 못하고, AI에 중요한 시스템을 움직일 권한까지 주어졌다면 피해는 더 커질 수 있습니다.
‘인류의 어시스턴트’가 ‘인류의 재앙’이 될 수 있다는 우려는 이러한 조건들이 겹칠 때 현실적인 무게를 갖습니다.
AI가 더 많은 일을 해낼수록, 그 일을 맡겨도 되는지 확인하는 기준도 함께 높아져야 하며, 설명이 줄어드는 시대에는 우리가 이해했다고 ‘착각’하는 것과 ‘실제로 이해하고 검증한 것’을 잘 구분해야 합니다.
앞으로는 AI를 능숙하게 사용하는 것에 더해, 어디까지 이해하고 신뢰할 수 있는지 판단하는 능력이 중요해질 것입니다.
AI를 사용하는 능력에서, AI를 이해하는 능력으로 관심의 중심이 옮겨가는 시대가 올지도 모르겠습니다.
함께 읽어보기
AI 보안·윤리와 관련된 글 더 보기 →
GPT-6 Astra 열풍, AI는 얼마나 많은 자원을 소모할까?
GPT-6, 출시 일주일 만에 가입을 제한 며칠 전 출시된 OpenAI의 최신 AI 모델 GPT-6 Astra가 큰 관심을 받고 있습니다. OpenAI는 작년 말부터 개발자와 AI 헤비…

AI 해킹 시대, 오래된 웹사이트 보안에 AI를 쓰는 법
공격자는 AI로 취약점을 찾고 공격 코드를 고칩니다. 우리 쇼핑몰·예약 사이트는 몇 년 전 상태 그대로여도 괜찮을까요? AI를 동원한 해킹이 개인 공격자에게까지 확산하는 지금, 웹사이트…

AI 시대의 PM, 무엇을 만들고 어디까지 책임져야 할까
고객이 회원가입 화면에서 자꾸 떠난다고 가정해 보겠습니다. 제품 관리자(PM)는 이 문제를 발견하고, 원인을 살펴보고, 팀과 함께 해결책을 정합니다. 개선된 화면이 출시되면 실제로 이탈이…

피클 AI 에이전트 후기: 전화·예약·쇼핑, 어디까지 되나?
최근 피클(Pickle)이라는 한국형 AI 에이전트가 화제입니다. 이름도 UI도 어딘가 장난스럽고, 캐릭터는 그록봇(Grok Bot)과 살짝 닮았습니다. SNS에서 호평이 이어지길래 저도…