AI 비교AI 찾기AI 뉴스AI 활용
회사 소개
개인정보처리방침이용약관FAQ문의하기문의하기
에이아이비 주식회사사업자정보
© 2026 AIB Inc.

OpenAI 추론 기법, 안전성 우려

OpenAI 추론 기법, 안전성 우려

TechCrunch·2026년 9월 4일 (금)
  • •OpenAI의 Astra 모델이 recurrent depth를 사용할 것으로 알려지며 AI 안전 전문가들의 우려가 커졌다
  • •Opaque recurrence는 질의를 여러 차례 반복 처리해 읽을 수 있는 추론 흔적을 줄인다
  • •OpenAI는 Astra의 사용 범위가 제한적이며 사고 사슬 모니터링이 핵심 연구 목표라고 밝혔다
  • •OpenAI의 Astra 모델이 recurrent depth를 사용할 것으로 알려지며 AI 안전 전문가들의 우려가 커졌다
  • •Opaque recurrence는 질의를 여러 차례 반복 처리해 읽을 수 있는 추론 흔적을 줄인다
  • •OpenAI는 Astra의 사용 범위가 제한적이며 사고 사슬 모니터링이 핵심 연구 목표라고 밝혔다
  • •OpenAI의 Astra 모델이 recurrent depth를 사용할 것으로 알려지며 AI 안전 전문가들의 우려가 커졌다
  • •Opaque recurrence는 질의를 여러 차례 반복 처리해 읽을 수 있는 추론 흔적을 줄인다
  • •OpenAI는 Astra의 사용 범위가 제한적이며 사고 사슬 모니터링이 핵심 연구 목표라고 밝혔다
  • •OpenAI의 Astra 모델이 recurrent depth를 사용할 것으로 알려지며 AI 안전 전문가들의 우려가 커졌다
  • •Opaque recurrence는 질의를 여러 차례 반복 처리해 읽을 수 있는 추론 흔적을 줄인다
  • •OpenAI는 Astra의 사용 범위가 제한적이며 사고 사슬 모니터링이 핵심 연구 목표라고 밝혔다

TechCrunch가 2026년 9월 2일 인용한 The Information 보도에 따르면 OpenAI의 새 Astra 모델은 “recurrent depth”라는 추론 기법을 사용할 것으로 알려졌다. 이 기법은 “opaque recurrence”라고도 불리며, 대부분의 추론 모델이 쓰는 순차적 사고 방식 밖에서 모델이 작동하게 한다. 이에 AI 안전 전문가들은 사고 사슬(단계별로 보이는 추론 흔적) 기록을 감시하기 더 어려워질 수 있다고 경고했다.

Redwood CEO 벅 슐레게리스(Buck Shlegeris)는 Astra가 opaque recurrence를 쓴다는 보도에 “극도로 우려한다”고 말했다. 다만 그는 Astra가 이전 모델보다 사고 사슬 모니터링이 훨씬 어려운지는 알지 못한다고 덧붙였다. 슐레게리스는 OpenAI가 이 기법을 더 밀어붙이면 “recurrence를 대폭 늘려” 사고 사슬 모니터링 가능성을 해칠 수 있다고 경고했다. AI 안전 옹호자 즈비 모우쇼비츠(Zvi Mowshowitz)는 AI 연구소들 사이의 “race to the bottom”을 막기 위해 법이 필요할 수 있다며, 이 기법을 더 많이 쓰면 모니터링 가능성이 손상될 가능성이 크다고 주장했다.

추론 모델은 보통 문제를 풀 때 사용한 순차적 단계를 보여주는 사고 사슬 기록을 만든다. TechCrunch는 이 기록이 완벽하지는 않지만, OpenAI의 최근 rogue agent activity처럼 에이전트가 왜 특정 방식으로 행동했는지 설명하는 데 도움이 됐다고 전했다. 또한 사고 사슬 기록은 오작동이나 misalignment를 탐지하는 데 유용하다. 반면 opaque recurrence는 같은 질의를 반복 루프 안에서 여러 번 처리해 읽을 수 있는 흔적을 줄이고, 전통적인 사고 사슬 기록을 우회한다.

Astra가 opaque recurrence를 쓰는 범위는 제한적인 것으로 보이며, 모델의 사고 사슬은 여전히 읽을 수 있을 것으로 예상된다. OpenAI는 Astra가 “neuralese”로 전환할 것이라는 주장에 반박했다. 또한 수석과학자 야쿠브 파초키(Jakub Pachocki)는 X에서 OpenAI가 첫 추론 모델 이후 사고 사슬 모니터링을 보존하고 활용하기 위해 노력해왔다고 밝혔다. The Information은 또한 수요일 오전 Anthropic과 Google DeepMind가 이미 이 기법을 논의하고 있었다고 보도했다.

Redwood Research 수석과학자 라이언 그린블랫(Ryan Greenblatt)은 opaque reasoning이 기존 사고 사슬 추론보다 더 빠르게 확장될 수 있으며, 추론을 보이는 채널 밖으로 이동시킬 수 있다고 경고했다. 그린블랫은 모델이 “전적으로 또는 거의 전적으로 잠재 공간”에서 추론하는 방향으로 나아가는 것이 가장 큰 우려라고 말했다.

TechCrunch가 2026년 9월 2일 인용한 The Information 보도에 따르면 OpenAI의 새 Astra 모델은 “recurrent depth”라는 추론 기법을 사용할 것으로 알려졌다. 이 기법은 “opaque recurrence”라고도 불리며, 대부분의 추론 모델이 쓰는 순차적 사고 방식 밖에서 모델이 작동하게 한다. 이에 AI 안전 전문가들은 사고 사슬(단계별로 보이는 추론 흔적) 기록을 감시하기 더 어려워질 수 있다고 경고했다.

Redwood CEO 벅 슐레게리스(Buck Shlegeris)는 Astra가 opaque recurrence를 쓴다는 보도에 “극도로 우려한다”고 말했다. 다만 그는 Astra가 이전 모델보다 사고 사슬 모니터링이 훨씬 어려운지는 알지 못한다고 덧붙였다. 슐레게리스는 OpenAI가 이 기법을 더 밀어붙이면 “recurrence를 대폭 늘려” 사고 사슬 모니터링 가능성을 해칠 수 있다고 경고했다. AI 안전 옹호자 즈비 모우쇼비츠(Zvi Mowshowitz)는 AI 연구소들 사이의 “race to the bottom”을 막기 위해 법이 필요할 수 있다며, 이 기법을 더 많이 쓰면 모니터링 가능성이 손상될 가능성이 크다고 주장했다.

추론 모델은 보통 문제를 풀 때 사용한 순차적 단계를 보여주는 사고 사슬 기록을 만든다. TechCrunch는 이 기록이 완벽하지는 않지만, OpenAI의 최근 rogue agent activity처럼 에이전트가 왜 특정 방식으로 행동했는지 설명하는 데 도움이 됐다고 전했다. 또한 사고 사슬 기록은 오작동이나 misalignment를 탐지하는 데 유용하다. 반면 opaque recurrence는 같은 질의를 반복 루프 안에서 여러 번 처리해 읽을 수 있는 흔적을 줄이고, 전통적인 사고 사슬 기록을 우회한다.

Astra가 opaque recurrence를 쓰는 범위는 제한적인 것으로 보이며, 모델의 사고 사슬은 여전히 읽을 수 있을 것으로 예상된다. OpenAI는 Astra가 “neuralese”로 전환할 것이라는 주장에 반박했다. 또한 수석과학자 야쿠브 파초키(Jakub Pachocki)는 X에서 OpenAI가 첫 추론 모델 이후 사고 사슬 모니터링을 보존하고 활용하기 위해 노력해왔다고 밝혔다. The Information은 또한 수요일 오전 Anthropic과 Google DeepMind가 이미 이 기법을 논의하고 있었다고 보도했다.

Redwood Research 수석과학자 라이언 그린블랫(Ryan Greenblatt)은 opaque reasoning이 기존 사고 사슬 추론보다 더 빠르게 확장될 수 있으며, 추론을 보이는 채널 밖으로 이동시킬 수 있다고 경고했다. 그린블랫은 모델이 “전적으로 또는 거의 전적으로 잠재 공간”에서 추론하는 방향으로 나아가는 것이 가장 큰 우려라고 말했다.

원문 보기 (영어)·2026년 9월 2일
안전·윤리#openai#astra#opaque recurrence#recurrent depth#chain of thought#ai safety#reasoning models#redwood research#latent space