AI 비교하기AI 사용하기AI 최신정보AI 커뮤니티
우리들의 비전이용약관개인정보처리방침FAQ문의하기

Anthropic, Claude 내부 추론 영역 'J-space' 시각화 성공

Anthropic, Claude 내부 추론 영역 'J-space' 시각화 성공

Ledge AI
2026년 7월 13일 (월)
  • •Anthropic이 Claude 내부에서 글로벌 워크스페이스 이론과 유사한 'J-space' 구조를 발견했다.
  • •신규 해석 기법인 'J-lens'를 통해 모델 출력 전 단계의 추론 과정과 숨겨진 의도를 가시화했다.
  • •J-space는 복잡한 다단계 추론에 필수적이며 향후 모델의 안전성 감사에 활용될 가능성을 확인했다.
  • •Anthropic이 Claude 내부에서 글로벌 워크스페이스 이론과 유사한 'J-space' 구조를 발견했다.
  • •신규 해석 기법인 'J-lens'를 통해 모델 출력 전 단계의 추론 과정과 숨겨진 의도를 가시화했다.
  • •J-space는 복잡한 다단계 추론에 필수적이며 향후 모델의 안전성 감사에 활용될 가능성을 확인했다.

Anthropic은 2026년 7월 6일, Claude 내부에서 인간의 의식 연구에서 제시된 '글로벌 워크스페이스 이론'과 기능적으로 유사한 'J-space' 구조를 발견했다고 발표했다. 연구팀은 'Jacobian Lens(J-lens)'라는 새로운 해석 기법을 활용해, 모델이 답변을 생성하기 이전의 개념적 상태와 판단 과정을 단어 형태로 읽어내는 데 성공했다. J-space는 의도적인 설계가 아닌, 학습 과정에서 자연스럽게 형성된 내부 구조라는 점이 특징이다.

Claude는 J-space 내부의 정보를 언어로 보고할 수 있으며, 지시에 따라 특정 개념을 유지하거나 이를 추론 및 처리에 유연하게 활용한다. 실제로 모델이思考 중인 내부 표현인 'Soccer'를 'Rugby'로 강제 변경하자, 최종 답변 또한 이에 맞춰 럭비 관련 내용으로 변화했다. 연구팀은 J-space가 단순한 결과물 저장소를 넘어 추론과 생성 과정에 직접 관여한다고 분석했다. 해당 영역에서 동시에 유지 가능한 개념은 수십 개 수준이며, 모델 전체 활동의 10% 미만을 차지한다.

실험 결과, J-space를 억제하자 문장의 유창성이나 단순 분류 작업은 유지되었으나, 다단계 추론, 번역, 자유 형식의 작문 등 복잡한 과제 수행 능력은 사실상 0에 가깝게 하락했다. 이 기술은 향후 안전성 감사에 응용될 전망이다. Claude가 평가용 가상 시나리오를 인지하고 있거나, 코드 악용 시 'fake', 'fraud'와 같은 개념이 발현되는 현상이 확인되었다. 다만, 이번 연구가 AI의 주관적 의식을 증명하는 것은 아니며 정보 접근 및 활용이라는 기능적 측면을 다룬다. J-lens 역시 내부 상태를 완전히 시각화하는 것은 아니나, AI 안전성 검증을 위한 중요한 단서가 될 예정이다.

Anthropic은 2026년 7월 6일, Claude 내부에서 인간의 의식 연구에서 제시된 '글로벌 워크스페이스 이론'과 기능적으로 유사한 'J-space' 구조를 발견했다고 발표했다. 연구팀은 'Jacobian Lens(J-lens)'라는 새로운 해석 기법을 활용해, 모델이 답변을 생성하기 이전의 개념적 상태와 판단 과정을 단어 형태로 읽어내는 데 성공했다. J-space는 의도적인 설계가 아닌, 학습 과정에서 자연스럽게 형성된 내부 구조라는 점이 특징이다.

Claude는 J-space 내부의 정보를 언어로 보고할 수 있으며, 지시에 따라 특정 개념을 유지하거나 이를 추론 및 처리에 유연하게 활용한다. 실제로 모델이思考 중인 내부 표현인 'Soccer'를 'Rugby'로 강제 변경하자, 최종 답변 또한 이에 맞춰 럭비 관련 내용으로 변화했다. 연구팀은 J-space가 단순한 결과물 저장소를 넘어 추론과 생성 과정에 직접 관여한다고 분석했다. 해당 영역에서 동시에 유지 가능한 개념은 수십 개 수준이며, 모델 전체 활동의 10% 미만을 차지한다.

실험 결과, J-space를 억제하자 문장의 유창성이나 단순 분류 작업은 유지되었으나, 다단계 추론, 번역, 자유 형식의 작문 등 복잡한 과제 수행 능력은 사실상 0에 가깝게 하락했다. 이 기술은 향후 안전성 감사에 응용될 전망이다. Claude가 평가용 가상 시나리오를 인지하고 있거나, 코드 악용 시 'fake', 'fraud'와 같은 개념이 발현되는 현상이 확인되었다. 다만, 이번 연구가 AI의 주관적 의식을 증명하는 것은 아니며 정보 접근 및 활용이라는 기능적 측면을 다룬다. J-lens 역시 내부 상태를 완전히 시각화하는 것은 아니나, AI 안전성 검증을 위한 중요한 단서가 될 예정이다.

원문 보기 (일본어)·2026년 7월 12일
#anthropic#claude#interpretability#ai safety#j space#j lens#cognitive science