AirCloset의 CTO 츠지 료스케(Ryosuke Tsuji)가 사내 AI 소프트웨어 엔지니어링 플랫폼 'cortex' 구축 시리즈를 마무리했다. 이 플랫폼은 AI 추론을 제어된 환경 내에 가두고, 핵심 작업에는 결정론적 시스템을 활용하는 철학을 바탕으로 한다. 츠지 CTO는 컨텍스트 윈도우 확장이나 모델 미세 조정만으로는 한계가 있다고 분석했다. 그는 긴 컨텍스트 윈도우에서 정보가 누락되는 'lost in the middle' 현상과, LLM이 구조적 정보 없이는 데이터의 중요도를 구분하지 못한다는 점을 문제로 지적했다.

이를 해결하기 위해 cortex는 AI가 스스로 추론하게 하는 대신, 그래프 기반 구조로 사실을 제공하는 방식으로 설계되었다. 시스템은 그래프 검색 증강 생성(GraphRAG)과 모델 컨텍스트 프로토콜(MCP)을 통합해 AI가 필요한 정보만 정확히 가져오도록 한다. 이는 업데이트나 기계학습 삭제(Machine Unlearning)가 어려운 모델 가중치에 의존하는 대신, 외부 지식을 대체 가능한 사실 세트로 취급하는 접근 방식이다.

cortex는 여러 계층에 걸쳐 결정론을 강제하는 '하네스(harness)' 역할을 수행한다. 먼저 제품 그래프가 코드, 문서, 데이터베이스 스키마를 주석으로 통합해 검색의 일관성을 유지한다. 이어 자동화된 검토 프로세스가 고정된 차원에서 작동하며, 셀프 힐링 및 오류 재발 방지 메커니즘이 린팅(linting) 등 정적 분석 도구를 활용해 오류를 기계적으로 차단한다. 이러한 아키텍처 덕분에 시스템 아키텍처가 품질 게이트를 강제하므로 비엔지니어라도 운영 환경에 코드 기여가 가능하다.

츠지 CTO는 이 설계의 목적이 AI의 환각을 완전히 제거하는 것이 아니라, 허용 가능한 영역을 분리하는 데 있다고 강조한다. 그는 추론 시점을 읽기(read-time) 단계에서 쓰기(write-time) 단계로 이동시켜 시스템 사용 시점에 AI가 검증된 사실만 바탕으로 작동하도록 구현했다. 결과적으로 신뢰의 무게중심은 AI의 생성적 출력에서 엔지니어링 하네스의 결정론적 구조로 옮겨지며, 핵심 시스템의 안정성이 보장된다.

AirCloset의 CTO 츠지 료스케(Ryosuke Tsuji)가 사내 AI 소프트웨어 엔지니어링 플랫폼 'cortex' 구축 시리즈를 마무리했다. 이 플랫폼은 AI 추론을 제어된 환경 내에 가두고, 핵심 작업에는 결정론적 시스템을 활용하는 철학을 바탕으로 한다. 츠지 CTO는 컨텍스트 윈도우 확장이나 모델 미세 조정만으로는 한계가 있다고 분석했다. 그는 긴 컨텍스트 윈도우에서 정보가 누락되는 'lost in the middle' 현상과, LLM이 구조적 정보 없이는 데이터의 중요도를 구분하지 못한다는 점을 문제로 지적했다.

이를 해결하기 위해 cortex는 AI가 스스로 추론하게 하는 대신, 그래프 기반 구조로 사실을 제공하는 방식으로 설계되었다. 시스템은 그래프 검색 증강 생성(GraphRAG)과 모델 컨텍스트 프로토콜(MCP)을 통합해 AI가 필요한 정보만 정확히 가져오도록 한다. 이는 업데이트나 기계학습 삭제(Machine Unlearning)가 어려운 모델 가중치에 의존하는 대신, 외부 지식을 대체 가능한 사실 세트로 취급하는 접근 방식이다.

cortex는 여러 계층에 걸쳐 결정론을 강제하는 '하네스(harness)' 역할을 수행한다. 먼저 제품 그래프가 코드, 문서, 데이터베이스 스키마를 주석으로 통합해 검색의 일관성을 유지한다. 이어 자동화된 검토 프로세스가 고정된 차원에서 작동하며, 셀프 힐링 및 오류 재발 방지 메커니즘이 린팅(linting) 등 정적 분석 도구를 활용해 오류를 기계적으로 차단한다. 이러한 아키텍처 덕분에 시스템 아키텍처가 품질 게이트를 강제하므로 비엔지니어라도 운영 환경에 코드 기여가 가능하다.

츠지 CTO는 이 설계의 목적이 AI의 환각을 완전히 제거하는 것이 아니라, 허용 가능한 영역을 분리하는 데 있다고 강조한다. 그는 추론 시점을 읽기(read-time) 단계에서 쓰기(write-time) 단계로 이동시켜 시스템 사용 시점에 AI가 검증된 사실만 바탕으로 작동하도록 구현했다. 결과적으로 신뢰의 무게중심은 AI의 생성적 출력에서 엔지니어링 하네스의 결정론적 구조로 옮겨지며, 핵심 시스템의 안정성이 보장된다.