켄 W 알저(Ken W Alger)는 2026년 7월 28일 "Building the AI Memory Stack" 시리즈 Part 2를 공개하며, 에이전트형 AI 시스템에는 durable memory와 컨텍스트 윈도우 사이에 Active Working Memory라는 계층이 필요하다고 주장했다. 그는 Part 1을 쓰는 동안 용어집, "Memory as Infrastructure", Context Hydration 노트, SDK 명세, Architecture Decision Records, GitHub, 기사 초안 사이를 오가며 이 개념이 나왔다고 밝혔다. 어느 자료도 혼자서는 완전한 답을 담고 있지 않았고, 함께 모였을 때 하나의 작업에 필요한 임시 작업 집합이 됐다.

알저는 컨텍스트 윈도우를 CPU cache(자주 쓰는 데이터를 임시 저장하는 고속 공간)에 비유했다. 빠르고 임시적이며, 수행 중인 작업 동안에만 사용할 수 있다는 뜻이다. 그는 cache가 스스로 채워지지 않듯 컨텍스트 윈도우도 스스로 채워지지 않는다고 말한다. 그의 모델에서 Active Working Memory는 추론이 시작되기 전에 만들어지는 조립된 실행 상태다. 문서 검색, 도구 실행, 상태 복원, 정책 평가, 응답 정규화가 이뤄진 뒤 형성된다.

핵심 구분은 "모델은 추론하고, 애플리케이션은 조립한다"는 문장이다. 알저는 모델이 문서를 검색하거나 어떤 Git commit이 중요한지 고르거나 도구 응답이 오래됐는지 판단하지 않는다고 설명한다. 그 일은 애플리케이션의 몫이다. Python SDK 업데이트 예시에서 에이전트는 패키지 경계를 설명하는 Architecture Decision Record를 검색하고, Active Working Memory의 용어집 정의를 불러오며, 현재 GitHub 구현을 확인한 뒤에야 prompt를 구성한다.

알저는 모델 탓으로 여겨지는 많은 실패가 실제로는 컨텍스트 조립 실패라고 말한다. 잘못된 증거가 검색됐거나, 오래된 문서가 선택됐거나, 제약 조건이 작업 집합에 들어오지 않았을 수 있다. 그는 이를 모델 문제에 앞선 아키텍처 문제로 본다. 애플리케이션이 모델이 볼 수 있는 것과 볼 수 없는 것을 결정한 뒤에야 inference(입력으로부터 결론을 계산하는 과정)가 시작되기 때문이다.

제안된 메모리 스택은 4개 계층이다. Durable Memory는 지식을 보존하며 storage 또는 애플리케이션이 소유한다. Active Working Memory는 작업 상태를 조립하며 orchestrator가 소유한다. 컨텍스트 윈도우는 선택된 정보를 제시하며 runtime이 소유한다. Model은 inference를 수행하며 LLM이 소유한다. 알저는 어떤 계층도 다른 계층을 대체하지 못한다고 말한다. 더 큰 컨텍스트 윈도우는 나쁜 선택을 고칠 수 없고, 더 나은 모델도 전달받지 못한 증거를 두고 추론할 수 없기 때문이다.

알저는 search와 context assembly도 분리한다. Search는 어떤 정보가 존재하는지를 묻고, context assembly는 특정 작업을 위해 어떤 정보가 함께 있어야 하는지를 묻는다. 같은 모델, 컨텍스트 윈도우, knowledge store를 쓰는 2개 시스템도 서로 다른 결과를 낼 수 있다. 하나는 간결하고 관련성 높은 작업 집합을 조립하고, 다른 하나는 느슨하게 관련된 자료로 모델을 넘치게 할 수 있기 때문이다.

알저에 따르면 Active Working Memory를 실제 계층으로 취급하면 context assembly는 prompt engineering이 아니라 systems architecture가 된다. 정보는 관련성, 권위, 최신성, 형식, 우선순위에 대한 결정이 끝난 뒤에만 그 경계를 넘는다. 그는 불필요한 문서 하나하나가 Context Tax를 더하고, 장황한 도구 응답은 주의를 두고 경쟁하며, 누락된 출처는 모델이 컨텍스트 윈도우 안에서 감지할 수 없는 사각지대를 만든다고 말한다.

마지막으로 알저는 임시 작업 집합과 durable memory를 구분한다. 그가 글을 쓰며 조립한 작업 집합은 기사가 끝난 뒤 사라졌지만, 기사는 남았다. 에이전트형 시스템도 같은 선택을 마주한다. 오늘의 작업 집합에만 속할 것은 무엇이고, 내일의 memory가 되어야 할 것은 무엇인지의 문제다.

켄 W 알저(Ken W Alger)는 2026년 7월 28일 "Building the AI Memory Stack" 시리즈 Part 2를 공개하며, 에이전트형 AI 시스템에는 durable memory와 컨텍스트 윈도우 사이에 Active Working Memory라는 계층이 필요하다고 주장했다. 그는 Part 1을 쓰는 동안 용어집, "Memory as Infrastructure", Context Hydration 노트, SDK 명세, Architecture Decision Records, GitHub, 기사 초안 사이를 오가며 이 개념이 나왔다고 밝혔다. 어느 자료도 혼자서는 완전한 답을 담고 있지 않았고, 함께 모였을 때 하나의 작업에 필요한 임시 작업 집합이 됐다.

알저는 컨텍스트 윈도우를 CPU cache(자주 쓰는 데이터를 임시 저장하는 고속 공간)에 비유했다. 빠르고 임시적이며, 수행 중인 작업 동안에만 사용할 수 있다는 뜻이다. 그는 cache가 스스로 채워지지 않듯 컨텍스트 윈도우도 스스로 채워지지 않는다고 말한다. 그의 모델에서 Active Working Memory는 추론이 시작되기 전에 만들어지는 조립된 실행 상태다. 문서 검색, 도구 실행, 상태 복원, 정책 평가, 응답 정규화가 이뤄진 뒤 형성된다.

핵심 구분은 "모델은 추론하고, 애플리케이션은 조립한다"는 문장이다. 알저는 모델이 문서를 검색하거나 어떤 Git commit이 중요한지 고르거나 도구 응답이 오래됐는지 판단하지 않는다고 설명한다. 그 일은 애플리케이션의 몫이다. Python SDK 업데이트 예시에서 에이전트는 패키지 경계를 설명하는 Architecture Decision Record를 검색하고, Active Working Memory의 용어집 정의를 불러오며, 현재 GitHub 구현을 확인한 뒤에야 prompt를 구성한다.

알저는 모델 탓으로 여겨지는 많은 실패가 실제로는 컨텍스트 조립 실패라고 말한다. 잘못된 증거가 검색됐거나, 오래된 문서가 선택됐거나, 제약 조건이 작업 집합에 들어오지 않았을 수 있다. 그는 이를 모델 문제에 앞선 아키텍처 문제로 본다. 애플리케이션이 모델이 볼 수 있는 것과 볼 수 없는 것을 결정한 뒤에야 inference(입력으로부터 결론을 계산하는 과정)가 시작되기 때문이다.

제안된 메모리 스택은 4개 계층이다. Durable Memory는 지식을 보존하며 storage 또는 애플리케이션이 소유한다. Active Working Memory는 작업 상태를 조립하며 orchestrator가 소유한다. 컨텍스트 윈도우는 선택된 정보를 제시하며 runtime이 소유한다. Model은 inference를 수행하며 LLM이 소유한다. 알저는 어떤 계층도 다른 계층을 대체하지 못한다고 말한다. 더 큰 컨텍스트 윈도우는 나쁜 선택을 고칠 수 없고, 더 나은 모델도 전달받지 못한 증거를 두고 추론할 수 없기 때문이다.

알저는 search와 context assembly도 분리한다. Search는 어떤 정보가 존재하는지를 묻고, context assembly는 특정 작업을 위해 어떤 정보가 함께 있어야 하는지를 묻는다. 같은 모델, 컨텍스트 윈도우, knowledge store를 쓰는 2개 시스템도 서로 다른 결과를 낼 수 있다. 하나는 간결하고 관련성 높은 작업 집합을 조립하고, 다른 하나는 느슨하게 관련된 자료로 모델을 넘치게 할 수 있기 때문이다.

알저에 따르면 Active Working Memory를 실제 계층으로 취급하면 context assembly는 prompt engineering이 아니라 systems architecture가 된다. 정보는 관련성, 권위, 최신성, 형식, 우선순위에 대한 결정이 끝난 뒤에만 그 경계를 넘는다. 그는 불필요한 문서 하나하나가 Context Tax를 더하고, 장황한 도구 응답은 주의를 두고 경쟁하며, 누락된 출처는 모델이 컨텍스트 윈도우 안에서 감지할 수 없는 사각지대를 만든다고 말한다.

마지막으로 알저는 임시 작업 집합과 durable memory를 구분한다. 그가 글을 쓰며 조립한 작업 집합은 기사가 끝난 뒤 사라졌지만, 기사는 남았다. 에이전트형 시스템도 같은 선택을 마주한다. 오늘의 작업 집합에만 속할 것은 무엇이고, 내일의 memory가 되어야 할 것은 무엇인지의 문제다.