memory-anchor、エージェント記憶喪失に対処
- •memory-anchorはコンテキスト圧縮前にLLMエージェントの規則、todo、決定、進捗を保存する
- •35%の圧縮処理で、Liuのエージェントは委任済みサブタスクの結果を忘れた
- •cam judgeは逐語、言い換え、消失を判定し、--min-verbatim 90を強制できる
Shuo Liuは8月11日、LLMエージェントのセッション規則、todo、決定、進捗をコンテキスト圧縮の前に保存し、要約後に復元するゼロ依存のPythonライブラリmemory-anchorを公開した。作者によると、長時間動くエージェントは、コンテキストウィンドウが埋まった後に古い対話が短い要約へ圧縮される際、統制用の指示や未完了の作業を気づかれないまま失うことがある。
Liuが示した問題は、通常のハルシネーションではなく、圧縮中の状態喪失だ。Liu自身のログでは、統制規則が言い換えられ、保留中のtodoが消え、決定の根拠が書き換えられ、検証パスが失われた。35%の圧縮処理後、エージェントはサブタスクを委任した事実を忘れ、結果を回収しないままだったが、パイプラインは未完了作業を検知しなかった。
既存の記憶システムであるmem0、Letta、Hindsightは、事実、エンティティ、好み、検索用チャンクを記憶するが、1つのセッションを統制する規則と作業状態がバイト単位でそのまま残ることは保証しない、と説明されている。研究に裏付けられたMemGPTのようなシステムは階層型メモリを使う一方、Claudeの圧縮は、ユーザーが何を削除されたか確認できないためブラックボックスだとも述べている。
memory-anchorは、rules、todos、decisions、progressという4つの逐語リストを持つStateManifestを保存する。MemoryStoreはtmp+renameとセッション別インデックスでアトミックなローカルJSON永続化を提供し、RecoveryInjectorは削除されないL1 immutable rulesを含む復元ブロックを再構築する。CompactableMemoryは圧縮前のpreserve(ctx)と、圧縮後のrecover(ctx, messages, summary)を公開する。
バージョンv0.3では、圧縮前のマニフェストと置換後の要約を比較し、各項目を逐語、言い換え、消失に分類するCLIコマンドcam judgeが追加された。このコマンドは--min-verbatim 90を強制でき、項目の90%未満しかバイト単位で残らない場合は終了コード1で終了する。
Liuは、同じ8KBのブリーフィングで、抽出型の組み込みコンプレッサーでは逐語保持率が約60%にとどまり、2つの統制規則が気づかれないまま失われた一方、caveman aggressive compressorでは100%の保持率に達したと報告した。リポジトリの手順にはpip install -e .とpytestが含まれ、31件のテストがある。制限事項として、明示的に宣言された作業状態を保存すること、judgeは意味ではなくdiffベースの照合を使うこと、言い換え判定のしきい値は文書化された45%のヒューリスティックであることが挙げられている。