Synapse: 감쇠 공식을 활용한 효율적 AI 메모리 에이전트
- •톰브리 보위(Tombri Bowei)가 감쇠 공식을 통해 불필요한 정보를 삭제하고 관리하는 AI 메모리 에이전트 'Synapse'를 개발했다.
- •Synapse는 117개의 활성 메모리와 쿼리당 130~170개의 토큰을 유지해, 기본 모델의 220개 메모리 및 2000개 이상의 토큰 대비 높은 효율을 보였다.
- •110회 턴 시뮬레이션에서 타임스탬프 버그로 인해 71%의 초기 회상 정확도를 기록했으나, 이후 개선을 통해 정확도를 높였다.
개발자 톰브리 보위는 글로벌 AI 해커톤 시리즈(Global AI Hackathon Series)를 위해 Qwen Cloud 기반의 AI 메모리 에이전트 'Synapse'를 개발했다. 이는 모든 메시지를 벡터 데이터베이스에 저장하는 기존 방식의 비효율성을 극복하기 위해 설계되었다. Synapse는 감쇠 공식(decay math), 의미론적 통합, 모순 감지 기능을 결합해 정보 생애 주기를 관리한다. 각 메모리의 중요도는 고유한 수식(salience(t) = importance_score (1 + log(1 + recall_count)) exp(-lambda hours_since_last_recall))을 통해 계산되며, 에피소드성 세부 정보는 72시간, 의미론적 사실은 30일의 수명을 가진다.
시스템 구조에는 반복된 언급을 군집화하고 새로운 정보가 기존 사실을 대체할 때 낡은 정보를 제거하는 '백그라운드 슬립 패스' 기능이 포함되어 있다. 보위는 Qwen-max와 Qwen3.7-plus 모델, 그리고 벡터 연산을 위해 text-embedding-v3를 활용했다. 40일간의 110회 턴 대화 시뮬레이션 과정에서 타임스탬프 버그가 발견되었는데, 시뮬레이션 시간 대신 실시간 타임스탬프가 적용되어 데이터 우선순위가 꼬이는 문제가 발생했다. 이를 시뮬레이션 시간 기반 로직으로 수정하여 해결했다.
기존 방식과 비교했을 때 Synapse는 약 117개의 활성 메모리를 안정적으로 유지했다. 반면 일반 모델은 메모리 개수가 220개까지 선형적으로 증가했다. 쿼리당 토큰 비용 역시 130~170개 수준으로 억제되어 2000개를 초과하는 일반 모델 대비 매우 낮았다. 초기 회상 정확도는 71%(일반 모델 95%)였으나, 보위는 유사도 사전 필터 게이트와 재순위 결정 공식의 결함을 수정하여 성능을 보완했다. 현재 해당 프로젝트는 Alibaba Cloud ECS에 배포되었으며, MIT 라이선스로 오픈소스 공개되었다.