メモリ効率を高めたAIエージェント「Synapse」が登場
- •トンブリ・ボウエイは、減衰計算を用いて情報の保持・削除を行うAIメモリエージェント「Synapse」を開発した。
- •Synapseは117件のメモリを維持し、1クエリあたり130〜170トークンで動作するが、単純なベースラインでは220件のメモリと2000トークン以上を消費した。
- •110ターンのシミュレーションでタイムスタンプのバグが判明し、修正前は想起精度が71%にとどまったが、ベースラインでは95%を記録した。
トンブリ・ボウエイは、Global AI Hackathon Series on Qwen Cloud向けに、従来の検索ベースのメモリシステムの非効率さを改善するAIエージェント「Synapse」を開発した。通常のエージェントがすべてのメッセージをベクトルデータベースに保存するのに対し、Synapseは減衰計算、意味的統合、矛盾検出を取り入れ、情報のライフサイクルを管理する。システムは各メモリの重要度(Salience)を、減衰係数(lambda)や経過時間に基づいた数式で算出する。エピソード的な詳細は通常72時間で減衰し、意味的な事実は30日間保持される仕組みだ。
アーキテクチャには、繰り返し言及される内容をクラスタリングし、新しい情報が既存の事実を上回る場合に古い事実を破棄するバックグラウンド処理が含まれる。ボウエイはQwen-maxおよびQwen3.7-plusモデル、ならびにベクトル演算用にtext-embedding-v3を活用した。40日間にわたる110ターンの会話ベンチマークでは、シミュレーション上の時間ではなくリアルタイムのタイムスタンプが参照されるバグが確認されたが、これはシミュレーション時間を明示的に反映させることで修正された。
ベンチマークの結果、Synapseはメモリ数を約117件に抑え、クエリあたりのコストを130〜170トークンに維持した。対照的に、ベースラインはメモリ数が220件まで増加し、消費トークン数は2000を上回った。当初の想起精度はSynapseが71%、ベースラインが95%であったが、類似性フィルタのしきい値や再ランキング式の調整が行われた。本プロジェクトはAlibaba Cloud ECS上にデプロイされており、MITライセンスの下で公開されている。