Android向け完全オフラインAIメモリーOS「Aye-Aye」が登場
- •ラルフ・ペカヨ（Ralph Pecayo）は、クラウドに依存せず完全オフラインで動作するAndroid用メモリーOS「Aye-Aye」を公開した。
- •本システムは37MBのbge-small埋め込みモデルによるローカルベクトル化と、暗号化検索エンジンSQLCipher FTS5を採用している。
- •Androidのアクセシビリティフックと光学文字認識（OCR）を活用し、デジタルコンテンツをインデックス化して検索拡張生成（RAG）を実現する。
ソフトウェア開発者のラルフ・ペカヨ（Ralph Pecayo）は、データのプライバシー保護を目的としたAndroid用AIメモリーOS「Aye-Aye」を開発した。クラウドベースの処理やテレメトリを排除し、ユーザーのデジタルフットプリントをデバイス上でローカルにインデックス化するパーソナルナレッジベースとして機能する。
画面情報の取得には、Androidのネイティブなアクセシビリティサービスを活用し、リアルタイムで構造化テキストを取り込む。不要なUI情報を自動フィルタリングし、通知リスナーを介してアラートをローカルタイムラインに記録する仕組みだ。構造化データが取得できない場合には、手動のスクリーンキャプチャツールと光学文字認識（OCR）エンジンを組み合わせ、画素データから直接テキストを抽出する。
検索および取得には2つのエンジンを併用する。キーワード検索にはSQLCipher FTS5による高速なステミングおよび曖昧一致検索を採用し、セマンティックな概念検索には37MBのbge-small埋め込みモデルを使用してユーザーデータをベクトル化する。これらの検索結果はReciprocal Rank Fusion（逆順位融合）によって統合され、精度の向上が図られている。
最終的なインターフェースには、検索拡張生成（RAG）を採用し、フローティングチャットを通じて過去の履歴を照会できる。大規模言語モデル（LLM）の回答範囲はデバイス内に保存された履歴に限定され、幻覚（ハルシネーション）を抑制する仕様となっている。ペカヨによると、インジェスト、ベクトル化、LLM推論をAndroid端末上で実行する際のリソース管理とバッテリー効率の確保が技術的な課題であり、現在はハードウェアごとの性能を最適化するためのベータテスターを募集している。