소프트웨어 개발자 랄프 페카요(Ralph Pecayo)가 데이터 프라이버시 보호를 위해 완전히 오프라인에서 작동하는 안드로이드용 AI 메모리 운영체제 'Aye-Aye'를 개발했다. 이 애플리케이션은 클라우드 기반 처리나 원격 측정 기능을 배제하여 사용자의 디지털 활동 기록을 기기 내부에서 로컬로 인덱싱하는 개인용 지식 저장소 역할을 한다.

자동으로 화면 맥락을 파악하기 위해 안드로이드의 접근성 서비스를 활용하며, 자동 필터링을 통해 사용자 인터페이스에서 발생하는 불필요한 노이즈를 줄인다. 또한 알림 수신 서비스를 통해 로컬 타임라인에 정보를 기록한다. 텍스트 추출이 불가능한 콘텐츠의 경우, 플로팅 캡처 도구와 오프라인 광학 문자 인식(OCR) 엔진을 연동해 이미지 속 텍스트를 직접 추출한다.

검색과 정보 검색에는 이중 엔진 방식을 채택했다. 키워드 기반의 검색은 SQLCipher FTS5를 통해 빠르고 암호화된 형태로 처리하며, 의미론적 검색을 위해서는 37 MB 크기의 bge-small 임베딩 모델을 사용하여 사용자 데이터를 벡터화한다. 도출된 결과값은 상호 순위 융합(Reciprocal Rank Fusion)을 통해 정확도를 높인다.

마지막으로 검색 증강 생성(RAG) 인터페이스를 통해 사용자는 플로팅 채팅 창에서 기록된 정보를 질의할 수 있다. 이때 모델은 기기에 저장된 데이터만을 기반으로 답변하도록 제한되어 환각 현상을 방지한다. 랄프 페카요는 모바일 하드웨어 환경에서 데이터 수집, 벡터화, 추론 과정을 병행할 때 배터리 효율과 메모리를 관리하는 것이 핵심적인 기술적 과제라고 밝혔다. 현재 다양한 안드로이드 기기 환경에서 성능 최적화를 위한 베타 테스터를 모집 중이다.

소프트웨어 개발자 랄프 페카요(Ralph Pecayo)가 데이터 프라이버시 보호를 위해 완전히 오프라인에서 작동하는 안드로이드용 AI 메모리 운영체제 'Aye-Aye'를 개발했다. 이 애플리케이션은 클라우드 기반 처리나 원격 측정 기능을 배제하여 사용자의 디지털 활동 기록을 기기 내부에서 로컬로 인덱싱하는 개인용 지식 저장소 역할을 한다.

자동으로 화면 맥락을 파악하기 위해 안드로이드의 접근성 서비스를 활용하며, 자동 필터링을 통해 사용자 인터페이스에서 발생하는 불필요한 노이즈를 줄인다. 또한 알림 수신 서비스를 통해 로컬 타임라인에 정보를 기록한다. 텍스트 추출이 불가능한 콘텐츠의 경우, 플로팅 캡처 도구와 오프라인 광학 문자 인식(OCR) 엔진을 연동해 이미지 속 텍스트를 직접 추출한다.

검색과 정보 검색에는 이중 엔진 방식을 채택했다. 키워드 기반의 검색은 SQLCipher FTS5를 통해 빠르고 암호화된 형태로 처리하며, 의미론적 검색을 위해서는 37 MB 크기의 bge-small 임베딩 모델을 사용하여 사용자 데이터를 벡터화한다. 도출된 결과값은 상호 순위 융합(Reciprocal Rank Fusion)을 통해 정확도를 높인다.

마지막으로 검색 증강 생성(RAG) 인터페이스를 통해 사용자는 플로팅 채팅 창에서 기록된 정보를 질의할 수 있다. 이때 모델은 기기에 저장된 데이터만을 기반으로 답변하도록 제한되어 환각 현상을 방지한다. 랄프 페카요는 모바일 하드웨어 환경에서 데이터 수집, 벡터화, 추론 과정을 병행할 때 배터리 효율과 메모리를 관리하는 것이 핵심적인 기술적 과제라고 밝혔다. 현재 다양한 안드로이드 기기 환경에서 성능 최적화를 위한 베타 테스터를 모집 중이다.