SpecEyes 프레임워크, 멀티모달 AI 에이전트 속도 3.35배 향상
- •SpecEyes 프레임워크는 추측성 계획을 통해 멀티모달 AI 에이전트의 작업 속도를 최대 3.35배까지 가속한다.
- •인지 게이팅 메커니즘을 도입하여 AI 에이전트가 외부 라벨 없이도 스스로 확신도를 검증할 수 있도록 지원한다.
- •이질적 병렬 깔때기 구조를 통해 소형 모델의 빠른 예측을 동시에 실행함으로써 대형 모델의 처리 지연을 보완한다.
시각적 데이터를 해석하고 복잡한 작업을 수행하는 현대의 멀티모달 AI 에이전트는 '에이전트 깊이(agentic depth)'라는 심각한 병목 현상에 직면해 있다. 이는 에이전트가 다음 단계로 넘어가기 위해 지각, 추론, 도구 호출의 각 과정을 순차적으로 기다려야 함을 의미하며, 결과적으로 성능 저하와 높은 지연 시간을 초래한다. 이에 따라 연구진은 이러한 순차적 루프를 우회하기 위해 더 빠르고 '추측성'인 접근 방식을 채택한 SpecEyes 프레임워크를 개발했다.
이 기술의 핵심 혁신은 가벼운 보조 모델을 사용하여 에이전트가 선택할 가능성이 가장 높은 경로를 예측하는 데 있다. 특히 복잡한 도구 체인의 결과를 미리 짐작하는 추측성 계획을 통해, 시스템은 중복되는 단계를 생략하거나 해결책이 명확해진 경우 비용이 많이 드는 프로세스를 조기에 종료할 수 있다. 또한 SpecEyes는 높은 정확도를 유지하기 위해 인지 게이팅 메커니즘을 활용한다. 이는 품질 필터 역할을 수행하며, 자신의 추측에 대한 시스템의 확신도를 측정함으로써 오류 위험이 낮을 때만 지름길을 선택하도록 보장한다.
V Bench와 같은 업계 표준 벤치마크를 통한 실험 결과에 따르면, SpecEyes는 처리 속도를 최대 3.35배 개선했을 뿐만 아니라 특정 작업에서의 정확도를 약 7% 향상시켰다. 무엇보다 이질적 병렬 깔때기 구조를 채택하여 대형 모델이 주요 연산을 처리하는 동안 소형 모델이 미리 작업을 수행할 수 있도록 설계되었다. 이러한 멀티태스킹 접근 방식은 전체 처리량을 극대화하며, 결과적으로 AI 시스템이 품질 저하 없이 훨씬 더 많은 사용자 요청을 동시에 처리할 수 있게 한다.