Web2BigTable: 에이전트 AI로 구현하는 인터넷 규모의 정보 분석
- •Web2BigTable은 인터넷 단위의 정보 취합 성능을 기존 대비 7.5배 향상했다.
- •작업 오케스트레이션과 실행 단계를 분리한 이중 계층 아키텍처로 복잡한 연구 과제를 관리한다.
- •실행-검증-반영 루프를 통해 에이전트가 스스로 오류를 수정하며 탐색 경로를 최적화한다.
인공지능 생태계는 단순한 챗봇을 넘어 연구, 코딩, 데이터 관리 등 실질적인 과제를 수행하는 '에이전트 AI' 중심으로 빠르게 변화하고 있다. 하지만 방대하고 파편화되어 있으며 신뢰할 수 없는 정보가 섞인 인터넷 환경은 디지털 에이전트들에게 여전히 큰 장벽이다. Web2BigTable 프레임워크는 이러한 문제를 해결하기 위해 광범위한 정보 수집과 심층적인 분석을 결론짓는 다층 시스템을 구축했다.
기존의 AI 검색 시스템은 데이터 수집의 범위(breadth)와 단일 주제에 대한 심도 있는 분석(depth) 사이에서 트레이드오프를 겪는 경우가 많다. 특히 여러 웹사이트를 순차적으로 연결해야 하는 다단계 추론(Multi-hop reasoning) 과정에서 빈번하게 실패하곤 한다. Web2BigTable은 이를 해결하기 위해 경영 조직과 유사한 이중 계층 구조를 채택했다. 오케스트레이터 에이전트가 사용자 요청을 작은 하위 작업으로 세분화하면, 작업자 에이전트들이 이를 병렬로 수행하며 효율성을 극대화한다.
무엇보다 이 프레임워크의 핵심은 실행-검증-반영 루프에 있다. 시스템은 일회성 검색에 그치지 않고 지속적으로 작업 과정을 검증한다. 만약 작업자 에이전트가 상충하는 데이터를 발견하거나 검색 전략이 막히면, 공유 작업 공간을 통해 정보를 교환한다. 이를 통해 에이전트 간의 중복 노력을 방지하고 실시간으로 불일치를 조정함으로써 AI가 스스로 시행착오를 통해 학습하는 구조를 완성했다.
또한 시스템은 영구적인 외부 메모리를 탑재하여 검색 과정 전반에서 지식을 유지한다. 이는 고정된 컨텍스트 윈도우 내에서만 작동하는 일반적인 거대언어모델의 한계를 넘어선 지점이다. 과거의 탐색 결과를 저장하고 다시 불러올 수 있게 되면서 시스템의 일관성과 정확도는 비약적으로 상승했다. 실제로 WideSearch와 같은 벤치마크 테스트에서 기존 최첨단 시스템 대비 7배 이상의 성공률을 기록했다.
방대한 데이터를 다루는 대학생과 연구자들에게 이번 성과는 웹 상호작용의 패러다임 전환을 의미한다. 검색은 더 이상 단순한 링크의 나열을 읽는 행위가 아니라, 신뢰할 수 있는 구조화된 테이블로 지식을 통합하는 능동적인 과정으로 변화하고 있다. 향후 해당 기술이 실무에 본격적으로 도입되면 에이전트 기반 검색은 학계와 산업계의 표준 도구로 자리 잡을 것으로 전망된다.