디지털 옵저버빌리티(Observability) 분야의 선구자인 New Relic이 파편화된 사내 문서를 통합하고 엔지니어링 업무를 자동화하는 사내 AI 어시스턴트 'NOVA'를 발표했다. AWS 생성형 AI 혁신 센터와 공동 개발한 이 도구는 단순한 검색 엔진을 넘어 매일 1,000건 이상의 쿼리를 처리하는 생산성 허브로 진화했다. 특히 GitHub나 Salesforce와 같은 외부 플랫폼과 직접 연결되는 기능을 갖췄는데, 그 결과 기존에 수 시간이 걸리던 정보 검색 시간을 20초 미만으로 단축하며 엔지니어들이 검색 대신 개발 작업에만 몰입할 수 있도록 돕는다.

NOVA의 아키텍처는 팀 권한 요청이나 서비스 한도 수정과 같은 복잡한 과업을 매끄럽게 처리하는 정교한 오케스트레이션 계층에 기반한다. 여기에는 AI가 외부 도구와 일관되고 안전하게 상호작용할 수 있도록 돕는 표준 규격인 모델 컨텍스트 프로토콜이 활용됐다. 이러한 설계를 바탕으로 NOVA는 일상적인 기술 조정 과정에서 인간의 지속적인 감독 없이도 소프트웨어 생태계 전반의 다단계 워크플로우를 스스로 실행하는 에이전틱 AI로서 작동한다.

시스템의 신뢰성을 유지하기 위한 장치도 마련됐다. New Relic은 별도의 AI가 감사자 역할을 수행하며 응답의 정확도를 실시간으로 채점하는 평가 시스템을 도입했다. 또한 Amazon Bedrock을 통해 작업의 성격에 따라 Amazon Nova Lite와 Pro 모델 사이를 동적으로 전환하며 처리 속도와 추론의 깊이를 최적화한다. 이처럼 데이터 강화 기술과 계층적 모델 접근 방식을 결합한 결과, NOVA는 방대한 기술 지식 기반 전체에서 80%에 달하는 높은 정확도를 기록하고 있다.

디지털 옵저버빌리티(Observability) 분야의 선구자인 New Relic이 파편화된 사내 문서를 통합하고 엔지니어링 업무를 자동화하는 사내 AI 어시스턴트 'NOVA'를 발표했다. AWS 생성형 AI 혁신 센터와 공동 개발한 이 도구는 단순한 검색 엔진을 넘어 매일 1,000건 이상의 쿼리를 처리하는 생산성 허브로 진화했다. 특히 GitHub나 Salesforce와 같은 외부 플랫폼과 직접 연결되는 기능을 갖췄는데, 그 결과 기존에 수 시간이 걸리던 정보 검색 시간을 20초 미만으로 단축하며 엔지니어들이 검색 대신 개발 작업에만 몰입할 수 있도록 돕는다.

NOVA의 아키텍처는 팀 권한 요청이나 서비스 한도 수정과 같은 복잡한 과업을 매끄럽게 처리하는 정교한 오케스트레이션 계층에 기반한다. 여기에는 AI가 외부 도구와 일관되고 안전하게 상호작용할 수 있도록 돕는 표준 규격인 모델 컨텍스트 프로토콜이 활용됐다. 이러한 설계를 바탕으로 NOVA는 일상적인 기술 조정 과정에서 인간의 지속적인 감독 없이도 소프트웨어 생태계 전반의 다단계 워크플로우를 스스로 실행하는 에이전틱 AI로서 작동한다.

시스템의 신뢰성을 유지하기 위한 장치도 마련됐다. New Relic은 별도의 AI가 감사자 역할을 수행하며 응답의 정확도를 실시간으로 채점하는 평가 시스템을 도입했다. 또한 Amazon Bedrock을 통해 작업의 성격에 따라 Amazon Nova Lite와 Pro 모델 사이를 동적으로 전환하며 처리 속도와 추론의 깊이를 최적화한다. 이처럼 데이터 강화 기술과 계층적 모델 접근 방식을 결합한 결과, NOVA는 방대한 기술 지식 기반 전체에서 80%에 달하는 높은 정확도를 기록하고 있다.