AWS, 에이전트 프레임워크 7개 계층 공개

AWS가 다중 에이전트 애플리케이션을 시제품에서 실제 운영 규모로 확장하기 위한 참조 아키텍처를 공개했습니다. ‘플러그형 에이전트 AI 프레임워크’는 역할과 안정적인 인터페이스를 정한 7개 계층으로 시스템을 나눕니다. 예시 서비스는 선택 사항이며, 조직은 자사 인프라에 맞는 기술로 바꿀 수 있습니다.

계층은 데이터·지식 접근, 모델 선택·추론, 오케스트레이션, 보안·안전장치, 사용자용 애플리케이션, 관측, 에이전트 운영으로 구성됩니다. 프레임워크는 설정을 통해 모델을 선택하고 실제 업무 데이터를 활용해 평가할 것을 권고합니다. 복잡한 작업 흐름에서는 감독 에이전트가 제한된 도구를 쓰는 전문 에이전트에 업무를 맡길 수 있으며, 중앙 목록에는 에이전트와 도구, 기능, 담당자가 기록됩니다.

프레임워크는 모든 요청에 인증을 적용하고, 도구 사용 전 세분화된 권한을 확인하며, 범위가 제한된 임시 인증 정보를 사용하도록 제안합니다. 개인정보와 건강 정보는 가리고, 위변조 여부를 확인할 수 있는 감사 기록을 남기며, 영향이 큰 작업에는 사람의 승인을 요구하고 비정상 동작에는 회로 차단기를 적용하도록 했습니다. 또한 요청별 추적, 비용과 토큰 사용량 기록, 응답 지연시간과 오류율 측정, 운영 중인 대화의 근거성·정확성·안전성 지속 평가, 품질 저하를 잡아내는 회귀 검사를 권고합니다.

AWS는 주문 상태와 환불 자격을 처리하는 소매 고객 지원 구현 사례를 제공합니다. 감독 에이전트는 요청을 주문 에이전트와 환불 에이전트에 배정합니다. 주문 에이전트는 DynamoDB에서 구매·배송 정보를 가져오고, 환불 에이전트는 지식 기반에서 고객 등급별 규칙을 확인한 뒤 배송일, 현재 날짜, 고객 충성도 등급을 사용해 환불 가능 여부를 계산합니다. 호출은 권한 확인을 위해 AgentCore Gateway를 거치고 처음부터 끝까지 추적되므로, 계산이 실패하면 어느 계층과 판단 지점에서 문제가 생겼는지 찾을 수 있습니다.

안정적인 인터페이스를 두면 나머지 시스템을 다시 설계하지 않고 개별 계층의 기술을 바꿀 수 있다는 것이 프레임워크의 설계 취지입니다. 참조 프레임워크는 모델 호스팅, 검색, 의사결정 API, 안전장치, 추적, 모니터링, 비용 추적을 위한 제3자 연동 사례를 보여줍니다. AWS는 기업이 신뢰해 온 도구를 유지하면서 기능을 단계적으로 더할 수 있다고 밝혔습니다. 게시물은 Workshop Studio 체험 환경과 공개 샘플 저장소를 안내하는 한편, 이 구현이 실제 운영 환경을 위한 보안 강화와 테스트, 검토를 대신하지는 않는다고 설명합니다.

AWS가 다중 에이전트 애플리케이션을 시제품에서 실제 운영 규모로 확장하기 위한 참조 아키텍처를 공개했습니다. ‘플러그형 에이전트 AI 프레임워크’는 역할과 안정적인 인터페이스를 정한 7개 계층으로 시스템을 나눕니다. 예시 서비스는 선택 사항이며, 조직은 자사 인프라에 맞는 기술로 바꿀 수 있습니다.

계층은 데이터·지식 접근, 모델 선택·추론, 오케스트레이션, 보안·안전장치, 사용자용 애플리케이션, 관측, 에이전트 운영으로 구성됩니다. 프레임워크는 설정을 통해 모델을 선택하고 실제 업무 데이터를 활용해 평가할 것을 권고합니다. 복잡한 작업 흐름에서는 감독 에이전트가 제한된 도구를 쓰는 전문 에이전트에 업무를 맡길 수 있으며, 중앙 목록에는 에이전트와 도구, 기능, 담당자가 기록됩니다.

프레임워크는 모든 요청에 인증을 적용하고, 도구 사용 전 세분화된 권한을 확인하며, 범위가 제한된 임시 인증 정보를 사용하도록 제안합니다. 개인정보와 건강 정보는 가리고, 위변조 여부를 확인할 수 있는 감사 기록을 남기며, 영향이 큰 작업에는 사람의 승인을 요구하고 비정상 동작에는 회로 차단기를 적용하도록 했습니다. 또한 요청별 추적, 비용과 토큰 사용량 기록, 응답 지연시간과 오류율 측정, 운영 중인 대화의 근거성·정확성·안전성 지속 평가, 품질 저하를 잡아내는 회귀 검사를 권고합니다.

AWS는 주문 상태와 환불 자격을 처리하는 소매 고객 지원 구현 사례를 제공합니다. 감독 에이전트는 요청을 주문 에이전트와 환불 에이전트에 배정합니다. 주문 에이전트는 DynamoDB에서 구매·배송 정보를 가져오고, 환불 에이전트는 지식 기반에서 고객 등급별 규칙을 확인한 뒤 배송일, 현재 날짜, 고객 충성도 등급을 사용해 환불 가능 여부를 계산합니다. 호출은 권한 확인을 위해 AgentCore Gateway를 거치고 처음부터 끝까지 추적되므로, 계산이 실패하면 어느 계층과 판단 지점에서 문제가 생겼는지 찾을 수 있습니다.

안정적인 인터페이스를 두면 나머지 시스템을 다시 설계하지 않고 개별 계층의 기술을 바꿀 수 있다는 것이 프레임워크의 설계 취지입니다. 참조 프레임워크는 모델 호스팅, 검색, 의사결정 API, 안전장치, 추적, 모니터링, 비용 추적을 위한 제3자 연동 사례를 보여줍니다. AWS는 기업이 신뢰해 온 도구를 유지하면서 기능을 단계적으로 더할 수 있다고 밝혔습니다. 게시물은 Workshop Studio 체험 환경과 공개 샘플 저장소를 안내하는 한편, 이 구현이 실제 운영 환경을 위한 보안 강화와 테스트, 검토를 대신하지는 않는다고 설명합니다.