포티넷, 정부 AI 에이전트 통제 촉구

포티넷의 잭 챈은 GovInsider와의 인터뷰에서 정부 기관이 AI 에이전트의 신원, 권한, 데이터 접근과 활동을 통제해야 한다고 말했습니다. 에이전트가 기록을 조회하고 수정할 수 있게 되면서 통제 필요성이 커졌다는 설명입니다. 은행 보조 에이전트 시연에서는 고객 관계 관리(CRM) 업데이트를 위해 고객 표본 기록 10건을 요청하자 민감한 고객 기록을 반환했지만, 보안 통제를 적용하면 같은 요청이 차단됐습니다. 챈은 10월 13일 GovWare 2026에서 관련 위험을 발표했고, 다음 날 사이버 보안 패널에도 참여했습니다.

챈은 프롬프트 인젝션(인공지능 시스템의 지시를 바꾸는 입력)과 악의적 요청이 정보를 노출하거나 부적절한 응답을 유도할 수 있다고 말했습니다. 공공 부문 에이전트가 시민 기록이나 공공 서비스 시스템에 접근하면 위험이 커집니다. 포티넷의 FortiAIGate는 AI 애플리케이션과 모델 사이에서 요청을 검사하고, 대규모 언어 모델에 전달하기 전에 프롬프트 인젝션과 데이터 유출 등 보안 위험을 탐지합니다. 로그에는 입력과 출력, 의심스러운 악성 요청을 차단한 이유가 기록됩니다.

챈은 에이전트에 적용할 제로 트러스트 절차로 담당 인간 소유자 지정, 시스템 접근 전 에이전트 인증, 업무에 필요한 최소한의 데이터와 권한만 부여하는 방식을 제시했습니다. 기관은 접근 권한을 지속적으로 살피고 검토하며, 에이전트의 기능과 데이터 민감도, 호스팅 위치를 평가하고 인간의 감독을 유지해야 합니다. 보안팀은 에이전트의 권한을 즉시 회수하고 애플리케이션이 폐기될 때 접근을 제거할 수 있어야 합니다. 챈은 비인간 신원도 모니터링하고, 자체 개발하거나 공급업체가 제공한 에이전트의 위협 모델을 점검해야 한다고 덧붙였습니다.

정부 에이전트가 건강 정보나 금융 정보를 처리할 때 기관은 어느 제공업체가 데이터를 처리하는지, 데이터가 어디에 저장되는지, 누가 접근할 수 있는지, 어떤 관할권이 적용되는지 알아야 합니다. 챈은 AI를 내부에서 운영하는 비용 때문에 외부 모델과 서비스에 의존할 수 있으며, 이에 따라 데이터 흐름 통제 업무가 늘어난다고 말했습니다. 민감한 정보를 공유 전에 가리는 데이터 마스킹이 보호책으로 제시됐습니다. 보안 및 네트워크 팀은 단말기 제어, 방화벽, 중앙 집중식 로그를 통해 AI 사용 전반을 파악해야 하며, 챈은 이를 ‘AI 관측성’이라고 불렀습니다.

챈은 AI가 감염된 기기를 격리하는 자동 대응, 방어자가 공격자를 관찰할 수 있게 하는 미끼 시스템, 방어를 조율하고 위협 탐지·대응 시간을 줄이는 머신러닝을 통해 사이버 방어를 지원할 수 있다고 말했습니다. 포티넷은 취약점 대응과 고객 보안 개선에 최첨단 AI 모델을 활용한다고 밝혔습니다. 이상 활동 탐지 사례로는 평소 하루 약 1기가바이트를 업로드하던 노트북의 전송량이 갑자기 10기가바이트로 늘어나는 상황을 들었습니다. 이런 변화를 알아채려면 정상 트래픽의 기준선을 먼저 세워야 합니다.

챈에 따르면 위협 인텔리전스는 공격 집단과 연관된 악성 도메인, 웹 주소, 파일 해시를 단말기 활동과 연결할 수 있습니다. 네트워크·단말기·인증 시스템의 데이터를 결합하면 AI 에이전트가 보안 정보를 통합하는 데 도움이 됩니다. 공급업체와 정부 기관은 양방향으로 위협 정보를 공유하며, 펌프와 밸브 등 기계를 제어하는 장비를 만드는 운영 기술 제공업체와도 협력합니다. 챈은 문제가 생길 경우를 대비해 기관이 에이전트의 접근을 감시하고 권한을 회수해야 한다고 말했습니다.

포티넷의 잭 챈은 GovInsider와의 인터뷰에서 정부 기관이 AI 에이전트의 신원, 권한, 데이터 접근과 활동을 통제해야 한다고 말했습니다. 에이전트가 기록을 조회하고 수정할 수 있게 되면서 통제 필요성이 커졌다는 설명입니다. 은행 보조 에이전트 시연에서는 고객 관계 관리(CRM) 업데이트를 위해 고객 표본 기록 10건을 요청하자 민감한 고객 기록을 반환했지만, 보안 통제를 적용하면 같은 요청이 차단됐습니다. 챈은 10월 13일 GovWare 2026에서 관련 위험을 발표했고, 다음 날 사이버 보안 패널에도 참여했습니다.

챈은 프롬프트 인젝션(인공지능 시스템의 지시를 바꾸는 입력)과 악의적 요청이 정보를 노출하거나 부적절한 응답을 유도할 수 있다고 말했습니다. 공공 부문 에이전트가 시민 기록이나 공공 서비스 시스템에 접근하면 위험이 커집니다. 포티넷의 FortiAIGate는 AI 애플리케이션과 모델 사이에서 요청을 검사하고, 대규모 언어 모델에 전달하기 전에 프롬프트 인젝션과 데이터 유출 등 보안 위험을 탐지합니다. 로그에는 입력과 출력, 의심스러운 악성 요청을 차단한 이유가 기록됩니다.

챈은 에이전트에 적용할 제로 트러스트 절차로 담당 인간 소유자 지정, 시스템 접근 전 에이전트 인증, 업무에 필요한 최소한의 데이터와 권한만 부여하는 방식을 제시했습니다. 기관은 접근 권한을 지속적으로 살피고 검토하며, 에이전트의 기능과 데이터 민감도, 호스팅 위치를 평가하고 인간의 감독을 유지해야 합니다. 보안팀은 에이전트의 권한을 즉시 회수하고 애플리케이션이 폐기될 때 접근을 제거할 수 있어야 합니다. 챈은 비인간 신원도 모니터링하고, 자체 개발하거나 공급업체가 제공한 에이전트의 위협 모델을 점검해야 한다고 덧붙였습니다.

정부 에이전트가 건강 정보나 금융 정보를 처리할 때 기관은 어느 제공업체가 데이터를 처리하는지, 데이터가 어디에 저장되는지, 누가 접근할 수 있는지, 어떤 관할권이 적용되는지 알아야 합니다. 챈은 AI를 내부에서 운영하는 비용 때문에 외부 모델과 서비스에 의존할 수 있으며, 이에 따라 데이터 흐름 통제 업무가 늘어난다고 말했습니다. 민감한 정보를 공유 전에 가리는 데이터 마스킹이 보호책으로 제시됐습니다. 보안 및 네트워크 팀은 단말기 제어, 방화벽, 중앙 집중식 로그를 통해 AI 사용 전반을 파악해야 하며, 챈은 이를 ‘AI 관측성’이라고 불렀습니다.

챈은 AI가 감염된 기기를 격리하는 자동 대응, 방어자가 공격자를 관찰할 수 있게 하는 미끼 시스템, 방어를 조율하고 위협 탐지·대응 시간을 줄이는 머신러닝을 통해 사이버 방어를 지원할 수 있다고 말했습니다. 포티넷은 취약점 대응과 고객 보안 개선에 최첨단 AI 모델을 활용한다고 밝혔습니다. 이상 활동 탐지 사례로는 평소 하루 약 1기가바이트를 업로드하던 노트북의 전송량이 갑자기 10기가바이트로 늘어나는 상황을 들었습니다. 이런 변화를 알아채려면 정상 트래픽의 기준선을 먼저 세워야 합니다.

챈에 따르면 위협 인텔리전스는 공격 집단과 연관된 악성 도메인, 웹 주소, 파일 해시를 단말기 활동과 연결할 수 있습니다. 네트워크·단말기·인증 시스템의 데이터를 결합하면 AI 에이전트가 보안 정보를 통합하는 데 도움이 됩니다. 공급업체와 정부 기관은 양방향으로 위협 정보를 공유하며, 펌프와 밸브 등 기계를 제어하는 장비를 만드는 운영 기술 제공업체와도 협력합니다. 챈은 문제가 생길 경우를 대비해 기관이 에이전트의 접근을 감시하고 권한을 회수해야 한다고 말했습니다.