마이크로소프트, AI 보안 위한 제로 트러스트 프레임워크 출시
- •마이크로소프트가 데이터, 모델 학습, 에이전틱 AI 워크로드를 보호하기 위한 'AI를 위한 제로 트러스트' 프레임워크를 도입했다.
- •ID, 거버넌스, 자동화된 행동 모니터링 등 700여 개의 파라미터를 아우르는 새로운 AI 특화 보안 제어 기능을 선보였다.
- •업데이트된 참조 아키텍처는 프롬프트 인젝션과 자율 에이전트의 정렬 불량에 대응하는 심층 방어 전략을 제공한다.
마이크로소프트가 새로운 'AI를 위한 제로 트러스트(ZT4AI)' 프레임워크를 통해 생성형 AI 시대의 기업 보안을 재정의하고 있다. 조직의 업무 환경이 단순한 챗봇 활용을 넘어 에이전틱 AI 기반의 자율 시스템으로 전환됨에 따라 기존의 보안 경계가 점차 희미해지고 있기 때문이다. 이에 마이크로소프트는 '절대 신뢰하지 말고 항상 검증하라'는 철학을 AI 특유의 위험 요소로 확장 적용했다. 특히 겉으로는 유용해 보이지만 외부 조작이나 정렬 불량으로 인해 조직의 이익에 반하는 행동을 하는 이른바 '이중 스파이' 시스템과 같은 위협에 대한 대응책을 마련했다.
이번 이니셔티브를 통해 마이크로소프트 제로 트러스트 워크숍에는 포괄적인 AI 보안 체계가 도입되었으며, 여기에는 700개 이상의 정밀한 보안 제어 항목이 포함되었다. 보안 팀은 이러한 도구를 활용해 고차원적인 전략 수립을 넘어 실질적인 실행 단계로 나아갈 수 있으며, 특히 모델과 프롬프트에 대한 최소 권한 접근 관리에 집중하게 된다. 또한 시스템 침해를 상시 가정하는 보안 환경을 구축함으로써, 데이터 소스에 숨겨진 악의적인 명령으로 AI를 장악하는 간접 프롬프트 인젝션과 같은 최신 취약점에 효과적으로 대응한다.
보안 패러다임의 전환을 지원하기 위해 마이크로소프트는 새로운 참조 아키텍처와 데이터 및 네트워킹을 위한 자동 평가 도구도 함께 공개했다. 해당 리소스들은 데이터 수집부터 실시간 에이전트 모니터링까지 AI 라이프사이클 전반에 존재하는 보안 취약점을 식별하는 데 도움을 준다. 아울러 마이크로소프트는 2026년 여름까지 AI 전용 자동화 평가 시스템을 출시하여, 기업들이 급성장하는 자사 AI 생태계의 안전성과 회복탄력성을 표준화된 방식으로 검증할 수 있도록 지원할 계획이다.