2026년 6월 10일, AI 연구소 Anthropic은 첨단 AI 시스템에 대한 정부 감독 강화와 노동 시장 교란에 대비한 경제적 보호책을 제안하는 두 가지 정책 프레임워크를 공개했다. 이 중 '첨단 AI 프레임워크(Advanced AI Framework)'는 연간 AI 매출이 5억 달러를 넘거나 연구개발비가 10억 달러를 초과하는 기업의 모델 중 10²⁵ FLOPs를 넘어서는 경우, 의무적인 안전성 검사를 시행할 것을 제안했다. 해당 기준은 OpenAI, 구글 딥마인드, xAI, Meta 등 주요 기업들에 적용된다. 또한, Anthropic은 주요 안전 사고 발생 시 15일 이내에 의무적으로 보고해야 한다고 명시했다.

제안된 프레임워크는 AI 모델이 생물학적 무기 제조, 공격적인 사이버 작전 수행, 인간의 통제를 벗어난 동작 등을 하지 않도록 엄격한 독립적 평가를 거칠 것을 요구한다. 기업은 안전성 보고서를 공개하고 외부 감사자가 모델에 접근할 수 있도록 하여 이해 상충을 최소화해야 한다. 또한 정부는 의무 테스트 누락이나 잘못된 안전성 문서를 제공하는 등 규정 위반 시 기업의 글로벌 연간 매출과 연계된 민사 처벌을 부과할 권한을 갖게 된다. 극단적인 경우 규제 당국이 치명적인 위험을 초래할 것으로 판단되는 시스템의 배포를 중단할 수 있으나, 사법 심사를 통한 과도한 규제 방지 장치도 포함했다.

한편 '경제 정책 프레임워크(Economic Policy Framework)'는 AI로 인한 일자리 대체 가능성과 사회 안전망 개선 필요성을 다룬다. Anthropic은 AI 규제 외에도 오픈소스 소프트웨어 보안 강화와 피싱 방지 인증 도입을 통해 생물학적 보안 프로토콜과 사이버 보안을 현대화할 것을 권고했다. 또한 디지털 위협을 탐지하고 대응하기 위해 국가 인프라에 대한 투자를 늘려 AI 가속화 위험과 기존 기술 취약성에 대응할 사회적 회복력을 구축해야 한다고 강조했다. 이번 제안은 미국 정부를 주요 대상으로 하지만, 국제적으로 채택할 수 있는 모델로 설계되었다.

2026년 6월 10일, AI 연구소 Anthropic은 첨단 AI 시스템에 대한 정부 감독 강화와 노동 시장 교란에 대비한 경제적 보호책을 제안하는 두 가지 정책 프레임워크를 공개했다. 이 중 '첨단 AI 프레임워크(Advanced AI Framework)'는 연간 AI 매출이 5억 달러를 넘거나 연구개발비가 10억 달러를 초과하는 기업의 모델 중 10²⁵ FLOPs를 넘어서는 경우, 의무적인 안전성 검사를 시행할 것을 제안했다. 해당 기준은 OpenAI, 구글 딥마인드, xAI, Meta 등 주요 기업들에 적용된다. 또한, Anthropic은 주요 안전 사고 발생 시 15일 이내에 의무적으로 보고해야 한다고 명시했다.

제안된 프레임워크는 AI 모델이 생물학적 무기 제조, 공격적인 사이버 작전 수행, 인간의 통제를 벗어난 동작 등을 하지 않도록 엄격한 독립적 평가를 거칠 것을 요구한다. 기업은 안전성 보고서를 공개하고 외부 감사자가 모델에 접근할 수 있도록 하여 이해 상충을 최소화해야 한다. 또한 정부는 의무 테스트 누락이나 잘못된 안전성 문서를 제공하는 등 규정 위반 시 기업의 글로벌 연간 매출과 연계된 민사 처벌을 부과할 권한을 갖게 된다. 극단적인 경우 규제 당국이 치명적인 위험을 초래할 것으로 판단되는 시스템의 배포를 중단할 수 있으나, 사법 심사를 통한 과도한 규제 방지 장치도 포함했다.

한편 '경제 정책 프레임워크(Economic Policy Framework)'는 AI로 인한 일자리 대체 가능성과 사회 안전망 개선 필요성을 다룬다. Anthropic은 AI 규제 외에도 오픈소스 소프트웨어 보안 강화와 피싱 방지 인증 도입을 통해 생물학적 보안 프로토콜과 사이버 보안을 현대화할 것을 권고했다. 또한 디지털 위협을 탐지하고 대응하기 위해 국가 인프라에 대한 투자를 늘려 AI 가속화 위험과 기존 기술 취약성에 대응할 사회적 회복력을 구축해야 한다고 강조했다. 이번 제안은 미국 정부를 주요 대상으로 하지만, 국제적으로 채택할 수 있는 모델로 설계되었다.