도널드 트럼프 대통령이 2026년 6월 2일, 인공지능 보안 프레임워크를 수립하는 행정명령에 서명했다. 이번 조치는 모델 출시 전 정부의 라이선스 취득이나 사전 승인 요건을 명시적으로 거부하고 자율성을 강조한 점이 특징이다. 행정명령은 연방 및 민간 컴퓨터 시스템의 방어 역량을 강화하는 데 주력하며, 정부 부처에 사이버 방어태세 강화를 지시했다. 또한 산업계 및 핵심 인프라 운영자와 협력해 취약점을 식별하고 해결하기 위한 AI 사이버 보안 허브를 구축할 예정이다. 이는 2026년 4월 Anthropic이 자사의 최신 모델인 Claude Mythos가 수백 건의 소프트웨어 취약점을 식별하고 시스템 공격을 시뮬레이션했다고 발표한 이후 이루어졌다.

새로운 지침에 따라 정부는 프론티어 모델로 지정된 프로그램에 대한 분류 절차를 유지한다. 여기서 프론티어 모델이란 거대한 데이터 세트로 학습되어 고도의 추론 능력과 자율적인 도구 사용이 가능한 AI 시스템을 의미한다. 해당 기준을 충족하는 모델 개발사는 대중에 공개하기 최소 30일 전 정부에 접근 권한을 제공해야 한다. 기업은 또한 제3자를 통한 위험 평가를 진행하기 위해 연방 정부와 협력할 것으로 기대된다. 다만, 정부는 여전히 자율적 보고 체계를 유지하고 있으며, 이는 규제 장벽이 오히려 혁신을 저해할 수 있다는 행정부의 입장을 반영한다. 이는 상업적 압력이 안전보다 속도를 우선시하여 위험을 초래할 수 있다고 경고하는 제프리 힌턴(Geoffrey Hinton)이나 요슈아 벤지오(Yoshua Bengio)와 같은 전문가들의 우려와 대조적인 지점이다.

이번 행정명령은 하드웨어 인프라 추적, 엄격한 배포 전 테스트, 실시간 시스템 모니터링 등 계층화된 보안이 필요하다는 전문가들의 의견을 수용했다. 동시에 첨단 AI 도구가 의료 및 국방 분야에서 큰 잠재력을 가지는 한편, 악의적인 행위자에게 새로운 기능을 제공할 수 있다는 이중적인 도전에 직면했음을 인정한다. 그럼에도 불구하고 이 명령은 국제 협력이나 다자간 조율, 글로벌 거버넌스 문제는 다루지 않고 있으며, 국내 AI 역량을 국가적 경쟁 자산으로 육성하는 데 우선순위를 둔다. 이는 영국, 한국, 프랑스, 인도 등에서 개최된 AI 안전 정상회의와 같이 정부 주도의 안전 연구소들이 참여하는 국제적 논의 과정과는 궤를 달리한다.

도널드 트럼프 대통령이 2026년 6월 2일, 인공지능 보안 프레임워크를 수립하는 행정명령에 서명했다. 이번 조치는 모델 출시 전 정부의 라이선스 취득이나 사전 승인 요건을 명시적으로 거부하고 자율성을 강조한 점이 특징이다. 행정명령은 연방 및 민간 컴퓨터 시스템의 방어 역량을 강화하는 데 주력하며, 정부 부처에 사이버 방어태세 강화를 지시했다. 또한 산업계 및 핵심 인프라 운영자와 협력해 취약점을 식별하고 해결하기 위한 AI 사이버 보안 허브를 구축할 예정이다. 이는 2026년 4월 Anthropic이 자사의 최신 모델인 Claude Mythos가 수백 건의 소프트웨어 취약점을 식별하고 시스템 공격을 시뮬레이션했다고 발표한 이후 이루어졌다.

새로운 지침에 따라 정부는 프론티어 모델로 지정된 프로그램에 대한 분류 절차를 유지한다. 여기서 프론티어 모델이란 거대한 데이터 세트로 학습되어 고도의 추론 능력과 자율적인 도구 사용이 가능한 AI 시스템을 의미한다. 해당 기준을 충족하는 모델 개발사는 대중에 공개하기 최소 30일 전 정부에 접근 권한을 제공해야 한다. 기업은 또한 제3자를 통한 위험 평가를 진행하기 위해 연방 정부와 협력할 것으로 기대된다. 다만, 정부는 여전히 자율적 보고 체계를 유지하고 있으며, 이는 규제 장벽이 오히려 혁신을 저해할 수 있다는 행정부의 입장을 반영한다. 이는 상업적 압력이 안전보다 속도를 우선시하여 위험을 초래할 수 있다고 경고하는 제프리 힌턴(Geoffrey Hinton)이나 요슈아 벤지오(Yoshua Bengio)와 같은 전문가들의 우려와 대조적인 지점이다.

이번 행정명령은 하드웨어 인프라 추적, 엄격한 배포 전 테스트, 실시간 시스템 모니터링 등 계층화된 보안이 필요하다는 전문가들의 의견을 수용했다. 동시에 첨단 AI 도구가 의료 및 국방 분야에서 큰 잠재력을 가지는 한편, 악의적인 행위자에게 새로운 기능을 제공할 수 있다는 이중적인 도전에 직면했음을 인정한다. 그럼에도 불구하고 이 명령은 국제 협력이나 다자간 조율, 글로벌 거버넌스 문제는 다루지 않고 있으며, 국내 AI 역량을 국가적 경쟁 자산으로 육성하는 데 우선순위를 둔다. 이는 영국, 한국, 프랑스, 인도 등에서 개최된 AI 안전 정상회의와 같이 정부 주도의 안전 연구소들이 참여하는 국제적 논의 과정과는 궤를 달리한다.