각국 정부·AI 기업, 안전 선언 서명

캐나다와 바레인, 핀란드, 프랑스, 노르웨이, 네덜란드는 AI 기업 및 시민사회 단체와 함께 2026년 11월 9일 월요일 AI 안전과 보안 협력을 촉구하는 선언에 서명했습니다. 선언은 추가 서명을 받을 수 있도록 열려 있으며 계속 갱신되고 있습니다. 서명 기업은 Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia이며, 시민사회 서명 단체에는 LawZero, SaferAI, AI Safety Connect, Ifri가 포함됩니다.

선언은 프런티어 모델이 국경을 넘어 개발·배포·사용되므로 그 기회와 위험도 세계적이라고 밝혔습니다. 예측 가능한 규제 체계와 투명성, 사고 보고, 위험 관리의 즉각적인 진전, 엄격한 평가 기준을 촉구했습니다. 앞선 협력 사례로 히로시마 프로세스, 서울 AI 정상회의의 프런티어 안전 약속, G7 에비앙 AI 회의, 9월 23일 열린 유엔 안전보장이사회 AI 회의, ‘프런티어 AI 모델 통제 촉구’를 들었습니다.

서명 단체들은 프런티어 모델의 위험을 평가하고 관리할 공동 체계를 마련하며, 공통 기술 기준과 도구, 방법을 뒷받침하기로 했습니다. 우선순위에는 사이버 및 화학·생물·방사능·핵(CBRN) 분야의 위험한 악용, 커지는 자율성, 통제 상실을 포함한 모델 불일치가 포함됩니다. 민감하지 않은 평가 결과를 표준 형식으로 공개하고, 레드티밍 절차와 벤치마킹 도구, 위험 평가, 스트레스 테스트 결과를 담을 공개 저장소를 만드는 방안도 지지했습니다. 국제 첨단 AI 측정·평가·과학 네트워크(NAAIMES)가 지역 간 평가 방법과 결과의 비교 가능성 및 접근성을 높이는 데 도움을 줄 수 있다고 선언은 밝혔습니다.

선언은 AI 생태계 구성원별 책임도 제시했습니다. 정책 입안자에게는 국경을 넘는 피해를 포함해 대규모 피해의 법적 책임을 명확히 하라고 촉구했습니다. 프런티어 모델 개발자는 역량과 한계, 알려진 위험을 공개하고, 적절한 경우 자격을 갖춘 독립 평가를 지원하며, 훈련과 내부 사용 중에도 자신이 통제하는 운영을 제한·중단·종료할 수 있는 안전 장치를 사용하기로 했습니다. 안전장치를 제거하거나 우회하는 ‘애블레이션’의 위험을 인정하는 한편, 연구와 혁신, 안전을 위한 오픈 웨이트 개발의 이점도 지지했습니다. 지속적인 위험 관리, 새롭게 나타나는 역량의 실시간 감시, 내부 레드티밍, 보호된 신고 경로, 독립적 감독도 촉구했습니다.

세 번째 약속은 정보 공유와 보고, 조기 경보입니다. 서명 단체들은 기존 사고 대응 체계를 바탕으로 신속한 경보 시스템을 구축해 새롭게 나타나는 위협에 대응하고 현실의 피해를 줄이자고 촉구했습니다. 기업과 정부가 사고 분류 기준을 조율하고, 심각한 사이버 사고와 AI 통제 사고 및 중대한 피해의 경고 신호를 적시에 공유하는 방안도 제안했습니다. 정책 입안자들은 직원과 이해관계자가 법적·직업적 보복을 두려워하지 않고 시스템 차원의 위험을 알릴 수 있도록 안전하고 비밀이 보장되는 신고 경로를 마련하기로 했습니다.

캐나다와 바레인, 핀란드, 프랑스, 노르웨이, 네덜란드는 AI 기업 및 시민사회 단체와 함께 2026년 11월 9일 월요일 AI 안전과 보안 협력을 촉구하는 선언에 서명했습니다. 선언은 추가 서명을 받을 수 있도록 열려 있으며 계속 갱신되고 있습니다. 서명 기업은 Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia이며, 시민사회 서명 단체에는 LawZero, SaferAI, AI Safety Connect, Ifri가 포함됩니다.

선언은 프런티어 모델이 국경을 넘어 개발·배포·사용되므로 그 기회와 위험도 세계적이라고 밝혔습니다. 예측 가능한 규제 체계와 투명성, 사고 보고, 위험 관리의 즉각적인 진전, 엄격한 평가 기준을 촉구했습니다. 앞선 협력 사례로 히로시마 프로세스, 서울 AI 정상회의의 프런티어 안전 약속, G7 에비앙 AI 회의, 9월 23일 열린 유엔 안전보장이사회 AI 회의, ‘프런티어 AI 모델 통제 촉구’를 들었습니다.

서명 단체들은 프런티어 모델의 위험을 평가하고 관리할 공동 체계를 마련하며, 공통 기술 기준과 도구, 방법을 뒷받침하기로 했습니다. 우선순위에는 사이버 및 화학·생물·방사능·핵(CBRN) 분야의 위험한 악용, 커지는 자율성, 통제 상실을 포함한 모델 불일치가 포함됩니다. 민감하지 않은 평가 결과를 표준 형식으로 공개하고, 레드티밍 절차와 벤치마킹 도구, 위험 평가, 스트레스 테스트 결과를 담을 공개 저장소를 만드는 방안도 지지했습니다. 국제 첨단 AI 측정·평가·과학 네트워크(NAAIMES)가 지역 간 평가 방법과 결과의 비교 가능성 및 접근성을 높이는 데 도움을 줄 수 있다고 선언은 밝혔습니다.

선언은 AI 생태계 구성원별 책임도 제시했습니다. 정책 입안자에게는 국경을 넘는 피해를 포함해 대규모 피해의 법적 책임을 명확히 하라고 촉구했습니다. 프런티어 모델 개발자는 역량과 한계, 알려진 위험을 공개하고, 적절한 경우 자격을 갖춘 독립 평가를 지원하며, 훈련과 내부 사용 중에도 자신이 통제하는 운영을 제한·중단·종료할 수 있는 안전 장치를 사용하기로 했습니다. 안전장치를 제거하거나 우회하는 ‘애블레이션’의 위험을 인정하는 한편, 연구와 혁신, 안전을 위한 오픈 웨이트 개발의 이점도 지지했습니다. 지속적인 위험 관리, 새롭게 나타나는 역량의 실시간 감시, 내부 레드티밍, 보호된 신고 경로, 독립적 감독도 촉구했습니다.

세 번째 약속은 정보 공유와 보고, 조기 경보입니다. 서명 단체들은 기존 사고 대응 체계를 바탕으로 신속한 경보 시스템을 구축해 새롭게 나타나는 위협에 대응하고 현실의 피해를 줄이자고 촉구했습니다. 기업과 정부가 사고 분류 기준을 조율하고, 심각한 사이버 사고와 AI 통제 사고 및 중대한 피해의 경고 신호를 적시에 공유하는 방안도 제안했습니다. 정책 입안자들은 직원과 이해관계자가 법적·직업적 보복을 두려워하지 않고 시스템 차원의 위험을 알릴 수 있도록 안전하고 비밀이 보장되는 신고 경로를 마련하기로 했습니다.