교황 레오 14세는 2026년 5월 25일, 인류 보호를 위해 인공지능의 군축과 규제를 촉구하는 회칙 'Magnifica Humanitas'를 발표했다. 바티칸에서 열린 이번 행사에서 Anthropic의 공동 창업자인 크리스토퍼 올라(Christopher Olah)는 상업적 동기가 안전성과 충돌하는 경우가 많다며 외부 감독의 중요성을 지지했다. 다리오 아모데이(Dario Amodei) Anthropic 최고경영자 역시 AI 기업이 위험 요소로 인해 기술의 미래를 독단적으로 결정해서는 안 된다는 입장을 밝힌 바 있다.

G20 산하 FATF 위험 그룹 의장을 역임한 슐로미트 와그먼(Shlomit Wagman) 하버드대 모사바-라마니 센터 연구원은 기업 내부의 안전 조치가 불충분하다고 주장한다. Anthropic의 Constitutional AI나 OpenAI의 준비 프레임워크 등은 경쟁 시장 내에서 제약이 곧 전략적 불이익이 되는 구조적 한계를 지닌다는 설명이다. 와그먼은 AI 거버넌스가 기존 핵무기 통제 모델에서 벗어나, 국제 금융에서 활용되는 G20의 FATF 표준 설정 모델을 채택해야 한다고 강조했다. 이는 공유된 규범과 운영 표준, 분산된 책임 체계를 통해 국가 간의 시스템적 위험을 관리하는 방식이다.

와그먼은 공공 및 민간 부문의 독립적인 전문가 패널이 합의된 위험 기준에 따라 준수 여부를 평가하는 거버넌스 구조를 제안했다. 해당 체계는 규제 준수 여부를 시장 접근성 및 국제 협력과 연계해 실질적인 책임을 부과한다. 현재 인공지능 기술의 급격한 발전으로 인해 인간의 능력을 대부분 분야에서 능가하는 인공일반지능(AGI)이 2030년경 등장할 수 있다는 전망이 나온다. 와그먼은 단일 국가나 기업의 노력만으로는 개발 통제가 불가능한 상황이라며, G20 주도의 국제적 공조가 필수적이라고 경고했다.

교황 레오 14세는 2026년 5월 25일, 인류 보호를 위해 인공지능의 군축과 규제를 촉구하는 회칙 'Magnifica Humanitas'를 발표했다. 바티칸에서 열린 이번 행사에서 Anthropic의 공동 창업자인 크리스토퍼 올라(Christopher Olah)는 상업적 동기가 안전성과 충돌하는 경우가 많다며 외부 감독의 중요성을 지지했다. 다리오 아모데이(Dario Amodei) Anthropic 최고경영자 역시 AI 기업이 위험 요소로 인해 기술의 미래를 독단적으로 결정해서는 안 된다는 입장을 밝힌 바 있다.

G20 산하 FATF 위험 그룹 의장을 역임한 슐로미트 와그먼(Shlomit Wagman) 하버드대 모사바-라마니 센터 연구원은 기업 내부의 안전 조치가 불충분하다고 주장한다. Anthropic의 Constitutional AI나 OpenAI의 준비 프레임워크 등은 경쟁 시장 내에서 제약이 곧 전략적 불이익이 되는 구조적 한계를 지닌다는 설명이다. 와그먼은 AI 거버넌스가 기존 핵무기 통제 모델에서 벗어나, 국제 금융에서 활용되는 G20의 FATF 표준 설정 모델을 채택해야 한다고 강조했다. 이는 공유된 규범과 운영 표준, 분산된 책임 체계를 통해 국가 간의 시스템적 위험을 관리하는 방식이다.

와그먼은 공공 및 민간 부문의 독립적인 전문가 패널이 합의된 위험 기준에 따라 준수 여부를 평가하는 거버넌스 구조를 제안했다. 해당 체계는 규제 준수 여부를 시장 접근성 및 국제 협력과 연계해 실질적인 책임을 부과한다. 현재 인공지능 기술의 급격한 발전으로 인해 인간의 능력을 대부분 분야에서 능가하는 인공일반지능(AGI)이 2030년경 등장할 수 있다는 전망이 나온다. 와그먼은 단일 국가나 기업의 노력만으로는 개발 통제가 불가능한 상황이라며, G20 주도의 국제적 공조가 필수적이라고 경고했다.