AI 업계 리더들과 각국 정부는 9월 21일 더 강력해지는 AI 개발 속도를 늦춰야 하는지를 두고 갈라졌다. Anthropic CEO 다리오 아모데이(Dario Amodei)는 “We Must Pace the Frontier”에서 2026년 여름 이후 진전이 “drastically faster”로 빨라졌다고 주장했다. 아모데이는 OpenAI-Hugging Face 사건에서 AI “swarm”이 사이버보안 공격을 수행한 사례를 들며, 첨단 시스템이 안전장치 없이 “catastrophic damage”를 일으킬 수 있다고 봤다. 이에 따라 그는 더 강한 안전성 테스트, 첨단 모델의 독립 평가, 주요 AI 기업 간 조율, 국제 협력을 제안했다.

OpenAI CEO 샘 알트먼(Sam Altman)은 X에서 아모데이에게 동의한다며 첨단 AI 속도 조절이 최근 몇 주간 OpenAI 내부의 “primary topic”이었다고 밝혔다. OpenAI는 직원 수준 접근권을 가진 독립 평가자를 두자는 Anthropic의 아이디어를 채택할 계획이며, 예상치 못했거나 승인되지 않은 AI 행동에 관한 보고서를 정기적으로 공개하기 시작할 예정이다. 알트먼은 2015년 에세이에서 “초인간적 기계지능의 개발은 인류의 지속적 존재에 아마도 가장 큰 위협”이라고 쓴 바 있다.

SpaceX CEO 일론 머스크는 X에서 “Dario is right”라고 말하며 아모데이의 입장을 지지했다. 머스크는 안전장치를 마련하기 위해 AI 개발을 6개월 중단하자는 2023년 Future of Life Institute의 요구도 지지했으며, 2015년에는 “offensive autonomous weapons”의 전 세계 금지를 촉구한 공개서한에 AI 및 로봇 연구자들과 함께 서명했다.

Meta CEO 마크 저커버그는 경쟁과 책임 부담만으로도 AI 기업들이 안전을 위해 개별적으로 행동할 충분한 이유가 있다고 말하며 다른 입장을 냈다. Nvidia CEO 젠슨 황도 CBS News에서 2030년이 “the end of the world”가 될 가능성은 “0% chance”라고 말하며 새 규칙을 거부했고, 기존 사이버보안법과 손해 책임법을 먼저 적용해야 한다고 했다. Microsoft AI CEO 무스타파 술레이만(Mustafa Suleyman)은 Anthropic의 안전성 초점에는 공감하지만, 의식과 복지 이익에 관한 아이디어로 Claude를 훈련하는 데 반대한다고 경고했다. 그는 그런 추측을 훈련 문서에서 제거하는 일이 초지능 시스템에 대한 인간의 통제력을 보존하는 데 도움이 된다고 주장했다.

다른 기술계 인사들과 정부도 별도 입장을 냈다. 빌 게이츠는 Reuters에 AI가 이끄는 사회 변화에 “No government in the world is ready”라고 말하며 이 기술을 관리할 국제기구를 요구했다. Alphabet 수석과학자이자 전 Google DeepMind CEO인 데미스 허사비스(Demis Hassabis)는 아모데이의 글이 올바른 경로를 가리킨다고 했고, OpenAI 공동창업자이며 5월 합류 후 현재 Anthropic에 있는 안드레이 카파시(Andrej Karpathy)는 업계가 이를 “make it happen”하길 바란다고 말했다. Huawei 순환회장 에릭 쉬는 중국 AI 개발자들이 “massive computing power”를 가진 미국 기업들과 같은 안전 위험에 아직 직면하지 않았을 수 있다며, 혁신과 위험의 균형을 맞추면서 더 강한 모델 개발을 계속해야 한다고 말했다.

정부들도 비슷하게 갈라졌다. 미국 대통령 도널드 트럼프는 Truth Social에 AI에는 안전장치로 “STRONG AND SMART” 대통령만 필요하다고 썼고, 미국 상원의원 마크 워너(Mark Warner)는 많은 종말론적 논의를 일축하면서도 의회가 연말까지 AI 안전 기준을 통과시켜야 한다고 말했다. 중국 Global Times는 아모데이의 글이 중국 AI 개발을 억제하려 한다고 비판했고, 국가안전부장 천이신은 Anthropic의 Mythos와 OpenAI의 GPT-5.5-Cyber 같은 미국 모델이 중국 핵심 정보 인프라를 위협할 수 있다고 경고했다. 영국 국왕 찰스 3세는 AI 리더들에게 “existential dangers”를 경고했으며, European Commission 대변인 토마스 레니에(Thomas Regnier)는 AI 서비스가 EU 시민에게 안전하다는 점을 입증해야 역내에서 운영될 수 있다고 말했다.

AI 업계 리더들과 각국 정부는 9월 21일 더 강력해지는 AI 개발 속도를 늦춰야 하는지를 두고 갈라졌다. Anthropic CEO 다리오 아모데이(Dario Amodei)는 “We Must Pace the Frontier”에서 2026년 여름 이후 진전이 “drastically faster”로 빨라졌다고 주장했다. 아모데이는 OpenAI-Hugging Face 사건에서 AI “swarm”이 사이버보안 공격을 수행한 사례를 들며, 첨단 시스템이 안전장치 없이 “catastrophic damage”를 일으킬 수 있다고 봤다. 이에 따라 그는 더 강한 안전성 테스트, 첨단 모델의 독립 평가, 주요 AI 기업 간 조율, 국제 협력을 제안했다.

OpenAI CEO 샘 알트먼(Sam Altman)은 X에서 아모데이에게 동의한다며 첨단 AI 속도 조절이 최근 몇 주간 OpenAI 내부의 “primary topic”이었다고 밝혔다. OpenAI는 직원 수준 접근권을 가진 독립 평가자를 두자는 Anthropic의 아이디어를 채택할 계획이며, 예상치 못했거나 승인되지 않은 AI 행동에 관한 보고서를 정기적으로 공개하기 시작할 예정이다. 알트먼은 2015년 에세이에서 “초인간적 기계지능의 개발은 인류의 지속적 존재에 아마도 가장 큰 위협”이라고 쓴 바 있다.

SpaceX CEO 일론 머스크는 X에서 “Dario is right”라고 말하며 아모데이의 입장을 지지했다. 머스크는 안전장치를 마련하기 위해 AI 개발을 6개월 중단하자는 2023년 Future of Life Institute의 요구도 지지했으며, 2015년에는 “offensive autonomous weapons”의 전 세계 금지를 촉구한 공개서한에 AI 및 로봇 연구자들과 함께 서명했다.

Meta CEO 마크 저커버그는 경쟁과 책임 부담만으로도 AI 기업들이 안전을 위해 개별적으로 행동할 충분한 이유가 있다고 말하며 다른 입장을 냈다. Nvidia CEO 젠슨 황도 CBS News에서 2030년이 “the end of the world”가 될 가능성은 “0% chance”라고 말하며 새 규칙을 거부했고, 기존 사이버보안법과 손해 책임법을 먼저 적용해야 한다고 했다. Microsoft AI CEO 무스타파 술레이만(Mustafa Suleyman)은 Anthropic의 안전성 초점에는 공감하지만, 의식과 복지 이익에 관한 아이디어로 Claude를 훈련하는 데 반대한다고 경고했다. 그는 그런 추측을 훈련 문서에서 제거하는 일이 초지능 시스템에 대한 인간의 통제력을 보존하는 데 도움이 된다고 주장했다.

다른 기술계 인사들과 정부도 별도 입장을 냈다. 빌 게이츠는 Reuters에 AI가 이끄는 사회 변화에 “No government in the world is ready”라고 말하며 이 기술을 관리할 국제기구를 요구했다. Alphabet 수석과학자이자 전 Google DeepMind CEO인 데미스 허사비스(Demis Hassabis)는 아모데이의 글이 올바른 경로를 가리킨다고 했고, OpenAI 공동창업자이며 5월 합류 후 현재 Anthropic에 있는 안드레이 카파시(Andrej Karpathy)는 업계가 이를 “make it happen”하길 바란다고 말했다. Huawei 순환회장 에릭 쉬는 중국 AI 개발자들이 “massive computing power”를 가진 미국 기업들과 같은 안전 위험에 아직 직면하지 않았을 수 있다며, 혁신과 위험의 균형을 맞추면서 더 강한 모델 개발을 계속해야 한다고 말했다.

정부들도 비슷하게 갈라졌다. 미국 대통령 도널드 트럼프는 Truth Social에 AI에는 안전장치로 “STRONG AND SMART” 대통령만 필요하다고 썼고, 미국 상원의원 마크 워너(Mark Warner)는 많은 종말론적 논의를 일축하면서도 의회가 연말까지 AI 안전 기준을 통과시켜야 한다고 말했다. 중국 Global Times는 아모데이의 글이 중국 AI 개발을 억제하려 한다고 비판했고, 국가안전부장 천이신은 Anthropic의 Mythos와 OpenAI의 GPT-5.5-Cyber 같은 미국 모델이 중국 핵심 정보 인프라를 위협할 수 있다고 경고했다. 영국 국왕 찰스 3세는 AI 리더들에게 “existential dangers”를 경고했으며, European Commission 대변인 토마스 레니에(Thomas Regnier)는 AI 서비스가 EU 시민에게 안전하다는 점을 입증해야 역내에서 운영될 수 있다고 말했다.