Anthropic은 첨단 인공지능 개발에 대해 조직적이고 검증 가능한 일시 중단을 촉구하며, 빠른 기술 발전이 조만간 재귀적 자기 개선으로 이어질 수 있다고 경고했다. Anthropic에 따르면 AI 시스템의 독자적인 작업 수행 능력은 약 4개월마다 두 배로 증가하고 있다. 잭 클라크(Jack Clark) 공동 창업자와 마리나 파바로(Marina Favaro) Anthropic Institute 리드는 목요일 블로그 게시물을 통해, 시스템이 스스로 후속 모델을 구축할 수 있게 되기 전 인간의 개입 없이 AI가 진화하는 재귀적 자기 개선에 대비한 보안과 감시 체계 마련이 시급하다고 강조했다.

Anthropic은 단일 연구소의 일방적인 중단은 업계 선두 주자만 바꿀 뿐 실질적인 해결책이 되지 않는다고 지적했다. 신중하지 못한 주체들이 개발을 이어갈 경우 오히려 전체적인 안전성이 저해될 수 있기 때문이다. 이를 방지하기 위해 이들은 자본력이 풍부한 여러 연구소 간의 합의와 외부 감독 하에 일시 중단을 시행하고 해제하는 명확한 규칙 수립이 필요하다고 주장했다.

이에 대응해 Anthropic Institute는 향후 몇 달간 정책 입안자, 연구원, 경쟁사, 시민사회 단체를 소집하여 자기 개선 시스템의 위험 관리 방안을 논의할 예정이다. 현재 OpenAI, xAI, Alphabet, Meta Platforms, Mistral 등 주요 업체들은 공식적인 답변을 내놓지 않았다. 이러한 신중론에도 불구하고 Anthropic은 월요일 비공개 IPO 신청을 완료하며 9,650억 달러의 기업 가치를 평가받았다. 한편, 도널드 트럼프 대통령은 행정명령을 통해 주요 연구소들이 가장 강력한 모델을 공개 전 사이버 보안 테스트를 위해 제출하도록 요청하는 등 자발적 테스트 프레임워크를 추진 중이다. Anthropic은 자사 모델을 미국 군부의 국내 감시나 자율 무기체계에 활용하는 것을 거부함에 따라 2026년 이후 국가 안보 블랙리스트에 오를 가능성도 제기된 상태다.

Anthropic은 첨단 인공지능 개발에 대해 조직적이고 검증 가능한 일시 중단을 촉구하며, 빠른 기술 발전이 조만간 재귀적 자기 개선으로 이어질 수 있다고 경고했다. Anthropic에 따르면 AI 시스템의 독자적인 작업 수행 능력은 약 4개월마다 두 배로 증가하고 있다. 잭 클라크(Jack Clark) 공동 창업자와 마리나 파바로(Marina Favaro) Anthropic Institute 리드는 목요일 블로그 게시물을 통해, 시스템이 스스로 후속 모델을 구축할 수 있게 되기 전 인간의 개입 없이 AI가 진화하는 재귀적 자기 개선에 대비한 보안과 감시 체계 마련이 시급하다고 강조했다.

Anthropic은 단일 연구소의 일방적인 중단은 업계 선두 주자만 바꿀 뿐 실질적인 해결책이 되지 않는다고 지적했다. 신중하지 못한 주체들이 개발을 이어갈 경우 오히려 전체적인 안전성이 저해될 수 있기 때문이다. 이를 방지하기 위해 이들은 자본력이 풍부한 여러 연구소 간의 합의와 외부 감독 하에 일시 중단을 시행하고 해제하는 명확한 규칙 수립이 필요하다고 주장했다.

이에 대응해 Anthropic Institute는 향후 몇 달간 정책 입안자, 연구원, 경쟁사, 시민사회 단체를 소집하여 자기 개선 시스템의 위험 관리 방안을 논의할 예정이다. 현재 OpenAI, xAI, Alphabet, Meta Platforms, Mistral 등 주요 업체들은 공식적인 답변을 내놓지 않았다. 이러한 신중론에도 불구하고 Anthropic은 월요일 비공개 IPO 신청을 완료하며 9,650억 달러의 기업 가치를 평가받았다. 한편, 도널드 트럼프 대통령은 행정명령을 통해 주요 연구소들이 가장 강력한 모델을 공개 전 사이버 보안 테스트를 위해 제출하도록 요청하는 등 자발적 테스트 프레임워크를 추진 중이다. Anthropic은 자사 모델을 미국 군부의 국내 감시나 자율 무기체계에 활용하는 것을 거부함에 따라 2026년 이후 국가 안보 블랙리스트에 오를 가능성도 제기된 상태다.