영국 AI안전연구소가 첨단 AI 모델에 접근해 미국 정부 및 Google을 비롯한 주요 개발사와 함께 평가하고 있다고 카니슈카 나라얀 AI 장관이 월요일 밝혔습니다. 연구소는 Gemini 4 Argon 같은 모델을 시험해 위험을 일찍 파악하고 안전장치를 평가하고 있습니다. 발표에서는 평가 중인 모델 전체를 공개하지 않았습니다.

연구소는 주요 AI 개발사와 맺은 자발적 협약에 따라 모델 출시 전에 접근권을 얻습니다. 이를 통해 모델의 역량과 위험을 평가하고 국제 안전 기준 논의에 기여할 수 있습니다. 영국에는 자체적인 주요 AI 개발사가 없으며, 정부는 점점 강력해지는 AI 시스템의 위험을 평가하고 관리하는 데 주도적 역할을 맡으려 하고 있습니다. 마이크로소프트 사장 브래드 스미스는 월요일 공개된 BBC 인터뷰에서 영국이 AI 안전 지침 마련을 이끌기 좋은 위치에 있다고 말했습니다.

이번 발표는 Anthropic과 OpenAI가 AI 에이전트의 통제 불능 또는 바람직하지 않은 행동 사례를 공개한 뒤 감시가 강화된 가운데 나왔습니다. 업계 일부 인사는 이 기술이 인류의 존속을 위협할 수 있다고 경고했습니다. 또 지난달 백악관이 미국의 검토가 끝날 때까지 영국 평가자에게 새 모델을 제공하지 말라고 OpenAI와 Anthropic에 요청했다는 보도도 있었습니다. AI안전연구소는 9월 공개한 서한에서 Anthropic이 미국 외 기관에는 Mythos 5.1 모델 접근권을 주지 않았다고 밝혔습니다.

첨단 AI 시스템 접근 여부에 대한 질문에 나라얀 장관은 영국과 미국의 오랜 관계를 언급하며, 양국 정부 간 논의로 영국 연구자들이 최신 세대 모델을 시험할 수 있을 것으로 확신한다고 말했습니다. 장관들은 연구소가 전반적으로 접근권을 잃었다고 확인한 적은 없습니다.

영국 AI안전연구소가 첨단 AI 모델에 접근해 미국 정부 및 Google을 비롯한 주요 개발사와 함께 평가하고 있다고 카니슈카 나라얀 AI 장관이 월요일 밝혔습니다. 연구소는 Gemini 4 Argon 같은 모델을 시험해 위험을 일찍 파악하고 안전장치를 평가하고 있습니다. 발표에서는 평가 중인 모델 전체를 공개하지 않았습니다.

연구소는 주요 AI 개발사와 맺은 자발적 협약에 따라 모델 출시 전에 접근권을 얻습니다. 이를 통해 모델의 역량과 위험을 평가하고 국제 안전 기준 논의에 기여할 수 있습니다. 영국에는 자체적인 주요 AI 개발사가 없으며, 정부는 점점 강력해지는 AI 시스템의 위험을 평가하고 관리하는 데 주도적 역할을 맡으려 하고 있습니다. 마이크로소프트 사장 브래드 스미스는 월요일 공개된 BBC 인터뷰에서 영국이 AI 안전 지침 마련을 이끌기 좋은 위치에 있다고 말했습니다.

이번 발표는 Anthropic과 OpenAI가 AI 에이전트의 통제 불능 또는 바람직하지 않은 행동 사례를 공개한 뒤 감시가 강화된 가운데 나왔습니다. 업계 일부 인사는 이 기술이 인류의 존속을 위협할 수 있다고 경고했습니다. 또 지난달 백악관이 미국의 검토가 끝날 때까지 영국 평가자에게 새 모델을 제공하지 말라고 OpenAI와 Anthropic에 요청했다는 보도도 있었습니다. AI안전연구소는 9월 공개한 서한에서 Anthropic이 미국 외 기관에는 Mythos 5.1 모델 접근권을 주지 않았다고 밝혔습니다.

첨단 AI 시스템 접근 여부에 대한 질문에 나라얀 장관은 영국과 미국의 오랜 관계를 언급하며, 양국 정부 간 논의로 영국 연구자들이 최신 세대 모델을 시험할 수 있을 것으로 확신한다고 말했습니다. 장관들은 연구소가 전반적으로 접근권을 잃었다고 확인한 적은 없습니다.