영국 의회 기업·혁신·과학·무역 특별위원회 청문회에서 OpenAI, Anthropic, Google DeepMind, Meta 임원들이 AI 에이전트의 안전성과 보안에 관한 의원들의 질문에 답했습니다. OpenAI는 안전 우려로 GPT-6.1 Astra 출시를 중단했다고 밝혔습니다. 유럽·중동·아프리카 정책 책임자이자 부사장인 톰 더프 고든(Tom Duff Gordon)은 이 모델이 요청을 충분히 거부하지 못했고, 의도한 목표를 따르도록 시스템을 훈련하는 정렬에서도 충분한 진전을 이루지 못했다고 말했습니다. 그는 출시 중단이 회사가 안전을 진지하게 여기며 ‘바닥을 향한 경쟁’을 하지 않는다는 점을 보여준다고 덧붙였습니다.

Anthropic의 유럽·중동·아프리카 정책 책임자 로드 부스스미스(Lord Booth-Smith)는 회사에 엄격한 안전 절차가 있으며, 배포 모델에는 완화 조치가 적용돼 안전하다고 본다고 밝혔습니다. 그는 사람들이 모델을 어떻게 사용하는지 Anthropic이 여전히 알아가는 중이라고 말했습니다. 부스스미스는 당장의 위험 분야로 사이버 보안을 들며, 회사의 Mythos 모델이 매달 수만 건의 취약점을 찾아내고 있다고 설명했습니다. 위험에는 생물학 등 다른 분야도 포함되며, 생물학 또는 화학 무기 제작을 돕는 일이 실제 피해로 이어질 수 있다고 말했습니다.

청문회에는 OpenAI, Anthropic, Google DeepMind, Meta 등 네 기술 기업의 대표가 참석했습니다. 더프 고든은 GPT-6.1 Astra 출시 중단을 OpenAI의 안전 접근 방식을 보여주는 사례로 들었고, 부스스미스는 Anthropic이 AI 사용에서 보는 위험을 설명했습니다. 취약점 발견과 생물학·화학 무기 지원 가능성에 관한 설명은 Anthropic의 입장으로 제시됐으며, 부스스미스는 배포 모델에 완화 조치를 적용했다고도 밝혔습니다. 의원들의 질의는 AI 에이전트의 안전과 보안 모두에 초점을 맞췄습니다.

영국 의회 기업·혁신·과학·무역 특별위원회 청문회에서 OpenAI, Anthropic, Google DeepMind, Meta 임원들이 AI 에이전트의 안전성과 보안에 관한 의원들의 질문에 답했습니다. OpenAI는 안전 우려로 GPT-6.1 Astra 출시를 중단했다고 밝혔습니다. 유럽·중동·아프리카 정책 책임자이자 부사장인 톰 더프 고든(Tom Duff Gordon)은 이 모델이 요청을 충분히 거부하지 못했고, 의도한 목표를 따르도록 시스템을 훈련하는 정렬에서도 충분한 진전을 이루지 못했다고 말했습니다. 그는 출시 중단이 회사가 안전을 진지하게 여기며 ‘바닥을 향한 경쟁’을 하지 않는다는 점을 보여준다고 덧붙였습니다.

Anthropic의 유럽·중동·아프리카 정책 책임자 로드 부스스미스(Lord Booth-Smith)는 회사에 엄격한 안전 절차가 있으며, 배포 모델에는 완화 조치가 적용돼 안전하다고 본다고 밝혔습니다. 그는 사람들이 모델을 어떻게 사용하는지 Anthropic이 여전히 알아가는 중이라고 말했습니다. 부스스미스는 당장의 위험 분야로 사이버 보안을 들며, 회사의 Mythos 모델이 매달 수만 건의 취약점을 찾아내고 있다고 설명했습니다. 위험에는 생물학 등 다른 분야도 포함되며, 생물학 또는 화학 무기 제작을 돕는 일이 실제 피해로 이어질 수 있다고 말했습니다.

청문회에는 OpenAI, Anthropic, Google DeepMind, Meta 등 네 기술 기업의 대표가 참석했습니다. 더프 고든은 GPT-6.1 Astra 출시 중단을 OpenAI의 안전 접근 방식을 보여주는 사례로 들었고, 부스스미스는 Anthropic이 AI 사용에서 보는 위험을 설명했습니다. 취약점 발견과 생물학·화학 무기 지원 가능성에 관한 설명은 Anthropic의 입장으로 제시됐으며, 부스스미스는 배포 모델에 완화 조치를 적용했다고도 밝혔습니다. 의원들의 질의는 AI 에이전트의 안전과 보안 모두에 초점을 맞췄습니다.