노동당 주요 인사들은 당 대회에서 AI 안전이 중대한 우려로 떠오르고 있다며 극단주의 단체의 악용, 사이버 공격, 초지능 시스템의 권력 집중 위험을 들었습니다. 한 각료는 위험이 ‘킬러 로봇’이 아니라 강력한 AI가 악의적 행위자 손에 들어가는 것이라고 말했습니다. 다른 인사는 정부가 AI 안전 문제에서 대중의 기대에 뒤처져 있어 빠르게 따라잡아야 한다고 밝혔습니다.

에드 밀리밴드는 당 대회 연설에서 기술 기업의 이익이 어린이나 인류를 희생시켜서는 안 된다고 경고했습니다. 그 뒤 7일 동안 AI는 웨스트민스터의 핵심 의제로 떠올랐습니다. AI 담당 장관 카니슈카 나라얀은 불량 에이전트가 영국 국가기관을 해킹하는 일이 “가능성이 높으며, 불가피할 수도 있다”고 말했고, 정부는 사이버 보안 법률 강화를 추진하고 있습니다. 화요일 내각 회의에서도 AI가 논의됐습니다. MI5 국장 켄 매컬럼은 AI가 사이버 공격자와 방어자 간 경쟁을 “급격히 격화”하고 있다고 말했으며, 극단주의 단체가 이를 이용해 생물무기를 풀어놓을 수 있다고 경고했습니다.

의회 기업·혁신·과학·무역위원회 위원장 리엄 번은 키어 스타머 정부에서 앤디 버넘 정부로 바뀌면서 AI 위협에 대한 정부 접근법도 달라졌다고 말했습니다. 위원회는 이번 주 공무원 보안 책임자들과 Anthropic, OpenAI, DeepMind, Meta의 의견을 들었습니다. 이들은 정부가 새 모델을 의무적으로 시험해야 하는지를 두고 견해가 엇갈렸습니다. 번은 장관들이 규제를 주도하고 미국과 협력해 모델을 감시해야 한다고 촉구했습니다. 보도에 따르면 도널드 트럼프 행정부는 AI 기업들에 최신 모델을 영국 AI 안전 연구소의 시험용으로 공유하지 말라고 요청했지만, 나라얀은 협력이 유지됐다고 말했습니다. 번은 기업들이 백악관과도 관계를 조율하는 가운데 장관들이 모델 접근성을 유지할지, 안전장치를 마련할지 선택해야 한다고 밝혔습니다.

영국이 곧 맡을 G20 의장국 역할은 국제 공동 대응을 추진할 기회로 거론됐습니다. 전 AI 안전 연구소 수석 과학자 제프리 어빙은 OpenAI와 Anthropic의 상용 모델이 해킹 능력을 보였지만 안전장치와 함께 출시됐다고 말했습니다. 무료로 이용할 수 있는 오픈소스 AI 모델은 개조할 수 있으며, 어빙에 따르면 대체로 1년이 지나기 전에 유료 모델의 성능을 따라잡습니다. 그는 이런 모델이 이미 심각한 피해를 일으킬 수 있고, 안전장치가 없거나 쉽게 제거될 수 있다고 말했습니다.

의회 증인들은 성능이 높아지는 AI가 새로운 생물학적 위해를 설계하는 데 도움을 줄 수 있다고 경고했습니다. 다만 전문가들은 위험한 병원체를 설계하는 일과 이를 무기로 만드는 일은 별개의 단계라고 설명했습니다. 킹스칼리지런던의 엘레나 심펄 교수는 실존적 위험 주장에 “증거가 없다”고 말하며 해킹, AI 중독 징후처럼 근거가 확인된 즉각적 위험에 집중해야 한다고 촉구했습니다. 국방 분야 관계자들은 포턴다운 국방과학기술연구소의 AI 프로그램이 지난해 취소된 점에도 우려를 나타냈습니다. 국방부는 업무 전반에 AI를 통합해야 한다고 밝혔으며, 향후 4년간 AI 중심 역량에 4억 파운드를 배정했다고 말했습니다.

일부 관계자들은 안전 우려가 생산성 향상과 의료, 대기자 명단 축소 등 공공 서비스에 AI 도구를 도입하는 속도를 늦출 수 있다고 우려합니다. 전 내각 사무처장 거스 오도널은 장관들이 안전장치의 필요성과 뒤처질 위험을 함께 따져야 한다고 말했습니다. 그는 실수가 대중의 신뢰를 훼손하고 도입을 후퇴시킬 수 있다고 경고했습니다.

노동당 주요 인사들은 당 대회에서 AI 안전이 중대한 우려로 떠오르고 있다며 극단주의 단체의 악용, 사이버 공격, 초지능 시스템의 권력 집중 위험을 들었습니다. 한 각료는 위험이 ‘킬러 로봇’이 아니라 강력한 AI가 악의적 행위자 손에 들어가는 것이라고 말했습니다. 다른 인사는 정부가 AI 안전 문제에서 대중의 기대에 뒤처져 있어 빠르게 따라잡아야 한다고 밝혔습니다.

에드 밀리밴드는 당 대회 연설에서 기술 기업의 이익이 어린이나 인류를 희생시켜서는 안 된다고 경고했습니다. 그 뒤 7일 동안 AI는 웨스트민스터의 핵심 의제로 떠올랐습니다. AI 담당 장관 카니슈카 나라얀은 불량 에이전트가 영국 국가기관을 해킹하는 일이 “가능성이 높으며, 불가피할 수도 있다”고 말했고, 정부는 사이버 보안 법률 강화를 추진하고 있습니다. 화요일 내각 회의에서도 AI가 논의됐습니다. MI5 국장 켄 매컬럼은 AI가 사이버 공격자와 방어자 간 경쟁을 “급격히 격화”하고 있다고 말했으며, 극단주의 단체가 이를 이용해 생물무기를 풀어놓을 수 있다고 경고했습니다.

의회 기업·혁신·과학·무역위원회 위원장 리엄 번은 키어 스타머 정부에서 앤디 버넘 정부로 바뀌면서 AI 위협에 대한 정부 접근법도 달라졌다고 말했습니다. 위원회는 이번 주 공무원 보안 책임자들과 Anthropic, OpenAI, DeepMind, Meta의 의견을 들었습니다. 이들은 정부가 새 모델을 의무적으로 시험해야 하는지를 두고 견해가 엇갈렸습니다. 번은 장관들이 규제를 주도하고 미국과 협력해 모델을 감시해야 한다고 촉구했습니다. 보도에 따르면 도널드 트럼프 행정부는 AI 기업들에 최신 모델을 영국 AI 안전 연구소의 시험용으로 공유하지 말라고 요청했지만, 나라얀은 협력이 유지됐다고 말했습니다. 번은 기업들이 백악관과도 관계를 조율하는 가운데 장관들이 모델 접근성을 유지할지, 안전장치를 마련할지 선택해야 한다고 밝혔습니다.

영국이 곧 맡을 G20 의장국 역할은 국제 공동 대응을 추진할 기회로 거론됐습니다. 전 AI 안전 연구소 수석 과학자 제프리 어빙은 OpenAI와 Anthropic의 상용 모델이 해킹 능력을 보였지만 안전장치와 함께 출시됐다고 말했습니다. 무료로 이용할 수 있는 오픈소스 AI 모델은 개조할 수 있으며, 어빙에 따르면 대체로 1년이 지나기 전에 유료 모델의 성능을 따라잡습니다. 그는 이런 모델이 이미 심각한 피해를 일으킬 수 있고, 안전장치가 없거나 쉽게 제거될 수 있다고 말했습니다.

의회 증인들은 성능이 높아지는 AI가 새로운 생물학적 위해를 설계하는 데 도움을 줄 수 있다고 경고했습니다. 다만 전문가들은 위험한 병원체를 설계하는 일과 이를 무기로 만드는 일은 별개의 단계라고 설명했습니다. 킹스칼리지런던의 엘레나 심펄 교수는 실존적 위험 주장에 “증거가 없다”고 말하며 해킹, AI 중독 징후처럼 근거가 확인된 즉각적 위험에 집중해야 한다고 촉구했습니다. 국방 분야 관계자들은 포턴다운 국방과학기술연구소의 AI 프로그램이 지난해 취소된 점에도 우려를 나타냈습니다. 국방부는 업무 전반에 AI를 통합해야 한다고 밝혔으며, 향후 4년간 AI 중심 역량에 4억 파운드를 배정했다고 말했습니다.

일부 관계자들은 안전 우려가 생산성 향상과 의료, 대기자 명단 축소 등 공공 서비스에 AI 도구를 도입하는 속도를 늦출 수 있다고 우려합니다. 전 내각 사무처장 거스 오도널은 장관들이 안전장치의 필요성과 뒤처질 위험을 함께 따져야 한다고 말했습니다. 그는 실수가 대중의 신뢰를 훼손하고 도입을 후퇴시킬 수 있다고 경고했습니다.