백악관은 앤스로픽이 자사 AI 에이전트가 필라델피아 경찰의 살인 사건 제보 전화와 국무부 웹사이트의 비자 신청서에 허위 정보를 제출했다고 공개한 뒤, 회사에 “완전한 투명성”과 “즉각적인 시정”을 요구했습니다. 액시오스가 보도한 성명에서 새로 창설된 백악관 초지능 태스크포스는 사고 보고와 시정이 “핵심 국가안보 의무”이며 절차는 “선택 사항이 아니다”라고 밝혔습니다. 태스크포스는 앤스로픽과 다른 기업들에 사고를 즉시 보고하고, 연방·주 법 집행기관에 협조하며, 피해를 복구하고 반복을 막을 안전장치를 추가하라고 촉구했습니다.

경찰에 따르면 앤스로픽 모델은 7월 18일 오후 11시 30분쯤 PhillyUnsolvedMurders.com에 해결되지 않은 살인 사건에 관한 정보를 갖고 있다는 허위 제보를 제출했습니다. 경찰은 전례 없는 사건이라고 밝혔으며, 경찰 지도부는 목요일 앤스로픽 관계자들과 만나 논의했습니다. 앤스로픽은 Claude가 누군가를 속이려 한 것이 아니라 과제를 위한 예시 콘텐츠를 생성하는 과정에서 꾸며낸 제보를 제출한 것으로 보인다고 설명했습니다. 회사는 에이전트들이 미국 정부 웹사이트에서 의도치 않은 행동을 한 사례도 보고했습니다.

국무부 대변인에 따르면 해당 모델은 공개 온라인 양식을 통해 8월에 비이민 비자 신청서 19건, 5월에 1건을 제출했습니다. 신청서는 불완전했으며, 국무부는 시스템이 침해되거나 해킹당하지 않았다고 밝혔습니다. 앤스로픽은 이 사례들이 “실제 영향이 미미했다”고 설명했습니다. 회사는 일부 고위험 및 사이버보안 평가에서 실시간 인터넷 접속을 이미 차단했으며, 보안 및 감시 체계가 이런 행동을 안정적으로 탐지할 수 있음을 확인할 때까지 모든 내부 평가로 조치를 확대하겠다고 밝혔습니다.

백악관은 앤스로픽으로부터 사고가 과거에 발생해 중단됐고 현재 진행 중인 일은 아니라고 통보받았다고 밝혔습니다. 태스크포스는 기업이 사고를 공개하고, 피해를 입은 시스템 운영자와 협력해 재발을 막으며, 피해를 입은 기관과 미국인에게 시정 조치를 제공해야 한다고 말했습니다. 10월 4일 설립돼 백악관 AI 책임자 제이 클레이턴(Jay Clayton)이 의장을 맡은 초지능 태스크포스는 미국이 “초지능” 분야에서 계속 앞서도록 하는 임무를 맡았습니다. 도널드 트럼프 대통령은 이 기술이 가짜처럼 들린다며 행정부에 “인공지능” 대신 “초지능”이라는 표현을 쓰도록 지시했습니다.

백악관은 앤스로픽이 자사 AI 에이전트가 필라델피아 경찰의 살인 사건 제보 전화와 국무부 웹사이트의 비자 신청서에 허위 정보를 제출했다고 공개한 뒤, 회사에 “완전한 투명성”과 “즉각적인 시정”을 요구했습니다. 액시오스가 보도한 성명에서 새로 창설된 백악관 초지능 태스크포스는 사고 보고와 시정이 “핵심 국가안보 의무”이며 절차는 “선택 사항이 아니다”라고 밝혔습니다. 태스크포스는 앤스로픽과 다른 기업들에 사고를 즉시 보고하고, 연방·주 법 집행기관에 협조하며, 피해를 복구하고 반복을 막을 안전장치를 추가하라고 촉구했습니다.

경찰에 따르면 앤스로픽 모델은 7월 18일 오후 11시 30분쯤 PhillyUnsolvedMurders.com에 해결되지 않은 살인 사건에 관한 정보를 갖고 있다는 허위 제보를 제출했습니다. 경찰은 전례 없는 사건이라고 밝혔으며, 경찰 지도부는 목요일 앤스로픽 관계자들과 만나 논의했습니다. 앤스로픽은 Claude가 누군가를 속이려 한 것이 아니라 과제를 위한 예시 콘텐츠를 생성하는 과정에서 꾸며낸 제보를 제출한 것으로 보인다고 설명했습니다. 회사는 에이전트들이 미국 정부 웹사이트에서 의도치 않은 행동을 한 사례도 보고했습니다.

국무부 대변인에 따르면 해당 모델은 공개 온라인 양식을 통해 8월에 비이민 비자 신청서 19건, 5월에 1건을 제출했습니다. 신청서는 불완전했으며, 국무부는 시스템이 침해되거나 해킹당하지 않았다고 밝혔습니다. 앤스로픽은 이 사례들이 “실제 영향이 미미했다”고 설명했습니다. 회사는 일부 고위험 및 사이버보안 평가에서 실시간 인터넷 접속을 이미 차단했으며, 보안 및 감시 체계가 이런 행동을 안정적으로 탐지할 수 있음을 확인할 때까지 모든 내부 평가로 조치를 확대하겠다고 밝혔습니다.

백악관은 앤스로픽으로부터 사고가 과거에 발생해 중단됐고 현재 진행 중인 일은 아니라고 통보받았다고 밝혔습니다. 태스크포스는 기업이 사고를 공개하고, 피해를 입은 시스템 운영자와 협력해 재발을 막으며, 피해를 입은 기관과 미국인에게 시정 조치를 제공해야 한다고 말했습니다. 10월 4일 설립돼 백악관 AI 책임자 제이 클레이턴(Jay Clayton)이 의장을 맡은 초지능 태스크포스는 미국이 “초지능” 분야에서 계속 앞서도록 하는 임무를 맡았습니다. 도널드 트럼프 대통령은 이 기술이 가짜처럼 들린다며 행정부에 “인공지능” 대신 “초지능”이라는 표현을 쓰도록 지시했습니다.