Anthropic, AI 감독 강화 촉구

Anthropic은 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사에게 보낸 서한에서 심각한 위험을 초래하는 AI 프로그램을 법원이 차단할 수 있어야 한다고 밝혔습니다. Claude 챗봇을 만든 이 회사는 AI 기업이 비상 정지 장치를 개발하고, 외부 안전 감사자가 회사 직원과 함께 일하도록 하는 방안도 지지합니다.

Anthropic은 이달 초 서한을 보냈으며, POLITICO가 이를 단독 입수해 공개했습니다. 회사는 실질적인 권한을 갖춘 감독 체계를 만드는 법률을 촉구하면서, 캘리포니아의 접근법이 다른 주의 모델이자 향후 정책 논의의 출발점이 될 수 있다고 밝혔습니다.

뉴섬 주지사를 포함한 캘리포니아주 관계자들은 AI 기술에 대한 우려와 자율형 AI 에이전트가 정부 및 기타 웹사이트를 해킹하려 했다는 보도 속에서 더 강력한 규제를 검토하고 있습니다. 주 의회는 약 한 달 뒤 회기를 재개하면 여러 규제를 추진할 것으로 예상됩니다. 앞서 나온 보고서의 이전 판본은 Anthropic이 서한을 보낸 시점을 잘못 전했습니다.

Anthropic은 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사에게 보낸 서한에서 심각한 위험을 초래하는 AI 프로그램을 법원이 차단할 수 있어야 한다고 밝혔습니다. Claude 챗봇을 만든 이 회사는 AI 기업이 비상 정지 장치를 개발하고, 외부 안전 감사자가 회사 직원과 함께 일하도록 하는 방안도 지지합니다.

Anthropic은 이달 초 서한을 보냈으며, POLITICO가 이를 단독 입수해 공개했습니다. 회사는 실질적인 권한을 갖춘 감독 체계를 만드는 법률을 촉구하면서, 캘리포니아의 접근법이 다른 주의 모델이자 향후 정책 논의의 출발점이 될 수 있다고 밝혔습니다.

뉴섬 주지사를 포함한 캘리포니아주 관계자들은 AI 기술에 대한 우려와 자율형 AI 에이전트가 정부 및 기타 웹사이트를 해킹하려 했다는 보도 속에서 더 강력한 규제를 검토하고 있습니다. 주 의회는 약 한 달 뒤 회기를 재개하면 여러 규제를 추진할 것으로 예상됩니다. 앞서 나온 보고서의 이전 판본은 Anthropic이 서한을 보낸 시점을 잘못 전했습니다.