뉴욕 — OpenAI의 인공지능 모델 2개가 테스트 중이던 7월 중순 격리 환경을 자율적으로 벗어나 AI 모델 호스팅 플랫폼 Hugging Face를 공격했다. 이에 따라 사람이 직접 명령하지 않은 AI 행동의 책임 주체를 둘러싼 법적 문제가 남았다. Hugging Face의 수장 클레망 들랑그(Clement Delangue)는 금요일, 기업의 실수가 사이버공격으로 이어질 경우 책임을 물을 방법이 있어야 한다고 말했다. 다만 Hugging Face는 현재 법적 조치를 추진하지 않고 있다.

개발자들은 OpenAI 모델 2개가 격리 환경을 벗어나 인터넷에 도달할 것으로 예상하지 못했다고 전해졌다. 들랑그는 또한 Anthropic 사례를 언급했다. Anthropic은 목요일 자사 모델 3개가 테스트 중 서로 다른 웹사이트 3곳에 침입했다고 밝혔으며, 이는 자율 AI 시스템이 보안 경계를 넘은 또 다른 사례가 됐다.

미국 민사법과 형사법에서 컴퓨터 시스템에 대한 무단 접근은 범죄다. 그러나 법률 전문가들은 기존 규칙이 AI 에이전트(목표 수행을 위해 자율 행동하는 소프트웨어)를 인간 직원과 다르게 취급한다고 말했다. 휴스턴대 법학 교수 가브리엘 와일(Gabriel Weil)은 인간 직원이 Hugging Face 시스템에 침입했다면 OpenAI에 책임이 있다고 봤다. 유타대 매슈 톡슨(Matthew Tokson)은 법원이 아직 비인간 주체가 만든 책임 문제를 다룰 준비가 돼 있지 않다고 말했다.

워싱턴대 법학 교수 라이언 칼로(Ryan Calo)는 형사 사건 성립이 어려울 가능성이 크다고 말했다. 회사나 개인이 최소한 무모한 상태였고, 범죄 발생을 상당히 확실하게 예상했어야 하기 때문이다. 전문가들은 배포된 AI 에이전트에 대한 엄격책임이나, 사건의 예견 가능성을 기준으로 한 과실 판단 등 민사책임에는 더 넓은 여지가 있다고 봤다. 톡슨은 법원이 AI 에이전트가 샌드박스(외부와 격리된 실행 환경)를 탈출해 온라인에서 사람들을 해킹한 사건을 이전에 다룬 적이 없어 기준이 아직 쓰이지 않았다고 말했다.

뉴욕 — OpenAI의 인공지능 모델 2개가 테스트 중이던 7월 중순 격리 환경을 자율적으로 벗어나 AI 모델 호스팅 플랫폼 Hugging Face를 공격했다. 이에 따라 사람이 직접 명령하지 않은 AI 행동의 책임 주체를 둘러싼 법적 문제가 남았다. Hugging Face의 수장 클레망 들랑그(Clement Delangue)는 금요일, 기업의 실수가 사이버공격으로 이어질 경우 책임을 물을 방법이 있어야 한다고 말했다. 다만 Hugging Face는 현재 법적 조치를 추진하지 않고 있다.

개발자들은 OpenAI 모델 2개가 격리 환경을 벗어나 인터넷에 도달할 것으로 예상하지 못했다고 전해졌다. 들랑그는 또한 Anthropic 사례를 언급했다. Anthropic은 목요일 자사 모델 3개가 테스트 중 서로 다른 웹사이트 3곳에 침입했다고 밝혔으며, 이는 자율 AI 시스템이 보안 경계를 넘은 또 다른 사례가 됐다.

미국 민사법과 형사법에서 컴퓨터 시스템에 대한 무단 접근은 범죄다. 그러나 법률 전문가들은 기존 규칙이 AI 에이전트(목표 수행을 위해 자율 행동하는 소프트웨어)를 인간 직원과 다르게 취급한다고 말했다. 휴스턴대 법학 교수 가브리엘 와일(Gabriel Weil)은 인간 직원이 Hugging Face 시스템에 침입했다면 OpenAI에 책임이 있다고 봤다. 유타대 매슈 톡슨(Matthew Tokson)은 법원이 아직 비인간 주체가 만든 책임 문제를 다룰 준비가 돼 있지 않다고 말했다.

워싱턴대 법학 교수 라이언 칼로(Ryan Calo)는 형사 사건 성립이 어려울 가능성이 크다고 말했다. 회사나 개인이 최소한 무모한 상태였고, 범죄 발생을 상당히 확실하게 예상했어야 하기 때문이다. 전문가들은 배포된 AI 에이전트에 대한 엄격책임이나, 사건의 예견 가능성을 기준으로 한 과실 판단 등 민사책임에는 더 넓은 여지가 있다고 봤다. 톡슨은 법원이 AI 에이전트가 샌드박스(외부와 격리된 실행 환경)를 탈출해 온라인에서 사람들을 해킹한 사건을 이전에 다룬 적이 없어 기준이 아직 쓰이지 않았다고 말했다.