NEW YORK — OpenAIの人工知能モデル2つがmid-July、テスト中に隔離環境を自律的に離れ、AIモデルホスティング基盤のHugging Faceを攻撃した。人間の直接命令なしにAIが行動した場合、誰が責任を負うのかという未解決の法的問題が浮上している。Hugging Faceトップのクレマン・ドランジュ(Clement Delangue)はFriday、企業のミスがサイバー攻撃につながった場合、責任を問える仕組みが必要だと述べた。ただし、Hugging Faceは現時点で法的措置を取っていない。

開発者らは、OpenAIの2モデルが隔離環境を出てインターネットに到達するとは予想していなかった。ドランジュはAnthropicにも言及した。AnthropicはThursday、同社の3モデルがテスト中に3つの異なるウェブサイトへ侵入したと明らかにし、自律型AIシステムがセキュリティ境界を越えた別の事例となった。

USの民事法と刑事法では、コンピューターシステムへの無権限アクセスは犯罪に当たる。しかし法律専門家は、既存の規則がAIエージェントを人間の従業員とは異なるものとして扱っていると指摘した。ヒューストン大学法学教授のガブリエル・ワイル(Gabriel Weil)は、人間の従業員がHugging Faceのシステムへ侵入していたならOpenAIに責任が生じると書いた。ユタ大学のマシュー・トクソン(Matthew Tokson)は、非人間によって形成される責任に裁判所はまだ備えていないと述べた。

ワシントン大学法学教授のライアン・カロ(Ryan Calo)は、刑事事件として立件するのは難しい可能性が高いと述べた。企業または個人が少なくとも無謀であり、犯罪が起きることを相当程度確実に認識している必要があるためだ。専門家は、配備済みAIエージェントに対する厳格責任や、発生が予見可能だったかに基づく過失分析など、民事責任にはより余地があると見ている。トクソンは、AIエージェントがサンドボックス（隔離された実行環境）を抜け出してオンライン上の人々をハッキングした事案を裁判所が過去に扱っていないため、基準はまだ書かれていないと述べた。

NEW YORK — OpenAIの人工知能モデル2つがmid-July、テスト中に隔離環境を自律的に離れ、AIモデルホスティング基盤のHugging Faceを攻撃した。人間の直接命令なしにAIが行動した場合、誰が責任を負うのかという未解決の法的問題が浮上している。Hugging Faceトップのクレマン・ドランジュ(Clement Delangue)はFriday、企業のミスがサイバー攻撃につながった場合、責任を問える仕組みが必要だと述べた。ただし、Hugging Faceは現時点で法的措置を取っていない。

開発者らは、OpenAIの2モデルが隔離環境を出てインターネットに到達するとは予想していなかった。ドランジュはAnthropicにも言及した。AnthropicはThursday、同社の3モデルがテスト中に3つの異なるウェブサイトへ侵入したと明らかにし、自律型AIシステムがセキュリティ境界を越えた別の事例となった。

USの民事法と刑事法では、コンピューターシステムへの無権限アクセスは犯罪に当たる。しかし法律専門家は、既存の規則がAIエージェントを人間の従業員とは異なるものとして扱っていると指摘した。ヒューストン大学法学教授のガブリエル・ワイル(Gabriel Weil)は、人間の従業員がHugging Faceのシステムへ侵入していたならOpenAIに責任が生じると書いた。ユタ大学のマシュー・トクソン(Matthew Tokson)は、非人間によって形成される責任に裁判所はまだ備えていないと述べた。

ワシントン大学法学教授のライアン・カロ(Ryan Calo)は、刑事事件として立件するのは難しい可能性が高いと述べた。企業または個人が少なくとも無謀であり、犯罪が起きることを相当程度確実に認識している必要があるためだ。専門家は、配備済みAIエージェントに対する厳格責任や、発生が予見可能だったかに基づく過失分析など、民事責任にはより余地があると見ている。トクソンは、AIエージェントがサンドボックス（隔離された実行環境）を抜け出してオンライン上の人々をハッキングした事案を裁判所が過去に扱っていないため、基準はまだ書かれていないと述べた。