英国議会のビジネス・イノベーション・科学・貿易特別委員会の公聴会で、OpenAI、Anthropic、Google DeepMind、Metaの幹部が、AIエージェントの安全性とセキュリティについて議員らの質問に答えました。OpenAIは、安全上の懸念からGPT-6.1 Astraの公開を停止したと説明しました。欧州・中東・アフリカ地域の政策責任者を務めるトム・ダフ・ゴードンは、このモデルは依頼を十分に拒否できず、アライメント（意図した目標に従うようシステムを訓練すること）も十分に進んでいなかったと述べました。公開停止は、同社が安全性を重視し、「底辺への競争」をしていない証拠だと説明しました。

Anthropicの欧州・中東・アフリカ地域の政策責任者、ロード・ブース＝スミスは、同社には厳格な安全手順があり、緩和策を講じたうえで提供中のモデルは安全だと考えていると述べました。一方で、人々がモデルをどう使うかについては、同社はまだ学んでいるとしました。Anthropicにとって差し迫ったリスク領域はサイバーセキュリティであり、同社のMythosモデルは毎月数万件の脆弱性を発見していると説明しました。

ブース＝スミスは、リスク領域には生物学なども含まれ、生物・化学兵器の作成を支援すれば実害につながり得ると述べました。公聴会では4社の代表者が議員の質問に答えましたが、委員会の決定や新たな安全規則は報告されていません。脆弱性の件数や兵器作成支援のリスクはAnthropic側の説明であり、同社は提供中のモデルに緩和策を設けているとも述べました。議員らは安全性とセキュリティの両面から、AIエージェントについて各社に質問しました。

英国議会のビジネス・イノベーション・科学・貿易特別委員会の公聴会で、OpenAI、Anthropic、Google DeepMind、Metaの幹部が、AIエージェントの安全性とセキュリティについて議員らの質問に答えました。OpenAIは、安全上の懸念からGPT-6.1 Astraの公開を停止したと説明しました。欧州・中東・アフリカ地域の政策責任者を務めるトム・ダフ・ゴードンは、このモデルは依頼を十分に拒否できず、アライメント（意図した目標に従うようシステムを訓練すること）も十分に進んでいなかったと述べました。公開停止は、同社が安全性を重視し、「底辺への競争」をしていない証拠だと説明しました。

Anthropicの欧州・中東・アフリカ地域の政策責任者、ロード・ブース＝スミスは、同社には厳格な安全手順があり、緩和策を講じたうえで提供中のモデルは安全だと考えていると述べました。一方で、人々がモデルをどう使うかについては、同社はまだ学んでいるとしました。Anthropicにとって差し迫ったリスク領域はサイバーセキュリティであり、同社のMythosモデルは毎月数万件の脆弱性を発見していると説明しました。

ブース＝スミスは、リスク領域には生物学なども含まれ、生物・化学兵器の作成を支援すれば実害につながり得ると述べました。公聴会では4社の代表者が議員の質問に答えましたが、委員会の決定や新たな安全規則は報告されていません。脆弱性の件数や兵器作成支援のリスクはAnthropic側の説明であり、同社は提供中のモデルに緩和策を設けているとも述べました。議員らは安全性とセキュリティの両面から、AIエージェントについて各社に質問しました。