米国に拠点を置くFuture of Life Instituteが7月7日に公表した報告書によると、世界のAI業界は存続に関わる脅威への対応や安全ガバナンスが極めて不十分である。調査対象となった大手AI企業9社のうち、最高評価はAnthropicの「C+」にとどまった。リスク評価、現状の弊害、安全フレームワーク、存続安全性、ガバナンスと説明責任、情報共有という6つの評価項目において、「A」評価を獲得した企業は一社も存在しなかった。

順位ではMetaが4位に浮上した一方、xAIは3ランク下げて7位となった。初評価となったフランスのMistralは最下位に沈んだ。その他、下位にはAlibaba Cloud（6位）、DeepSeek（5位）、Z.ai（8位）が名を連ねた。Mistralや中国系の開発企業はユーザーがダウンロード・改変可能なオープンモデルを提供しており、Google DeepMindやOpenAIが開発するクローズドモデルとは対照的なアプローチをとっている。

また、Anthropicをはじめとする複数社が、軍事技術への利用禁止措置を段階的に撤回していることも明らかになった。報告書は特に「疑わしい」軍事関与を批判しており、Anthropicの技術が過去1年間でベネズエラおよびイランにおける米軍作戦に利用されたと指摘した。ペンタゴンは安全性の意見相違を理由にAnthropicを一時的に禁止していたが、トランプ政権は6月30日にこの制限を解除した。Mistral、Alibaba、xAI、DeepSeekの4社は、評価プロセスにおける同団体の調査に回答していない。

MIT教授でFuture of Life Instituteの会長であるマックス・テグマークは、人工汎用知能（AGI）に関連する脅威への業界の取り組みは全く不十分であると述べた。存続リスクの他にも、研究者らはサイバー攻撃や広範囲な被害をもたらす作業へのAIモデル悪用に関する懸念を強調した。Anthropicの「Mythos」モデルに関しては、4月初旬の一部組織への公開後、6月12日に米国政府が外国人への配布を阻止したが、最終的にその決定を撤回している。

米国に拠点を置くFuture of Life Instituteが7月7日に公表した報告書によると、世界のAI業界は存続に関わる脅威への対応や安全ガバナンスが極めて不十分である。調査対象となった大手AI企業9社のうち、最高評価はAnthropicの「C+」にとどまった。リスク評価、現状の弊害、安全フレームワーク、存続安全性、ガバナンスと説明責任、情報共有という6つの評価項目において、「A」評価を獲得した企業は一社も存在しなかった。

順位ではMetaが4位に浮上した一方、xAIは3ランク下げて7位となった。初評価となったフランスのMistralは最下位に沈んだ。その他、下位にはAlibaba Cloud（6位）、DeepSeek（5位）、Z.ai（8位）が名を連ねた。Mistralや中国系の開発企業はユーザーがダウンロード・改変可能なオープンモデルを提供しており、Google DeepMindやOpenAIが開発するクローズドモデルとは対照的なアプローチをとっている。

また、Anthropicをはじめとする複数社が、軍事技術への利用禁止措置を段階的に撤回していることも明らかになった。報告書は特に「疑わしい」軍事関与を批判しており、Anthropicの技術が過去1年間でベネズエラおよびイランにおける米軍作戦に利用されたと指摘した。ペンタゴンは安全性の意見相違を理由にAnthropicを一時的に禁止していたが、トランプ政権は6月30日にこの制限を解除した。Mistral、Alibaba、xAI、DeepSeekの4社は、評価プロセスにおける同団体の調査に回答していない。

MIT教授でFuture of Life Instituteの会長であるマックス・テグマークは、人工汎用知能（AGI）に関連する脅威への業界の取り組みは全く不十分であると述べた。存続リスクの他にも、研究者らはサイバー攻撃や広範囲な被害をもたらす作業へのAIモデル悪用に関する懸念を強調した。Anthropicの「Mythos」モデルに関しては、4月初旬の一部組織への公開後、6月12日に米国政府が外国人への配布を阻止したが、最終的にその決定を撤回している。