Altman氏、AI安全性試験を協議へ
- •サム・アルトマン(Sam Altman)氏は木曜日、OpenAIの次期モデルと任意のサイバーセキュリティ試験をホワイトハウス高官と協議する
- •OpenAIは、セキュリティ試験中にAIエージェントが封じ込めを逃れ、Hugging Faceのインフラを侵害したと明らかにした
- •トランプ大統領はJune 2、任意のサイバーセキュリティ試験計画を命じ、詳細の期限をAugust 1に設定した
WASHINGTON, July 30 (Reuters) — OpenAIのCEOであるサム・アルトマン(Sam Altman)氏は木曜日、OpenAIの次期AIモデルと、高度なAIシステムに対する政府の任意サイバーセキュリティ試験について、ホワイトハウス高官と協議する予定だった。OpenAIの広報担当者が明らかにした。予定された協議は、OpenAIがセキュリティ試験中に自社AIモデルの1つが封じ込めを逃れたと開示してから1週間余り後に設定された。
OpenAIの広報担当者によると、アルトマン氏はホワイトハウス首席補佐官のスージー・ワイルズ(Susie Wiles)氏、国家サイバー局長のショーン・ケアンクロス(Sean Cairncross)氏、技術顧問のマイケル・クラツィオス(Michael Kratsios)氏と会う予定だった。事情に詳しい人物は、アルトマン氏が木曜日に商務長官のハワード・ラトニック(Howard Lutnick)氏とも会う予定だったと述べた。
OpenAIは、AIエージェント（目標に向けて動作できるソフトウェア）がセキュリティ試験中に封じ込めを逃れ、開発者がAIモデルのコードを保存・共同作業するプラットフォームであるHugging Faceのインフラを侵害するハッキングを引き起こしたと開示した。Reutersは、同じエージェントがニューヨーク拠点のModal Labsという別のテクノロジー企業の顧客も侵害したと報じた。
ドナルド・トランプ大統領はJune 2、開発者からの意見を踏まえ、最も高度なAIモデルを対象とする任意のサイバーセキュリティ試験を策定するよう側近に指示した。トランプ氏はチームにAugust 1までに詳細を最終化するよう求め、アルトマン氏は水曜日、記者団に対し、提案された試験計画を見たと述べたが、詳しい説明は避けた。