独立AI評価機関の重要性が高まる
- •独立評価機関がAnthropicとOpenAIのモデルの安全基準への適合を審査
- •トランプ大統領が自主協定を提示し、外部評価機関との連携をAI企業に促す
- •カリフォルニア、コネチカット、バージニア州が独立検証機関の導入へ、マサチューセッツ州は幅広い評価を検討
政府やテクノロジー企業がAIモデルの安全性を評価する方法を探すなか、独立した第三者評価機関の重要性が高まっています。一方、企業が自社モデルの評価を依頼する場合、評価機関の公平性をどう確保するかが課題です。AnthropicとOpenAIは、Model Evaluation and Threat ResearchやApollo Researchなどの小規模な団体に依頼し、自社モデルが安全基準を満たすかを評価しています。
AI技術が急速に進化するなか、研究者やテクノロジー企業の幹部から懸念の声が強まっています。Anthropicのダリオ・アモデイCEOはAIの最先端技術の進展速度に関する論考で第三者評価の重要性を強調し、OpenAIのサム・アルトマンCEOも独立評価機関の役割を支持しました。ドナルド・トランプ大統領とNvidiaのジェンスン・フアンCEOは規制強化の要請を退けています。トランプ氏は企業による「自主規制」を評価し、業界の対応をおおむね企業自身に委ねる意向を示しました。
トランプ氏は9月下旬に提示した自主協定のもと、AI企業に独立した外部監査人または評価機関との連携も促しました。政府の認可を受けた独立検証機関（IVO）は、企業が特定の安全基準を満たすかを検査する権限を得る可能性があり、7月に提出されたFrontier Actでも役割が定められています。CNBCのテクノロジー報道によると、カリフォルニア州、コネチカット州、バージニア州の議員はIVO導入に向けた措置を進め、マサチューセッツ州はより広範な独立AI安全評価を検討しています。OpenAIとAnthropicはIVOを支持していますが、両社と評価機関の競争や、評価対象企業との金銭的なつながりをめぐり、公平性への疑問が残っています。