Anthropic、自律型AI「Mythos」の安全性巡り懸念高まる
Livemint
2026年6月1日 (月)
- •Anthropicは、自律性が向上するAIモデルのリスクを巡り、高まる監視の目に晒されている。
- •CEOのダリオ・アモデイは、サイバー攻撃のリスクを懸念し、Mythosの利用を数十の組織に限定した。
- •同社は、社内のAI安全性に対するコミットメントと、将来的な一般公開に向けた計画のバランス調整を図っている。
Anthropicは現在、AI安全性への公約と、より強力で自律的なモデル開発という二つの課題の狭間で揺れている。同社は、新しいAI技術が及ぼす潜在的な影響、とりわけセキュリティと社会的な信頼に関する懸念から、監視の対象となっている。CEOのダリオ・アモデイ(Dario Amodei)は最近、オックスフォードシャーで50人の企業リーダーやリシ・スナク(Rishi Sunak)元英国首相と会談する予定を含んでいた欧州への出張を切り上げた。これは同社が開発したAIモデル「Mythos」を取り巻く懸念が背景にある。
Anthropicは先月、Mythosの存在を明かした。当初はサイバー攻撃への悪用リスクがあるとして、一般公開には危険すぎるとの見解を示していた。社内スタッフの報告によれば、Mythosは従来モデルよりも人間に近い能力を備えているという。現在、テスト目的で利用できるのはごく少数の数十の組織のみに制限されている。アモデイは、技術の将来的な一般公開に向けた準備を進めつつ、このモデルの能力を活用してトランプ政権との規制関係を調整することに注力している。