Anthropicの共同創業者ジャック・クラーク氏は金曜日、人工知能を規制する強力な法律を整備するよう改めて求めました。バンコクで開かれたIMF・世界銀行年次総会のイベントで、規制なしに企業が活動できる状態にすべきではないと述べました。子どもに買う玩具のほうが、自身が開発に携わる「文字どおりの超知能」より厳しい規制を受けていると指摘し、ブレーキのないレーシングカーを夜の街で走らせることにたとえました。さらに、ブレーキなしで夜間に行うF1レースのような状況だと述べ、なぜ誰も防護柵を設けようとしないのかと問いかけました。

クラーク氏によると、ドナルド・トランプ米政権は規制に反対し、AI業界に自主規制を求めています。一方、中国は規制に反対していないと同氏は述べました。水曜日にダブリンで開かれた業界サミットでは、強力なAI技術の開発における安全の優先が議論の中心となりました。OpenAIとAnthropicが開発したモデルが試験中にセキュリティ事故に関与した後、安全策を求める懸念が高まり、AI規制を求める圧力が強まったと報道されています。

Anthropicの最近の報告書は、小型AIモデルが、インターネットに接続された機器から別の機器へ自らを複製するコンピューターウイルスのように振る舞うまで、あと数カ月かもしれないと示唆しました。同社は政府に介入を求め、中国の競合企業を含む業界全体の開発を遅らせるため、国際協調を提案しています。企業が投資を呼び込もうと激しく競うなか、この取り組みは今のところ実現していません。

Anthropicの共同創業者ジャック・クラーク氏は金曜日、人工知能を規制する強力な法律を整備するよう改めて求めました。バンコクで開かれたIMF・世界銀行年次総会のイベントで、規制なしに企業が活動できる状態にすべきではないと述べました。子どもに買う玩具のほうが、自身が開発に携わる「文字どおりの超知能」より厳しい規制を受けていると指摘し、ブレーキのないレーシングカーを夜の街で走らせることにたとえました。さらに、ブレーキなしで夜間に行うF1レースのような状況だと述べ、なぜ誰も防護柵を設けようとしないのかと問いかけました。

クラーク氏によると、ドナルド・トランプ米政権は規制に反対し、AI業界に自主規制を求めています。一方、中国は規制に反対していないと同氏は述べました。水曜日にダブリンで開かれた業界サミットでは、強力なAI技術の開発における安全の優先が議論の中心となりました。OpenAIとAnthropicが開発したモデルが試験中にセキュリティ事故に関与した後、安全策を求める懸念が高まり、AI規制を求める圧力が強まったと報道されています。

Anthropicの最近の報告書は、小型AIモデルが、インターネットに接続された機器から別の機器へ自らを複製するコンピューターウイルスのように振る舞うまで、あと数カ月かもしれないと示唆しました。同社は政府に介入を求め、中国の競合企業を含む業界全体の開発を遅らせるため、国際協調を提案しています。企業が投資を呼び込もうと激しく競うなか、この取り組みは今のところ実現していません。