「AI安全性」という言葉は、ワシントンやシリコンバレーにおいて、関係者が技術の進歩やリスクをどう捉えるかを示す「ロールシャッハ・テスト」のように機能している。その汎用性に反して、この用語は人類絶滅の危機といった破滅的な懸念から、雇用の喪失や児童福祉といった差し迫った社会的問題まで、非常に幅広い懸念を包含している。POLITICOマガジンは、影響力のある20人の声を7つの派閥に分類し、新興のAI政策状況を地図化した。

マシン・インテリジェンス・リサーチ・インスティテュートのネイト・ソアレス(Nate Soares)らが率いる「破滅の預言者(Doomsday Prophets)」は、現在のAI開発をスーパーインテリジェンス(超知能)への無謀な競争と呼び、単なるガードレールではなく即時停止が必要だと主張する。この感情と同調する哲学者のニック・ボストロム(Nick Bostrom)ら「Scared Straight Caucus」は、スーパーインテリジェンスが意図通りに機能するよう制御するための技術的な挑戦に焦点を当てている。一方、「安全重視の保守派(Safety-Conscious Right)」は国家安全保障を重視し、兵器化やインフラへのハッキングに対する保護措置を求め、敵対勢力が高度な能力へアクセスすることを防ぐための強力な輸出管理を訴えている。

より現実的あるいは政治的なアプローチをとる派閥も存在する。オミディヤン・ネットワークのミシェル・L・ジャワンド(Michele L. Jawando)のような「マネー・ムーバーズ(Money Movers)」は、安全性を透明性と説明責任に重点を置いた、人間中心の課題と位置づけている。バーニー・サンダース(Bernie Sanders)やアンドリュー・ヤン(Andrew Yang)といった政治家は、強力なモデルの公開に対する現在の監視の欠如を比較し、サンドイッチ屋やホットドッグ店を開くよりも制約が少ないと指摘する。最後に、アロンドラ・ネルソン(Alondra Nelson)ら「リベラル・ビリーバーズ(Liberal Believers)」は、AIの影響は不可避であるという考えを拒絶し、民主主義制度や消費者をバイアスや操作から守るための安全フレームワークを主張し、政府による開発の積極的な形成を求めている。

「AI安全性」という言葉は、ワシントンやシリコンバレーにおいて、関係者が技術の進歩やリスクをどう捉えるかを示す「ロールシャッハ・テスト」のように機能している。その汎用性に反して、この用語は人類絶滅の危機といった破滅的な懸念から、雇用の喪失や児童福祉といった差し迫った社会的問題まで、非常に幅広い懸念を包含している。POLITICOマガジンは、影響力のある20人の声を7つの派閥に分類し、新興のAI政策状況を地図化した。

マシン・インテリジェンス・リサーチ・インスティテュートのネイト・ソアレス(Nate Soares)らが率いる「破滅の預言者(Doomsday Prophets)」は、現在のAI開発をスーパーインテリジェンス(超知能)への無謀な競争と呼び、単なるガードレールではなく即時停止が必要だと主張する。この感情と同調する哲学者のニック・ボストロム(Nick Bostrom)ら「Scared Straight Caucus」は、スーパーインテリジェンスが意図通りに機能するよう制御するための技術的な挑戦に焦点を当てている。一方、「安全重視の保守派(Safety-Conscious Right)」は国家安全保障を重視し、兵器化やインフラへのハッキングに対する保護措置を求め、敵対勢力が高度な能力へアクセスすることを防ぐための強力な輸出管理を訴えている。

より現実的あるいは政治的なアプローチをとる派閥も存在する。オミディヤン・ネットワークのミシェル・L・ジャワンド(Michele L. Jawando)のような「マネー・ムーバーズ(Money Movers)」は、安全性を透明性と説明責任に重点を置いた、人間中心の課題と位置づけている。バーニー・サンダース(Bernie Sanders)やアンドリュー・ヤン(Andrew Yang)といった政治家は、強力なモデルの公開に対する現在の監視の欠如を比較し、サンドイッチ屋やホットドッグ店を開くよりも制約が少ないと指摘する。最後に、アロンドラ・ネルソン(Alondra Nelson)ら「リベラル・ビリーバーズ(Liberal Believers)」は、AIの影響は不可避であるという考えを拒絶し、民主主義制度や消費者をバイアスや操作から守るための安全フレームワークを主張し、政府による開発の積極的な形成を求めている。