AI安全研究者、AIによる人類絶滅を懸念
- •MIRIのネイト・ソアレス所長、AIが人類を滅ぼす恐れから老後資金の積み立てを停止
- •ソアレス氏、人類絶滅につながるAIの可能性は10年以内に50％超と推定
- •各国政府に汎用AIの訓練停止を求め、がん研究やより安全な自動運転車の開発を提案
Machine Intelligence Research Institute（MIRI）の所長ネイト・ソアレス氏は、AIが10年以内に人類を絶滅させる可能性があると考え、老後資金の積み立てをやめたと述べました。アトランティックのCEO、ニコラス・トンプソン氏との最近のインタビューで、Google勤務時代に加入した401(k)は残っているものの、10年間拠出していないと明かしました。ソアレス氏は、強力なシステムが意図どおりに行動するようにするAIアライメントに12年以上取り組み、以前はGoogleとMicrosoftでエンジニアとして働いていました。
ソアレス氏は、AIが10年以内に人類を絶滅させる確率を50％超と見積もっています。ジェフリー・ヒントン氏はAIが10年以内に全人類を殺す確率を10％とし、Anthropicの研究者エバン・ヒュービンガー氏は10％超と見積もっています。ソアレス氏は『誰かが作れば、全員が死ぬ』を共著し、以前にはBusiness InsiderにもAIの危険性を警告しました。十分に高い能力を持つAIは人類に敵対する目標を持ち、監視を逃れ、自らを改良し、人間なしで動く自動化インフラを構築する可能性があると述べています。その後、AIが自らの目標に沿って地球環境を変え、人間が住めない状態にする恐れがあるとしています。
ソアレス氏の見方は、AI、ロボット、エネルギーの進歩によって10年または20年後には老後資金が不要になるとのイーロン・マスク氏の予測と対照的です。マスク氏は、モノやサービスが豊富になり、医療や教育が向上し、「普遍的な高所得」が実現する未来を語ってきました。また、AIとロボットがほぼすべての仕事で人間を上回れば、お金が意味を失う可能性があるとも述べています。ソアレス氏は、高度なAIを豊かさの源ではなく、人類の存続を脅かす危険と見ています。
ソアレス氏は各国政府に汎用AIシステムの訓練を停止し、がん研究やより安全な自動運転車などに使う技術へ注力するよう求めました。水曜日にトンプソン氏へ、解決策は「全員を殺すものを作らないこと」だと語りました。そうした結果を防ぐためにできることをすべて行っており、破局が避けられないとは考えていないとも述べています。