Google DeepMind、国防総省とのAI契約に抗議し社員が退職
- •機密環境でのAI利用を認める国防総省との契約をめぐり、Google DeepMindの社員が相次いで退職
- •研究エンジニアのソフィア・リグオリは3年間勤務した後に退職、アンドレアス・キルシュも軍事AIの監督不足を指摘
- •Google社員600人超がスンダー・ピチャイに書簡を送り、AIの機密軍事利用を阻止するよう要請
Google DeepMindの社員数人が、機密環境でGoogleのAI利用を認める国防総省との契約をめぐり、ここ数週間で退職しました。この契約は今年初めに締結されました。ロンドンを拠点とする研究エンジニアのソフィア・リグオリは、3年間勤務した同社を今週去りました。契約上の制限がある中、個人としてBBCに語ったリグオリは、軍事作戦でAIを使う動きが強まる会社で働くことを恥ずかしく思うと述べ、Googleが掲げる倫理的価値への信頼を失ったと話しました。退職時の条件により、原則として生涯にわたりGoogleを批判できないとも語りました。
AI研究者のアンドレアス・キルシュも、同様の懸念から今月初めに退職しました。キルシュはBBCに、軍事や機密環境でAIを安全かつ責任を持って使うためのGoogleの統治体制と監督は不十分だと述べました。人工超知能を安全に開発したいとする一方、国防総省によるGoogleのAI利用を同社が制御したり拒否したりできるのか、またAIの配備状況を把握できるのか疑問を示しました。
Googleは今年初め、米軍と契約を結び、機密環境全体でAIを配備することになりました。OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia、スタートアップのReflectionも同様の契約を結んでいます。国防総省はAI導入を加速しており、戦争長官のピート・ヘグセスは1月、米国が「AI優先」の戦闘部隊になると述べました。国防次官のエミル・マイケルは今年、「AI時代には速度が勝利を決める」と語りました。
退役したジャック・シャナハン陸軍中将は、厳格な試験や評価が犠牲になるおそれがあるとして、国防総省がAIをできる限り広く、速く配備する方針を批判しました。シャナハンはプロジェクト・メイブンの元責任者です。国防総省の主要ソフトウェア基盤であるMaven Smart SystemsはPalantirが開発し、AIで情報やデータを整理して、担当者による標的の特定と選定を支援します。Palantirは複数の主要AI企業の技術を同システムに組み込んでいます。Googleとの契約は「合法的な政府目的」でのAI利用を認める一方、適切な人間の監督と制御なしに、国内の大規模監視や標的選定を含む自律型兵器に使うべきではないと定めています。
Breitbartは以前、キルシュが火曜日にXへ投稿し、契約締結を「恥ずべきこと」と批判したと報じました。Google社員600人超もスンダー・ピチャイ最高経営責任者に書簡を送り、同社AIの機密軍事利用を阻止するよう求めていました。キルシュはBusiness Insiderに、書簡が再検討を促すことを期待していたものの、目覚めると自身が最悪のケースと呼ぶ契約をGoogleが締結したという知らせを目にしたと話しました。Breitbartの記事にはGoogle社員に関する論評と、記者ルーカス・ノーランの著書『Code Red』の宣伝も含まれています。