AI安全分野で人材不足、求人91%増

リシュブ・ジェイン氏はGoogle DeepMindのAI安全チームを離れ、非営利団体Sampura Researchを共同設立しました。優先度が下がっていたと感じたAIアライメント研究に取り組めると説明しています。大手AI企業は安全性に投資しているものの、さらに投資できると述べました。Googleは、特定の研究分野に引き続き注力しているかについてコメントしませんでした。DeepMindの原則は、責任、安全性、セキュリティを包括的に扱う方針を掲げています。

LinkedInに掲載されたAI安全関連の求人は、過去1年間で91%増えました。研究者や支援者によると、技術研究、政策、ガバナンスを担う人材が不足しています。80,000 Hoursのローラ・ゴンサレス・サルメロン氏は「人材が最大のボトルネックです」と述べました。Anthropicや、実施の可能性があるOpenAIの新規株式公開に伴い、慈善資金が急増すると業界では見込まれています。

人材獲得競争は大企業、非営利団体、スタートアップに広がっています。Sampuraは経験豊富なチームリーダーに年27万3,000～39万5,000ドルを提示しており、記事によると米国の所得上位3%に入る水準です。Metaは昨年、第一線の専門家を採用するため1億ドルの契約一時金を提示したと報じられました。OpenAIの従業員は株式報酬として平均150万ドルを受け取り、Anthropicの技術職は年100万ドル超を得る場合があります。研究者の間では、企業内と社外のどちらがリスク低減に有効か意見が分かれています。

ジェイン氏は、AI開発の速度が、人間の価値観に沿うシステムを作る取り組みを上回る恐れを懸念しています。OpenAIの安全チームで透明性に関する取り組みを率いたデビッド・ロビンソン氏は、空港や原子力エネルギー分野の安全策になぞらえ、企業には確認の仕組みをさらに重ねる必要があると書きました。社員は走り続けることに追われ、根本的な変更を検討したり実施したりする余裕がなかったと述べ、社外でこの課題に取り組む考えを示しました。その後OpenAIは、社外の安全研究者に機密性の高い社内データを不適切に共有したとして研究者3人を解雇しました。研究者側は取締役会への書簡で、関与は職務の範囲内であり、解雇が残る社員を萎縮させていると主張しました。OpenAIは、安全上の懸念を提起したことや発言したことが解雇理由ではないと説明しました。

研修や採用を支援する団体にも、AI研究以外から人材が集まっています。Kairosの共同ディレクター、ネーブ・トパーズ氏は、毎月およそ10～20人の転職希望者と話すと述べました。同非営利団体はCoefficient Givingから5,000万ドルを調達し、この夏にGenerator Residencyを開始しました。参加者27人は3カ月間の研修を受け、コンサルティングなどの経験と安全性の原則を組み合わせてAI安全分野に移ることを目指しました。トパーズ氏によると、参加者のうち12人はすでに職を得ており、ほかにも多くが内定を得ています。

2026年には資金と世間の関心が広がりました。80,000 Hoursは2011年の設立以来、およそ8,000人と話し、その大半の相談が何らかの形でAIに関わっているとゴンサレス・サルメロン氏は述べました。METRは今年の6カ月間で7,100万ドルを調達したと発表しました。Axiosの報道によると、AI安全団体と個人寄付者は今年、AI規制を重視する選挙候補者に5,000万ドル近くを支出しました。ヤーン・タリン氏はAI安全の非営利団体に1億7,000万ドルを寄付しています。

Coefficient Givingが9月に発表したProject Tailwindは、慈善資金の増加に備える企業を支援するため、今年10億ドル超を拠出する見通しだとしています。Sampuraは同団体から1,100万ドルの助成を受けました。Coefficient Givingのロッサ・オキーフ＝オドノバン氏は、安全性を支える仕組みに不足が残るとし、技術的な専門性、リスク分析、スタートアップの技能を併せ持つ人材が必要だと述べました。社外の組織は計算資源や有力なAIモデルへのアクセス、影響力、給与面で制約を受ける可能性があります。一方、コンサルティング、政策、広報、事業運営の幹部職も候補となります。

リシュブ・ジェイン氏はGoogle DeepMindのAI安全チームを離れ、非営利団体Sampura Researchを共同設立しました。優先度が下がっていたと感じたAIアライメント研究に取り組めると説明しています。大手AI企業は安全性に投資しているものの、さらに投資できると述べました。Googleは、特定の研究分野に引き続き注力しているかについてコメントしませんでした。DeepMindの原則は、責任、安全性、セキュリティを包括的に扱う方針を掲げています。

LinkedInに掲載されたAI安全関連の求人は、過去1年間で91%増えました。研究者や支援者によると、技術研究、政策、ガバナンスを担う人材が不足しています。80,000 Hoursのローラ・ゴンサレス・サルメロン氏は「人材が最大のボトルネックです」と述べました。Anthropicや、実施の可能性があるOpenAIの新規株式公開に伴い、慈善資金が急増すると業界では見込まれています。

人材獲得競争は大企業、非営利団体、スタートアップに広がっています。Sampuraは経験豊富なチームリーダーに年27万3,000～39万5,000ドルを提示しており、記事によると米国の所得上位3%に入る水準です。Metaは昨年、第一線の専門家を採用するため1億ドルの契約一時金を提示したと報じられました。OpenAIの従業員は株式報酬として平均150万ドルを受け取り、Anthropicの技術職は年100万ドル超を得る場合があります。研究者の間では、企業内と社外のどちらがリスク低減に有効か意見が分かれています。

ジェイン氏は、AI開発の速度が、人間の価値観に沿うシステムを作る取り組みを上回る恐れを懸念しています。OpenAIの安全チームで透明性に関する取り組みを率いたデビッド・ロビンソン氏は、空港や原子力エネルギー分野の安全策になぞらえ、企業には確認の仕組みをさらに重ねる必要があると書きました。社員は走り続けることに追われ、根本的な変更を検討したり実施したりする余裕がなかったと述べ、社外でこの課題に取り組む考えを示しました。その後OpenAIは、社外の安全研究者に機密性の高い社内データを不適切に共有したとして研究者3人を解雇しました。研究者側は取締役会への書簡で、関与は職務の範囲内であり、解雇が残る社員を萎縮させていると主張しました。OpenAIは、安全上の懸念を提起したことや発言したことが解雇理由ではないと説明しました。

研修や採用を支援する団体にも、AI研究以外から人材が集まっています。Kairosの共同ディレクター、ネーブ・トパーズ氏は、毎月およそ10～20人の転職希望者と話すと述べました。同非営利団体はCoefficient Givingから5,000万ドルを調達し、この夏にGenerator Residencyを開始しました。参加者27人は3カ月間の研修を受け、コンサルティングなどの経験と安全性の原則を組み合わせてAI安全分野に移ることを目指しました。トパーズ氏によると、参加者のうち12人はすでに職を得ており、ほかにも多くが内定を得ています。

2026年には資金と世間の関心が広がりました。80,000 Hoursは2011年の設立以来、およそ8,000人と話し、その大半の相談が何らかの形でAIに関わっているとゴンサレス・サルメロン氏は述べました。METRは今年の6カ月間で7,100万ドルを調達したと発表しました。Axiosの報道によると、AI安全団体と個人寄付者は今年、AI規制を重視する選挙候補者に5,000万ドル近くを支出しました。ヤーン・タリン氏はAI安全の非営利団体に1億7,000万ドルを寄付しています。

Coefficient Givingが9月に発表したProject Tailwindは、慈善資金の増加に備える企業を支援するため、今年10億ドル超を拠出する見通しだとしています。Sampuraは同団体から1,100万ドルの助成を受けました。Coefficient Givingのロッサ・オキーフ＝オドノバン氏は、安全性を支える仕組みに不足が残るとし、技術的な専門性、リスク分析、スタートアップの技能を併せ持つ人材が必要だと述べました。社外の組織は計算資源や有力なAIモデルへのアクセス、影響力、給与面で制約を受ける可能性があります。一方、コンサルティング、政策、広報、事業運営の幹部職も候補となります。