AI 안전 분야, 인력난에 채용 경쟁 심화

리숩 자인은 Google DeepMind의 AI 안전팀을 떠나 비영리단체 Sampura Research를 공동 창업했습니다. 그는 우선순위가 낮아졌다고 느낀 AI 정렬 연구를 이어갈 수 있다고 말했습니다. 주요 AI 기업들이 안전에 투자하고 있지만 더 투자할 여지가 있다고도 밝혔습니다. Google은 해당 연구 분야에 계속 집중하는지에 대해 언급하지 않았으며, DeepMind의 원칙은 책임·안전·보안에 대한 포괄적 접근을 설명합니다.

지난 1년간 LinkedIn에 올라온 AI 안전 분야 일자리 공고는 91% 늘었습니다. 연구자와 활동가들은 기술 연구, 정책, 거버넌스 전문가를 포함해 인력이 부족하다고 말합니다. 80,000 Hours의 로라 곤살레스 살메론은 “인재가 가장 큰 병목”이라고 밝혔습니다. Anthropic과 잠재적으로 OpenAI의 기업공개를 앞두고 자선 자금이 크게 늘어날 것으로 업계가 예상한다고 기사에서는 전했습니다.

인재 확보 경쟁은 대기업과 비영리단체, 스타트업에 걸쳐 있습니다. Sampura는 경력 있는 팀장에게 27만 3,000~39만 5,000달러를 제시하며, 기사는 이 급여가 미국 소득 상위 3%에 해당한다고 전했습니다. Meta는 지난해 주요 전문가를 영입하기 위해 1억 달러의 사이닝 보너스를 제안한 것으로 알려졌습니다. OpenAI 직원은 주식 보상으로 평균 150만 달러를 받으며, Anthropic의 기술직 직원은 연간 100만 달러 넘게 벌 수 있습니다. 연구자들 사이에서는 기업 내부와 외부 중 어느 쪽에서 위험을 더 효과적으로 줄일 수 있는지를 두고 의견이 갈립니다.

자인은 AI 개발 속도가 시스템을 인간 가치에 맞추려는 노력보다 빨라질 수 있다고 우려했습니다. OpenAI 안전팀에서 투명성 업무를 이끌었던 데이비드 로빈슨(David Robinson)은 기업에 공항과 원자력 분야의 안전장치 같은 점검 단계가 더 필요하다고 썼습니다. 그는 직원들이 질주하느라 근본적인 변화를 검토하거나 실행하기에 너무 바빴다고 말했으며, 회사를 떠나 이 문제를 다룰 계획입니다. 이후 OpenAI는 민감한 내부 자료를 외부 안전 연구자들과 부적절하게 공유했다며 연구자 3명을 해고했습니다. 이들은 이사회에 보낸 서한에서 해당 교류가 직무 범위 안에 있었고 남은 직원들의 발언을 위축시키고 있다고 주장했습니다. OpenAI는 해고가 안전 우려 제기나 공개 발언 때문은 아니라고 밝혔습니다.

교육·채용 단체에는 AI 연구 외 분야에서 경력을 바꾸려는 사람들의 관심도 모이고 있습니다. 비영리단체 Kairos의 공동 책임자 네이브 토파즈는 매달 진로 전환을 고려하는 사람 약 10~20명과 이야기한다고 말했습니다. Kairos는 Coefficient Giving에서 5,000만 달러를 모금하고 올해 여름 Generator Residency를 시작했습니다. 참가자 27명은 3개월간 교육받으며 컨설팅 같은 기존 전문성과 안전 원칙을 결합해 AI 안전 분야로 옮기는 훈련을 받았습니다. 토파즈에 따르면 이 가운데 12명은 이미 일자리를 얻었고, 다수는 다른 제안을 받았습니다.

2026년에는 자금과 대중의 관심이 확대됐습니다. 80,000 Hours는 2011년 설립 이후 약 8,000명과 상담했으며, 곤살레스 살메론은 대부분의 상담이 어떤 식으로든 AI에 초점을 맞췄다고 말했습니다. METR은 올해 6개월 동안 7,100만 달러를 모금했다고 밝혔습니다. Axios 보도에 따르면 AI 안전 단체와 개인 기부자들은 올해 AI 규제에 초점을 둔 선거 후보들을 위해 거의 5,000만 달러를 썼고, 얀 탈린은 AI 안전 비영리단체에 1억 7,000만 달러를 기부했습니다.

Coefficient Giving이 9월 발표한 Project Tailwind는 예상되는 자선 자금 증가에 기업들이 대비하도록 올해 10억 달러 넘게 지원할 계획이라고 밝혔습니다. Sampura는 이 단체에서 1,100만 달러의 지원금을 받았습니다. Coefficient Giving의 로사 오키프오도노반은 안전 생태계에 여전히 공백이 있다며 기술 전문성, 위험 분석, 스타트업 역량을 함께 갖춘 인력이 필요하다고 말했습니다. 외부 단체는 컴퓨팅 자원과 선도 AI 모델 접근, 영향력, 급여 면에서 제약을 받을 수 있지만, 컨설팅·정책·홍보·경영 리더십 분야에도 역할이 있다고 기사에서 설명했습니다.

리숩 자인은 Google DeepMind의 AI 안전팀을 떠나 비영리단체 Sampura Research를 공동 창업했습니다. 그는 우선순위가 낮아졌다고 느낀 AI 정렬 연구를 이어갈 수 있다고 말했습니다. 주요 AI 기업들이 안전에 투자하고 있지만 더 투자할 여지가 있다고도 밝혔습니다. Google은 해당 연구 분야에 계속 집중하는지에 대해 언급하지 않았으며, DeepMind의 원칙은 책임·안전·보안에 대한 포괄적 접근을 설명합니다.

지난 1년간 LinkedIn에 올라온 AI 안전 분야 일자리 공고는 91% 늘었습니다. 연구자와 활동가들은 기술 연구, 정책, 거버넌스 전문가를 포함해 인력이 부족하다고 말합니다. 80,000 Hours의 로라 곤살레스 살메론은 “인재가 가장 큰 병목”이라고 밝혔습니다. Anthropic과 잠재적으로 OpenAI의 기업공개를 앞두고 자선 자금이 크게 늘어날 것으로 업계가 예상한다고 기사에서는 전했습니다.

인재 확보 경쟁은 대기업과 비영리단체, 스타트업에 걸쳐 있습니다. Sampura는 경력 있는 팀장에게 27만 3,000~39만 5,000달러를 제시하며, 기사는 이 급여가 미국 소득 상위 3%에 해당한다고 전했습니다. Meta는 지난해 주요 전문가를 영입하기 위해 1억 달러의 사이닝 보너스를 제안한 것으로 알려졌습니다. OpenAI 직원은 주식 보상으로 평균 150만 달러를 받으며, Anthropic의 기술직 직원은 연간 100만 달러 넘게 벌 수 있습니다. 연구자들 사이에서는 기업 내부와 외부 중 어느 쪽에서 위험을 더 효과적으로 줄일 수 있는지를 두고 의견이 갈립니다.

자인은 AI 개발 속도가 시스템을 인간 가치에 맞추려는 노력보다 빨라질 수 있다고 우려했습니다. OpenAI 안전팀에서 투명성 업무를 이끌었던 데이비드 로빈슨(David Robinson)은 기업에 공항과 원자력 분야의 안전장치 같은 점검 단계가 더 필요하다고 썼습니다. 그는 직원들이 질주하느라 근본적인 변화를 검토하거나 실행하기에 너무 바빴다고 말했으며, 회사를 떠나 이 문제를 다룰 계획입니다. 이후 OpenAI는 민감한 내부 자료를 외부 안전 연구자들과 부적절하게 공유했다며 연구자 3명을 해고했습니다. 이들은 이사회에 보낸 서한에서 해당 교류가 직무 범위 안에 있었고 남은 직원들의 발언을 위축시키고 있다고 주장했습니다. OpenAI는 해고가 안전 우려 제기나 공개 발언 때문은 아니라고 밝혔습니다.

교육·채용 단체에는 AI 연구 외 분야에서 경력을 바꾸려는 사람들의 관심도 모이고 있습니다. 비영리단체 Kairos의 공동 책임자 네이브 토파즈는 매달 진로 전환을 고려하는 사람 약 10~20명과 이야기한다고 말했습니다. Kairos는 Coefficient Giving에서 5,000만 달러를 모금하고 올해 여름 Generator Residency를 시작했습니다. 참가자 27명은 3개월간 교육받으며 컨설팅 같은 기존 전문성과 안전 원칙을 결합해 AI 안전 분야로 옮기는 훈련을 받았습니다. 토파즈에 따르면 이 가운데 12명은 이미 일자리를 얻었고, 다수는 다른 제안을 받았습니다.

2026년에는 자금과 대중의 관심이 확대됐습니다. 80,000 Hours는 2011년 설립 이후 약 8,000명과 상담했으며, 곤살레스 살메론은 대부분의 상담이 어떤 식으로든 AI에 초점을 맞췄다고 말했습니다. METR은 올해 6개월 동안 7,100만 달러를 모금했다고 밝혔습니다. Axios 보도에 따르면 AI 안전 단체와 개인 기부자들은 올해 AI 규제에 초점을 둔 선거 후보들을 위해 거의 5,000만 달러를 썼고, 얀 탈린은 AI 안전 비영리단체에 1억 7,000만 달러를 기부했습니다.

Coefficient Giving이 9월 발표한 Project Tailwind는 예상되는 자선 자금 증가에 기업들이 대비하도록 올해 10억 달러 넘게 지원할 계획이라고 밝혔습니다. Sampura는 이 단체에서 1,100만 달러의 지원금을 받았습니다. Coefficient Giving의 로사 오키프오도노반은 안전 생태계에 여전히 공백이 있다며 기술 전문성, 위험 분석, 스타트업 역량을 함께 갖춘 인력이 필요하다고 말했습니다. 외부 단체는 컴퓨팅 자원과 선도 AI 모델 접근, 영향력, 급여 면에서 제약을 받을 수 있지만, 컨설팅·정책·홍보·경영 리더십 분야에도 역할이 있다고 기사에서 설명했습니다.