구글 딥마인드 직원들, 미 국방부 AI 계약에 반발해 퇴사

구글 딥마인드 직원 여러 명이 올해 초 체결된 미 국방부 계약에 반발해 최근 몇 주 동안 퇴사했습니다. 계약은 기밀 환경에서 구글 AI를 사용할 수 있도록 허용합니다. 런던에서 일한 연구 엔지니어 소피아 리구오리는 3년 근무 후 이번 주 회사를 떠났습니다. 계약상 제한에도 개인 자격으로 BBC에 말한 리구오리는 군사 작전에 AI를 쓰려는 회사의 움직임이 커져 구글에서 일하는 것이 부끄러워졌다고 밝혔습니다. 구글이 내세운 윤리적 가치에 대한 믿음도 잃었다고 말했습니다. 퇴직 조건에 따라 원칙적으로 평생 구글을 비판할 수 없게 됐다고도 설명했습니다.

AI 연구자 안드레아스 키르슈도 비슷한 우려로 이달 초 사임했습니다. 그는 BBC에 구글의 관리 체계와 감독이 군사 및 기밀 환경에서 AI를 안전하고 책임 있게 쓰기에 충분하지 않다고 말했습니다. 키르슈는 인공 초지능을 안전하게 개발하고 싶다고 밝혔으며, 구글이 국방부의 자사 AI 사용을 통제하거나 거부할 수 있는지, AI가 어떻게 배치되는지 파악할 수 있는지 의문을 제기했습니다.

구글은 올해 초 미군과 계약을 맺고 기밀 환경 전반에 AI를 배치하기로 했습니다. OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia와 스타트업 Reflection도 비슷한 계약을 체결했습니다. 미 국방부는 AI 도입을 서두르고 있습니다. 전쟁부 장관 피트 헤그세스는 1월 미국이 ‘AI 우선’ 전투력을 갖추겠다고 밝혔고, 국방부 차관 에밀 마이클은 올해 “AI 시대에는 속도가 승리를 결정한다”고 말했습니다.

프로젝트 메이븐을 이끌었던 잭 섀너핸 예비역 중장은 엄격한 시험과 평가가 희생될 가능성을 지적하며 국방부가 AI를 최대한 널리, 신속하게 배치하려는 목표를 비판했습니다. 국방부의 주요 정보·데이터 정리 소프트웨어인 메이븐 스마트 시스템즈는 Palantir가 개발했으며, 군 인력이 표적을 식별하고 선택하도록 AI를 활용합니다. Palantir는 여러 주요 AI 기업의 기술을 메이븐에 통합했습니다. 구글 계약은 “합법적인 정부 목적”의 AI 사용을 허용하지만, 적절한 사람의 감독과 통제가 없는 국내 대규모 감시나 표적 선택을 포함한 자율 무기 사용은 금지한다고 명시했습니다.

Breitbart는 앞서 키르슈가 화요일 X 게시물에서 계약 체결을 “수치스럽다”고 비판했다고 보도했습니다. 구글 직원 600명 이상도 순다르 피차이 최고경영자에게 서한을 보내 회사 AI의 기밀 군사 사용을 막으라고 촉구했습니다. 키르슈는 Business Insider에 서한이 재검토를 이끌기를 바랐지만, 구글이 자신이 최악의 경우라고 부른 계약에 서명했다는 소식을 아침에 접했다고 말했습니다. Breitbart 기사에는 구글 직원에 대한 편집자 논평과 기자 루카스 놀런의 책 《코드 레드》 홍보도 포함됐습니다.

구글 딥마인드 직원 여러 명이 올해 초 체결된 미 국방부 계약에 반발해 최근 몇 주 동안 퇴사했습니다. 계약은 기밀 환경에서 구글 AI를 사용할 수 있도록 허용합니다. 런던에서 일한 연구 엔지니어 소피아 리구오리는 3년 근무 후 이번 주 회사를 떠났습니다. 계약상 제한에도 개인 자격으로 BBC에 말한 리구오리는 군사 작전에 AI를 쓰려는 회사의 움직임이 커져 구글에서 일하는 것이 부끄러워졌다고 밝혔습니다. 구글이 내세운 윤리적 가치에 대한 믿음도 잃었다고 말했습니다. 퇴직 조건에 따라 원칙적으로 평생 구글을 비판할 수 없게 됐다고도 설명했습니다.

AI 연구자 안드레아스 키르슈도 비슷한 우려로 이달 초 사임했습니다. 그는 BBC에 구글의 관리 체계와 감독이 군사 및 기밀 환경에서 AI를 안전하고 책임 있게 쓰기에 충분하지 않다고 말했습니다. 키르슈는 인공 초지능을 안전하게 개발하고 싶다고 밝혔으며, 구글이 국방부의 자사 AI 사용을 통제하거나 거부할 수 있는지, AI가 어떻게 배치되는지 파악할 수 있는지 의문을 제기했습니다.

구글은 올해 초 미군과 계약을 맺고 기밀 환경 전반에 AI를 배치하기로 했습니다. OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia와 스타트업 Reflection도 비슷한 계약을 체결했습니다. 미 국방부는 AI 도입을 서두르고 있습니다. 전쟁부 장관 피트 헤그세스는 1월 미국이 ‘AI 우선’ 전투력을 갖추겠다고 밝혔고, 국방부 차관 에밀 마이클은 올해 “AI 시대에는 속도가 승리를 결정한다”고 말했습니다.

프로젝트 메이븐을 이끌었던 잭 섀너핸 예비역 중장은 엄격한 시험과 평가가 희생될 가능성을 지적하며 국방부가 AI를 최대한 널리, 신속하게 배치하려는 목표를 비판했습니다. 국방부의 주요 정보·데이터 정리 소프트웨어인 메이븐 스마트 시스템즈는 Palantir가 개발했으며, 군 인력이 표적을 식별하고 선택하도록 AI를 활용합니다. Palantir는 여러 주요 AI 기업의 기술을 메이븐에 통합했습니다. 구글 계약은 “합법적인 정부 목적”의 AI 사용을 허용하지만, 적절한 사람의 감독과 통제가 없는 국내 대규모 감시나 표적 선택을 포함한 자율 무기 사용은 금지한다고 명시했습니다.

Breitbart는 앞서 키르슈가 화요일 X 게시물에서 계약 체결을 “수치스럽다”고 비판했다고 보도했습니다. 구글 직원 600명 이상도 순다르 피차이 최고경영자에게 서한을 보내 회사 AI의 기밀 군사 사용을 막으라고 촉구했습니다. 키르슈는 Business Insider에 서한이 재검토를 이끌기를 바랐지만, 구글이 자신이 최악의 경우라고 부른 계약에 서명했다는 소식을 아침에 접했다고 말했습니다. Breitbart 기사에는 구글 직원에 대한 편집자 논평과 기자 루카스 놀런의 책 《코드 레드》 홍보도 포함됐습니다.