OpenAI, AI 스스로 성능 개선하는 '자기 개선' 위험 대응 연구원 채용
- •OpenAI가 자기 개선 AI 시스템의 위험을 완화하기 위해 최대 445,000달러 연봉의 Preparedness 팀 연구원을 채용한다.
- •해당 역할은 사내 AI 자동화 추적 및 데이터 오염 방지 등을 담당하며, 2028년까지 완전 자율 AI 연구원 개발을 목표로 한다.
- •METR 보고서에 따르면 최첨단 AI의 과업 복잡도가 7개월마다 두 배씩 증가하면서 재귀적 자기 개선에 대한 업계 우려가 커지고 있다.
OpenAI가 Preparedness 안전 팀에서 근무할 연구원을 채용한다. 연봉은 295,000달러에서 445,000달러 수준이며, 주요 업무는 재귀적 자기 개선(Recursive self-improvement)이다. 이는 AI가 인간의 개입 없이 스스로 상위 버전의 모델을 설계하고 학습시키는 개념이다. OpenAI는 이 분야의 작업이 시급하며, 아직 실현되지 않은 미래의 위험까지 사전에 대비해야 한다고 강조했다.
이번 채용은 회사의 연구 목표와 궤를 같이한다. 샘 알트먼(Sam Altman) CEO는 2026년 9월까지 수십만 개의 칩을 활용한 자동화된 AI 연구 인턴을 배포하고, 2028년 3월까지 완전 자율적인 AI 연구원을 개발하겠다는 목표를 발표한 바 있다. 신규 연구원은 사내 기술 인력의 업무 자동화 현황을 추적하고, AI 코딩 도구의 내부 사용량을 모니터링하며, 학습 데이터셋을 의도적으로 훼손하는 데이터 오염(Data poisoning) 공격으로부터 모델을 보호하는 업무를 수행한다.
최첨단 AI의 역량이 가속화되면서 자율 개발에 대한 산업계의 경각심도 높아졌다. AI 능력 평가 전문 연구소인 METR의 자료에 따르면, 최첨단 모델이 수행할 수 있는 과업의 복잡도는 약 7개월마다 두 배씩 증가하고 있다. 데미스 허사비스(Demis Hassabis) 구글 딥마인드 CEO는 인류가 AI 개선 속도가 인간의 지능을 앞서는 기술적 특이점의 문턱에 다다랐다고 언급했다. Anthropic의 공동 창업자인 잭 클라크(Jack Clark) 또한 2028년 말까지 인간의 개입 없이 AI가 주도하는 연구 개발이 이루어질 확률을 60%로 추정했다.