AI 퓨처스 프로젝트, 2027년 지능 폭발 전망

AI 퓨처스 프로젝트(AI Futures Project)는 11월 10일 새 분석을 발표해 인간 최고 수준의 연구자를 능가하는 AI가 2027년에 등장할 가능성이 높다고 전망했습니다. 연구진 6명 모두 초인간 AI 연구자(SAR)가 내년에 등장할 가능성을 높게 평가했습니다. 인간 최고 전문가를 능가하고 사무직 업무 전반을 자동화할 수 있는 TED-AI(최고 전문가를 능가하는 AI)가 2027년 말까지 등장할 확률은 35~65%로 추정했습니다. 이 프로젝트는 내년 한 해에 과거 4~5년 치에 해당하는 기술 발전이 이뤄질 수 있다고 봤습니다. 기존 ‘AI 2027’ 시나리오에서 예상한 연구개발 가속보다 실제 가속이 약 5개월 먼저 나타났다는 분석도 내놨습니다.

전망의 근거로 제시된 것은 METR이 11월 5일 발표한 연구 결과입니다. 독립 AI 평가기관인 METR은 11주 동안 앤트로픽의 내부 연구자료와 비공개 모델 3종의 성능 등을 분석해 AI 모델의 발전 속도가 이전보다 약 1.9배 빨라졌다고 추정했습니다. 과거 2년간 이뤄진 기술 발전을 최근 1년 만에 달성한 수준입니다. AI 퓨처스 프로젝트는 현재 AI 개발 가속 효과의 약 80%가 AI 자체의 연구개발 기여에서 나왔을 가능성이 있다고 분석했습니다.

프로젝트는 AI가 차세대 AI 개발에 참여하고, 그 AI가 다시 후속 모델을 개선하는 재귀적 자기 개선(RSI)이 본격화하면 발전 속도가 더 빨라질 수 있다고 설명했습니다. 완전한 연구개발 자동화에 이르기 전부터 상당한 가속이 나타났다는 점도 강조했습니다. 앤트로픽은 6월 차세대 모델 개발에 AI가 참여하는 비중이 빠르게 늘고 있다고 밝혔고, 7월에는 오픈AI·앤트로픽·구글 딥마인드 등의 직원 1300여명이 AI 발전이 인간 통제를 넘어설 위험을 경고하는 공동 성명을 냈습니다.

9월에는 오픈AI 수석과학자 야쿠프 파초키가 내부 연구 결과를 근거로 RSI 가능성을 언급했습니다. 같은 달 앤트로픽 연구원 제이컵 콕슨은 오픈AI와 앤트로픽이 자기 개선 초지능 개발을 놓고 경쟁한다고 말하며 회사를 떠났습니다. 오픈AI·구글 딥마인드·앤트로픽 등의 전·현직 연구원 22명도 공개 인터뷰에서 AI의 재귀적 자기 개선이 인간 통제를 벗어날 위험을 경고했습니다. 당시 일반 이용자가 접하는 AI는 엉뚱한 답변이나 코딩 오류를 냈고, 기업 비공개 최첨단 모델의 성능은 외부에서 확인하기 어려웠습니다.

외부 평가기관에서도 비슷한 분석이 이어졌습니다. AI 평가업체 발스 AI(Vals AI)는 9월 앤트로픽이 2027년 7월 완전한 RSI에 도달할 수 있다고 예측했고, 라얀 크리슈난 CEO는 10월 인터뷰에서 이 전망을 재확인했습니다. 이어 METR의 비공개 모델 분석은 발전 속도 가속을 약 1.9배로 추정했습니다. AI가 스스로 개발을 가속해 2027년 ‘지능 폭발’이 시작될 수 있다는 전망이 나오지만, 실제 폭발적 가속 시점은 알 수 없다고 기사는 전했습니다.

AI 퓨처스 프로젝트(AI Futures Project)는 11월 10일 새 분석을 발표해 인간 최고 수준의 연구자를 능가하는 AI가 2027년에 등장할 가능성이 높다고 전망했습니다. 연구진 6명 모두 초인간 AI 연구자(SAR)가 내년에 등장할 가능성을 높게 평가했습니다. 인간 최고 전문가를 능가하고 사무직 업무 전반을 자동화할 수 있는 TED-AI(최고 전문가를 능가하는 AI)가 2027년 말까지 등장할 확률은 35~65%로 추정했습니다. 이 프로젝트는 내년 한 해에 과거 4~5년 치에 해당하는 기술 발전이 이뤄질 수 있다고 봤습니다. 기존 ‘AI 2027’ 시나리오에서 예상한 연구개발 가속보다 실제 가속이 약 5개월 먼저 나타났다는 분석도 내놨습니다.

전망의 근거로 제시된 것은 METR이 11월 5일 발표한 연구 결과입니다. 독립 AI 평가기관인 METR은 11주 동안 앤트로픽의 내부 연구자료와 비공개 모델 3종의 성능 등을 분석해 AI 모델의 발전 속도가 이전보다 약 1.9배 빨라졌다고 추정했습니다. 과거 2년간 이뤄진 기술 발전을 최근 1년 만에 달성한 수준입니다. AI 퓨처스 프로젝트는 현재 AI 개발 가속 효과의 약 80%가 AI 자체의 연구개발 기여에서 나왔을 가능성이 있다고 분석했습니다.

프로젝트는 AI가 차세대 AI 개발에 참여하고, 그 AI가 다시 후속 모델을 개선하는 재귀적 자기 개선(RSI)이 본격화하면 발전 속도가 더 빨라질 수 있다고 설명했습니다. 완전한 연구개발 자동화에 이르기 전부터 상당한 가속이 나타났다는 점도 강조했습니다. 앤트로픽은 6월 차세대 모델 개발에 AI가 참여하는 비중이 빠르게 늘고 있다고 밝혔고, 7월에는 오픈AI·앤트로픽·구글 딥마인드 등의 직원 1300여명이 AI 발전이 인간 통제를 넘어설 위험을 경고하는 공동 성명을 냈습니다.

9월에는 오픈AI 수석과학자 야쿠프 파초키가 내부 연구 결과를 근거로 RSI 가능성을 언급했습니다. 같은 달 앤트로픽 연구원 제이컵 콕슨은 오픈AI와 앤트로픽이 자기 개선 초지능 개발을 놓고 경쟁한다고 말하며 회사를 떠났습니다. 오픈AI·구글 딥마인드·앤트로픽 등의 전·현직 연구원 22명도 공개 인터뷰에서 AI의 재귀적 자기 개선이 인간 통제를 벗어날 위험을 경고했습니다. 당시 일반 이용자가 접하는 AI는 엉뚱한 답변이나 코딩 오류를 냈고, 기업 비공개 최첨단 모델의 성능은 외부에서 확인하기 어려웠습니다.

외부 평가기관에서도 비슷한 분석이 이어졌습니다. AI 평가업체 발스 AI(Vals AI)는 9월 앤트로픽이 2027년 7월 완전한 RSI에 도달할 수 있다고 예측했고, 라얀 크리슈난 CEO는 10월 인터뷰에서 이 전망을 재확인했습니다. 이어 METR의 비공개 모델 분석은 발전 속도 가속을 약 1.9배로 추정했습니다. AI가 스스로 개발을 가속해 2027년 ‘지능 폭발’이 시작될 수 있다는 전망이 나오지만, 실제 폭발적 가속 시점은 알 수 없다고 기사는 전했습니다.