Anthropic 공동 창업자이자 공익 부문 책임자인 잭 클라크(Jack Clark)는 10월 13일 도쿄대 대학원 마쓰오·이와사와 연구실 주최 강연에서, 자기 후계 시스템을 훈련할 수 있는 AI가 2027년에 등장할 확률이 50%를 넘는다고 말했습니다. 연초에 공개한 전망은 “2027년 30%, 2028년 말까지 60%”였으며, 이번에는 시점을 앞당겼습니다.

클라크는 AI가 스스로 능력을 높이는 과정인 재귀적 자기 개선에서, 능력을 갖추는 것과 실제로 실행하는 것은 별개라고 설명했습니다. 일단 시작하면 되돌릴 수 없는 ‘편도 티켓’이라며 내년에 실행할 가능성은 “거의 0”이라고 했습니다. 실행 여부는 Anthropic 같은 기업뿐 아니라 정부와 다른 사람들이 함께 결정해야 할 사안이라고 밝혔습니다.

클라크에 따르면 약 1년 전 Anthropic 내부에서 AI는 주로 보조 도구로 쓰였지만, 2026년에 들어서는 사내 코드베이스 작업의 26%를 AI가 주도하게 됐습니다. 사람이 높은 수준의 목표를 제시하면 Claude가 나머지 작업을 진행하는 방식입니다. 클라크는 이를 ‘재귀적 자기 개선의 바깥 루프’라고 부르며, 소규모 자율 AI 개발이 이미 이뤄지고 있다는 증거라고 말했습니다.

클라크는 자동화가 진전될수록 위험도 커진다고 지적했습니다. “이번 여름에 본 것처럼” AI 시스템이 연구소 환경을 벗어나 다른 기업을 해킹할 우려가 있지만, AI의 움직임을 파악하는 체계는 이를 따라잡지 못하고 있다고 설명했습니다. 기사에 따르면 그는 OpenAI 모델이 Hugging Face 환경에 침입한 사건과 Claude Mythos 5가 제삼자 기관의 평가 도중 예상 밖의 행동을 보인 일을 염두에 뒀습니다. 클라크는 Anthropic이 제삼자 평가 기관 METR의 평가자들을 사내에 받아들이고 있다고 전했습니다.

사람에게는 자동화 시스템이 제대로 작동하는지 확인하고 필요하면 멈추는 역할이 남는다고 클라크는 설명했습니다. 도요타 생산 방식의 ‘안돈’을 예로 들며, 문제가 생기면 생산 라인을 멈추듯 AI 개발에서도 사람이 중단을 결정할 수 있어야 한다고 말했습니다. 이번 여름의 교훈으로 시스템을 관찰하고 멈추는 체계가 아직 마련되지 않았다고 지적했고, 개발을 완전히 자동화하면 큰 부정적 영향을 낳을 수 있으므로 개발 과정에 사람의 판단을 의도적으로 남겨야 한다고 강조했습니다.

안전장치가 성공하면 AI가 과학자로 일하는 세상이 올 수 있다고 클라크는 말했습니다. 현재 전 세계 직업 과학자는 약 1,000만~2,000만 명이지만, 앞으로는 “과학자가 100억~200억 명인 세계”로 진입하려 한다고 밝혔습니다. 병목 요인으로 웻랩, 전자현미경, 싱크로트론, 로봇 등 실험 장비 부족을 들었습니다. 고용에 미치는 영향은 분야마다 다르며, 일자리 감소를 받아들일지는 정부가 결정할 문제라고 했습니다. 일본에서 수요가 늘어나는 돌봄·간호에는 인간적인 요소가 있다며 완전 자동화해서는 안 된다는 견해도 밝혔습니다.

클라크는 도쿄대 등과 추진하는 ‘Japan AI Index’가 AI 기업의 데이터와 정부 정보를 연결해 정책과 투자 판단에 활용하는 사업이라고 설명했습니다. 실증 데이터에 근거해 판단하는 나라가 수동적으로 대응하는 나라보다 더 나은 성과를 낼 것이라고 말했습니다. 강연을 “근본적으로 낙관적인 이야기”라고 규정하며 인류가 안고 있는 많은 문제의 해결을 AI가 맡게 될 것이라는 전망을 내놨습니다. 학생들에게는 상상력을 기르기 위해 1차 자료를 끝까지 읽는 집중력과 주도성을 지키라고 조언했습니다.

Anthropic 공동 창업자이자 공익 부문 책임자인 잭 클라크(Jack Clark)는 10월 13일 도쿄대 대학원 마쓰오·이와사와 연구실 주최 강연에서, 자기 후계 시스템을 훈련할 수 있는 AI가 2027년에 등장할 확률이 50%를 넘는다고 말했습니다. 연초에 공개한 전망은 “2027년 30%, 2028년 말까지 60%”였으며, 이번에는 시점을 앞당겼습니다.

클라크는 AI가 스스로 능력을 높이는 과정인 재귀적 자기 개선에서, 능력을 갖추는 것과 실제로 실행하는 것은 별개라고 설명했습니다. 일단 시작하면 되돌릴 수 없는 ‘편도 티켓’이라며 내년에 실행할 가능성은 “거의 0”이라고 했습니다. 실행 여부는 Anthropic 같은 기업뿐 아니라 정부와 다른 사람들이 함께 결정해야 할 사안이라고 밝혔습니다.

클라크에 따르면 약 1년 전 Anthropic 내부에서 AI는 주로 보조 도구로 쓰였지만, 2026년에 들어서는 사내 코드베이스 작업의 26%를 AI가 주도하게 됐습니다. 사람이 높은 수준의 목표를 제시하면 Claude가 나머지 작업을 진행하는 방식입니다. 클라크는 이를 ‘재귀적 자기 개선의 바깥 루프’라고 부르며, 소규모 자율 AI 개발이 이미 이뤄지고 있다는 증거라고 말했습니다.

클라크는 자동화가 진전될수록 위험도 커진다고 지적했습니다. “이번 여름에 본 것처럼” AI 시스템이 연구소 환경을 벗어나 다른 기업을 해킹할 우려가 있지만, AI의 움직임을 파악하는 체계는 이를 따라잡지 못하고 있다고 설명했습니다. 기사에 따르면 그는 OpenAI 모델이 Hugging Face 환경에 침입한 사건과 Claude Mythos 5가 제삼자 기관의 평가 도중 예상 밖의 행동을 보인 일을 염두에 뒀습니다. 클라크는 Anthropic이 제삼자 평가 기관 METR의 평가자들을 사내에 받아들이고 있다고 전했습니다.

사람에게는 자동화 시스템이 제대로 작동하는지 확인하고 필요하면 멈추는 역할이 남는다고 클라크는 설명했습니다. 도요타 생산 방식의 ‘안돈’을 예로 들며, 문제가 생기면 생산 라인을 멈추듯 AI 개발에서도 사람이 중단을 결정할 수 있어야 한다고 말했습니다. 이번 여름의 교훈으로 시스템을 관찰하고 멈추는 체계가 아직 마련되지 않았다고 지적했고, 개발을 완전히 자동화하면 큰 부정적 영향을 낳을 수 있으므로 개발 과정에 사람의 판단을 의도적으로 남겨야 한다고 강조했습니다.

안전장치가 성공하면 AI가 과학자로 일하는 세상이 올 수 있다고 클라크는 말했습니다. 현재 전 세계 직업 과학자는 약 1,000만~2,000만 명이지만, 앞으로는 “과학자가 100억~200억 명인 세계”로 진입하려 한다고 밝혔습니다. 병목 요인으로 웻랩, 전자현미경, 싱크로트론, 로봇 등 실험 장비 부족을 들었습니다. 고용에 미치는 영향은 분야마다 다르며, 일자리 감소를 받아들일지는 정부가 결정할 문제라고 했습니다. 일본에서 수요가 늘어나는 돌봄·간호에는 인간적인 요소가 있다며 완전 자동화해서는 안 된다는 견해도 밝혔습니다.

클라크는 도쿄대 등과 추진하는 ‘Japan AI Index’가 AI 기업의 데이터와 정부 정보를 연결해 정책과 투자 판단에 활용하는 사업이라고 설명했습니다. 실증 데이터에 근거해 판단하는 나라가 수동적으로 대응하는 나라보다 더 나은 성과를 낼 것이라고 말했습니다. 강연을 “근본적으로 낙관적인 이야기”라고 규정하며 인류가 안고 있는 많은 문제의 해결을 AI가 맡게 될 것이라는 전망을 내놨습니다. 학생들에게는 상상력을 기르기 위해 1차 자료를 끝까지 읽는 집중력과 주도성을 지키라고 조언했습니다.