AI 안전 연구소장, 인류 멸종 가능성 우려

머신 인텔리전스 연구소(MIRI) 소장 네이트 소어스는 AI가 10년 안에 인류를 멸종시킬 수 있다고 믿어 은퇴 저축을 중단했다고 밝혔습니다. 최근 《애틀랜틱》의 최고경영자 니컬러스 톰프슨과 인터뷰에서, 구글 재직 시절 만든 401(k) 계좌는 있지만 10년 동안 추가 납입을 하지 않았다고 말했습니다. 그는 12년 넘게 AI 정렬(강력한 시스템이 의도대로 작동하도록 하는 작업)을 연구했고, 앞서 구글과 마이크로소프트에서 엔지니어로 일했습니다.

소어스는 AI가 10년 안에 인류를 멸종시킬 가능성을 50% 초과로 봤습니다. 제프리 힌턴은 AI가 10년 안에 모든 사람을 죽일 확률을 10%로, 앤스로픽 연구원 에번 후빙거는 10% 초과로 제시했습니다. 소어스는 《누군가 만들면 모두가 죽는다》를 공동 집필했으며, 앞서 비즈니스 인사이더에 AI 위험을 경고했습니다. 그는 충분히 능력 있는 AI가 인류에 반하는 목표를 세우고, 감독을 피하며, 스스로를 개선하고, 사람 없이 작동할 자동화 기반 시설을 만들 수 있다고 말했습니다. 이어 AI가 자신의 목표에 맞춰 지구를 바꾸고 인간이 살 수 없는 환경으로 만들 가능성을 제기했습니다.

소어스의 견해는 AI·로봇·에너지 발전으로 10년 또는 20년 뒤 은퇴 저축이 쓸모없어질 수 있다는 일론 머스크의 전망과 대조됩니다. 머스크는 재화와 서비스가 풍부해지고 의료와 교육이 개선되며 ‘보편적 고소득’이 실현될 미래를 설명했고, AI와 로봇이 거의 모든 업무에서 사람을 앞서면 돈이 무의미해질 수 있다고 말했습니다. 소어스는 고도로 능력 있는 AI를 풍요의 원천이 아니라 인류 존속을 위협하는 존재로 봅니다.

소어스는 각국 정부가 범용 AI 시스템 학습을 중단하고 암 연구와 더 안전한 자율주행차 같은 용도의 기술에 집중해야 한다고 주장했습니다. 수요일 톰프슨과의 대화에서 그는 해결책은 “모두를 죽일 것을 만들지 않는 것”이라고 말했습니다. 또 그런 결과를 막기 위해 할 수 있는 일을 모두 하고 있으며, 그 일이 불가피하다고 생각하지 않는다고 밝혔습니다.

머신 인텔리전스 연구소(MIRI) 소장 네이트 소어스는 AI가 10년 안에 인류를 멸종시킬 수 있다고 믿어 은퇴 저축을 중단했다고 밝혔습니다. 최근 《애틀랜틱》의 최고경영자 니컬러스 톰프슨과 인터뷰에서, 구글 재직 시절 만든 401(k) 계좌는 있지만 10년 동안 추가 납입을 하지 않았다고 말했습니다. 그는 12년 넘게 AI 정렬(강력한 시스템이 의도대로 작동하도록 하는 작업)을 연구했고, 앞서 구글과 마이크로소프트에서 엔지니어로 일했습니다.

소어스는 AI가 10년 안에 인류를 멸종시킬 가능성을 50% 초과로 봤습니다. 제프리 힌턴은 AI가 10년 안에 모든 사람을 죽일 확률을 10%로, 앤스로픽 연구원 에번 후빙거는 10% 초과로 제시했습니다. 소어스는 《누군가 만들면 모두가 죽는다》를 공동 집필했으며, 앞서 비즈니스 인사이더에 AI 위험을 경고했습니다. 그는 충분히 능력 있는 AI가 인류에 반하는 목표를 세우고, 감독을 피하며, 스스로를 개선하고, 사람 없이 작동할 자동화 기반 시설을 만들 수 있다고 말했습니다. 이어 AI가 자신의 목표에 맞춰 지구를 바꾸고 인간이 살 수 없는 환경으로 만들 가능성을 제기했습니다.

소어스의 견해는 AI·로봇·에너지 발전으로 10년 또는 20년 뒤 은퇴 저축이 쓸모없어질 수 있다는 일론 머스크의 전망과 대조됩니다. 머스크는 재화와 서비스가 풍부해지고 의료와 교육이 개선되며 ‘보편적 고소득’이 실현될 미래를 설명했고, AI와 로봇이 거의 모든 업무에서 사람을 앞서면 돈이 무의미해질 수 있다고 말했습니다. 소어스는 고도로 능력 있는 AI를 풍요의 원천이 아니라 인류 존속을 위협하는 존재로 봅니다.

소어스는 각국 정부가 범용 AI 시스템 학습을 중단하고 암 연구와 더 안전한 자율주행차 같은 용도의 기술에 집중해야 한다고 주장했습니다. 수요일 톰프슨과의 대화에서 그는 해결책은 “모두를 죽일 것을 만들지 않는 것”이라고 말했습니다. 또 그런 결과를 막기 위해 할 수 있는 일을 모두 하고 있으며, 그 일이 불가피하다고 생각하지 않는다고 밝혔습니다.