OpenAI가 최첨단 인공지능 개발 속도를 늦추는 방안을 검토하고 있다. 사내 전체 비공개 회의 내용을 아는 사람들에 따르면, 샘 알트먼(Sam Altman) CEO는 이번 주 직원들에게 ChatGPT 개발사인 OpenAI가 여러 AI 연구소와 보조를 맞춰 개발을 진행할 수 있다고 말했다. 알트먼은 일부 연구소가 조율에 동의하지 않을 수 있다고 했으며, OpenAI는 논평을 거부했다.

이번 논의는 주요 AI 기업 직원들이 고도화된 AI 시스템의 위험을 공개적으로 경고한 뒤 나왔다. 보도에 따르면 OpenAI와 경쟁사 Anthropic PBC는 올해 초 기업공개를 위한 비공개 서류를 제출했다.

OpenAI의 최고 과학자인 야쿠브 파초츠키(Jakub Pachocki)는 최근 AI 위험을 경고하며, AI 기업들이 필요할 경우 미래 개발 속도를 늦추도록 “조율해야 한다”고 썼다. OpenAI는 안전 우려 때문에 모델 개발 일부를 늦추고 내부 AI 훈련 일부를 중단했다고 밝혔다. 알트먼은 7월 백악관 관계자들과 AI 개발 속도 조절 필요성을 논의했다고 말했다.

화요일 AI 연구자 제이콥 콕슨(Jacob Coxon)은 직장을 그만두며 전 고용주인 Anthropic과 OpenAI가 초지능 AI를 향해 경쟁하면서 “우리 삶을 걸고 도박하고 있다”고 비판했다. 콕슨은 AI를 만드는 사람들이 AI가 “10년이 끝나기 전 우리 모두를 죽일 수 있다”고 믿는다고 말했으며, 그의 게시물은 조회수 1억5,000만 회 이상을 기록하고 의원들과 공인의 관심을 끌었다.

목요일 Anthropic과 Google DeepMind를 최근 떠난 연구자 2명도 AI 위험에 관한 투명성을 더 높여야 한다고 요구했다. 7월 말에는 주요 AI 기업 직원 1,000명 이상이 AI 개발 속도를 늦출 장치를 요구하는 청원에 서명했으며, 최근 몇 달 동안 주요 연구소의 안전 담당 직원 여러 명이 사임했다.

OpenAI가 최첨단 인공지능 개발 속도를 늦추는 방안을 검토하고 있다. 사내 전체 비공개 회의 내용을 아는 사람들에 따르면, 샘 알트먼(Sam Altman) CEO는 이번 주 직원들에게 ChatGPT 개발사인 OpenAI가 여러 AI 연구소와 보조를 맞춰 개발을 진행할 수 있다고 말했다. 알트먼은 일부 연구소가 조율에 동의하지 않을 수 있다고 했으며, OpenAI는 논평을 거부했다.

이번 논의는 주요 AI 기업 직원들이 고도화된 AI 시스템의 위험을 공개적으로 경고한 뒤 나왔다. 보도에 따르면 OpenAI와 경쟁사 Anthropic PBC는 올해 초 기업공개를 위한 비공개 서류를 제출했다.

OpenAI의 최고 과학자인 야쿠브 파초츠키(Jakub Pachocki)는 최근 AI 위험을 경고하며, AI 기업들이 필요할 경우 미래 개발 속도를 늦추도록 “조율해야 한다”고 썼다. OpenAI는 안전 우려 때문에 모델 개발 일부를 늦추고 내부 AI 훈련 일부를 중단했다고 밝혔다. 알트먼은 7월 백악관 관계자들과 AI 개발 속도 조절 필요성을 논의했다고 말했다.

화요일 AI 연구자 제이콥 콕슨(Jacob Coxon)은 직장을 그만두며 전 고용주인 Anthropic과 OpenAI가 초지능 AI를 향해 경쟁하면서 “우리 삶을 걸고 도박하고 있다”고 비판했다. 콕슨은 AI를 만드는 사람들이 AI가 “10년이 끝나기 전 우리 모두를 죽일 수 있다”고 믿는다고 말했으며, 그의 게시물은 조회수 1억5,000만 회 이상을 기록하고 의원들과 공인의 관심을 끌었다.

목요일 Anthropic과 Google DeepMind를 최근 떠난 연구자 2명도 AI 위험에 관한 투명성을 더 높여야 한다고 요구했다. 7월 말에는 주요 AI 기업 직원 1,000명 이상이 AI 개발 속도를 늦출 장치를 요구하는 청원에 서명했으며, 최근 몇 달 동안 주요 연구소의 안전 담당 직원 여러 명이 사임했다.