‘AI의 대부’로 자주 불리는 제프리 힌턴(Geoffrey Hinton)은 8월 7일 발행된 International Business Times 보도에서 더 똑똑한 모델이 사람이 통제하기 어려워지면서 AI의 최악 위험이 아직 앞에 있을 수 있다고 경고했다. 해당 보도는 점점 더 강력해지는 AI 시스템과 통제 문제, 즉 고도화된 시스템이 인간의 의도대로 행동하도록 보장하기 어려운 문제를 중심에 놓았다.

보도에 따르면 힌턴은 모델의 지능이 높아질수록 더 강력한 모델을 관리하기 어려워질 수 있다고 우려했다. 제목의 “the worst is yet to come”이라는 경고는 미래 AI 모델이 현재 시스템보다 감독하거나 제한하거나 안정적으로 지시하기 더 어려워질 수 있다는 위험에 맞춰져 있다.

같은 IBTimes 페이지는 힌턴의 경고를 다른 AI 위험 및 프런티어 모델 관련 보도와 함께 배치했다. 여기에는 AI가 곧 인간 개입 없이 스스로 개선될 수 있다는 주장, AI 모델의 해킹 능력이 좋아지고 있다는 내용, 구글 DeepMind가 생물보안 위험에 대비하고 있다는 보도가 포함됐다. 또한 해당 페이지는 OpenAI, xAI, Palantir, 마이크로소프트, 아마존, Hugging Face, Goldman Sachs, Lenovo와 관련된 사업 및 인프라 관점도 나열했지만, 제공된 기사 텍스트의 중심 항목은 힌턴의 통제 위험 경고다.

제공된 텍스트에는 벤치마크 점수, 기술 사양, 정책 제안의 세부 내용이 없다. 확인 가능한 사실은 발행일, 더 똑똑한 AI 모델이 통제하기 어려워질 수 있다는 힌턴의 우려, 그리고 그의 경고가 AI 안전, 프런티어 모델, 자율 사이버공격, 생물보안, AI 인프라 보도와 함께 묶였다는 페이지 맥락이다.

‘AI의 대부’로 자주 불리는 제프리 힌턴(Geoffrey Hinton)은 8월 7일 발행된 International Business Times 보도에서 더 똑똑한 모델이 사람이 통제하기 어려워지면서 AI의 최악 위험이 아직 앞에 있을 수 있다고 경고했다. 해당 보도는 점점 더 강력해지는 AI 시스템과 통제 문제, 즉 고도화된 시스템이 인간의 의도대로 행동하도록 보장하기 어려운 문제를 중심에 놓았다.

보도에 따르면 힌턴은 모델의 지능이 높아질수록 더 강력한 모델을 관리하기 어려워질 수 있다고 우려했다. 제목의 “the worst is yet to come”이라는 경고는 미래 AI 모델이 현재 시스템보다 감독하거나 제한하거나 안정적으로 지시하기 더 어려워질 수 있다는 위험에 맞춰져 있다.

같은 IBTimes 페이지는 힌턴의 경고를 다른 AI 위험 및 프런티어 모델 관련 보도와 함께 배치했다. 여기에는 AI가 곧 인간 개입 없이 스스로 개선될 수 있다는 주장, AI 모델의 해킹 능력이 좋아지고 있다는 내용, 구글 DeepMind가 생물보안 위험에 대비하고 있다는 보도가 포함됐다. 또한 해당 페이지는 OpenAI, xAI, Palantir, 마이크로소프트, 아마존, Hugging Face, Goldman Sachs, Lenovo와 관련된 사업 및 인프라 관점도 나열했지만, 제공된 기사 텍스트의 중심 항목은 힌턴의 통제 위험 경고다.

제공된 텍스트에는 벤치마크 점수, 기술 사양, 정책 제안의 세부 내용이 없다. 확인 가능한 사실은 발행일, 더 똑똑한 AI 모델이 통제하기 어려워질 수 있다는 힌턴의 우려, 그리고 그의 경고가 AI 안전, 프런티어 모델, 자율 사이버공격, 생물보안, AI 인프라 보도와 함께 묶였다는 페이지 맥락이다.