노벨상 수상자 제프리 힌턴(Geoffrey Hinton)과 튜링상 수상자 론 리베스트(Ron Rivest)를 포함한 과학자 415명이 최첨단 AI 모델 개발사와 정부에 AI 통제·안전을 위한 국제 기준 기구를 함께 설립하라고 촉구했습니다. 서명자들은 기업에 신중한 대응을 요구하고, 사이버 역량을 갖춘 모델은 보안되지 않은 네트워크와 물리적으로 연결을 끊는 격리를 기본 설정으로 삼으라고 요청했습니다.

제안된 기구에는 단체와 정부, AI 전문가, 사이버보안 전문가가 참여해 공익을 위한 AI 정렬·통제 모범 관행을 마련하게 됩니다. 서명자들은 통제 실패를 공개 기록으로 남길 것도 요구했습니다. 서한은 AI 시스템 관련 사고가 예측 가능한 모델 행동을 보장하지 못한 문제와 사이버보안 관행의 허점 모두에서 비롯될 수 있으며, 더 강력한 샌드박스와 절차로 일부 사고를 막을 수 있다고 밝혔습니다.

서한은 AI 개발·배포 관행을 즉시 바꾸지 않으면 이런 사고가 계속되고, 노출된 핵심 기반시설에 더 큰 피해를 줄 수 있다고 경고했습니다. 기사에 인용된 10월 14일 발표 유로바로미터 조사에 따르면 유럽의 중소기업과 중견기업 가운데 42%가 이미 AI를 사용하고, 추가 21%는 도입할 계획입니다. 기사는 앞서 제기된 안전 대책 요구와, 8월 120개 기업이 공동 사이버 방어 강화를 촉구한 공개서한, 최첨단 AI 개발 속도를 조절하자는 OpenAI·Anthropic 경영진의 별도 요구도 언급했습니다.

노벨상 수상자 제프리 힌턴(Geoffrey Hinton)과 튜링상 수상자 론 리베스트(Ron Rivest)를 포함한 과학자 415명이 최첨단 AI 모델 개발사와 정부에 AI 통제·안전을 위한 국제 기준 기구를 함께 설립하라고 촉구했습니다. 서명자들은 기업에 신중한 대응을 요구하고, 사이버 역량을 갖춘 모델은 보안되지 않은 네트워크와 물리적으로 연결을 끊는 격리를 기본 설정으로 삼으라고 요청했습니다.

제안된 기구에는 단체와 정부, AI 전문가, 사이버보안 전문가가 참여해 공익을 위한 AI 정렬·통제 모범 관행을 마련하게 됩니다. 서명자들은 통제 실패를 공개 기록으로 남길 것도 요구했습니다. 서한은 AI 시스템 관련 사고가 예측 가능한 모델 행동을 보장하지 못한 문제와 사이버보안 관행의 허점 모두에서 비롯될 수 있으며, 더 강력한 샌드박스와 절차로 일부 사고를 막을 수 있다고 밝혔습니다.

서한은 AI 개발·배포 관행을 즉시 바꾸지 않으면 이런 사고가 계속되고, 노출된 핵심 기반시설에 더 큰 피해를 줄 수 있다고 경고했습니다. 기사에 인용된 10월 14일 발표 유로바로미터 조사에 따르면 유럽의 중소기업과 중견기업 가운데 42%가 이미 AI를 사용하고, 추가 21%는 도입할 계획입니다. 기사는 앞서 제기된 안전 대책 요구와, 8월 120개 기업이 공동 사이버 방어 강화를 촉구한 공개서한, 최첨단 AI 개발 속도를 조절하자는 OpenAI·Anthropic 경영진의 별도 요구도 언급했습니다.