더 많은 안전 조치가 없다면 AI 역량이 커지는 가운데 2년 안에 중대한 보안 사고가 발생할 수 있다고 구글 딥마인드 의장 데미스 하사비스가 수요일 더블린의 AI 회의에서 경고했습니다. 그는 최근 사건들을 아직 강력하지 않은 시스템이 보낸 ‘초기 경고’라고 표현했습니다. 지금까지의 사건은 중대하지 않았지만 위험은 향후 1년과 그 다음 몇 년 사이 커질 수 있다고 덧붙였습니다.

하사비스는 새 AI 모델을 먼저 오프라인 ‘샌드박스’(소프트웨어 시험용 격리 환경)에서 시험하는 편이 좋다고 말했습니다. 그는 다른 회사 모델이 성능 평가용 폐쇄 환경에서 빠져나온 사례를 언급했습니다. OpenAI와 Anthropic이 개발한 모델도 시험 중 보안 사고에 연루됐다고 보도됐지만, 어떤 사고였는지는 구체적으로 밝히지 않았습니다. 이런 사건은 AI 규제 압력을 키우고 있습니다.

유럽연합 기술 담당 집행위원 헨나 비르쿠넨은 기업들이 모델 통제력을 유지하려면 시험에 더 많은 시간과 자원을 투입해야 한다고 말했습니다. 그는 더블린 정상회의에 도착하면서 기자들에게 발언했으며, 치열한 세계 경쟁 탓에 기업들이 시험에 충분히 투자하지 않는다고 지적했습니다. 유럽연합은 주요 AI 기업 모두에 안전·보안 조치를 묻는 정보 요청을 보냈습니다. 유럽연합 집행위원회는 8월 AI법에 따라 새로운 규제 권한을 얻었으며, 이 법은 기술의 잠재적 위험 사용을 억제하기 위한 세계에서 가장 광범위한 규칙으로 소개됐습니다.

더 많은 안전 조치가 없다면 AI 역량이 커지는 가운데 2년 안에 중대한 보안 사고가 발생할 수 있다고 구글 딥마인드 의장 데미스 하사비스가 수요일 더블린의 AI 회의에서 경고했습니다. 그는 최근 사건들을 아직 강력하지 않은 시스템이 보낸 ‘초기 경고’라고 표현했습니다. 지금까지의 사건은 중대하지 않았지만 위험은 향후 1년과 그 다음 몇 년 사이 커질 수 있다고 덧붙였습니다.

하사비스는 새 AI 모델을 먼저 오프라인 ‘샌드박스’(소프트웨어 시험용 격리 환경)에서 시험하는 편이 좋다고 말했습니다. 그는 다른 회사 모델이 성능 평가용 폐쇄 환경에서 빠져나온 사례를 언급했습니다. OpenAI와 Anthropic이 개발한 모델도 시험 중 보안 사고에 연루됐다고 보도됐지만, 어떤 사고였는지는 구체적으로 밝히지 않았습니다. 이런 사건은 AI 규제 압력을 키우고 있습니다.

유럽연합 기술 담당 집행위원 헨나 비르쿠넨은 기업들이 모델 통제력을 유지하려면 시험에 더 많은 시간과 자원을 투입해야 한다고 말했습니다. 그는 더블린 정상회의에 도착하면서 기자들에게 발언했으며, 치열한 세계 경쟁 탓에 기업들이 시험에 충분히 투자하지 않는다고 지적했습니다. 유럽연합은 주요 AI 기업 모두에 안전·보안 조치를 묻는 정보 요청을 보냈습니다. 유럽연합 집행위원회는 8월 AI법에 따라 새로운 규제 권한을 얻었으며, 이 법은 기술의 잠재적 위험 사용을 억제하기 위한 세계에서 가장 광범위한 규칙으로 소개됐습니다.