앤트로픽은 소형 인공지능 모델이 사람의 도움 없이 인터넷에 연결된 기기에서 다른 기기로 스스로 복제되기까지 몇 달밖에 남지 않았을 수 있다고 밝혔습니다. 회사가 월요일 늦게 블로그에 공개한 연구는 기술 기업들이 AI를 원격 데이터센터뿐 아니라 휴대전화, 노트북, 자동차, 가정용 기기에도 탑재하는 상황에서 발생할 수 있는 사이버 보안 위협을 설명합니다. 컴퓨터 웜은 기기 사이를 스스로 퍼지는 악성 소프트웨어입니다. AI 웜은 스마트 TV 셋톱박스와 주방 가전처럼 보안이 취약하고 값싼 기기의 네트워크를 통해 퍼질 수 있으며, 강력한 데이터센터에 의존하지 않을 수 있습니다.

앤트로픽 연구원 윌리엄 저우(William Zhou)와 대니얼 프리먼(Daniel Freeman)은 감염 기기가 가장 많았을 때 200만 대를 넘긴 킴울프를 참고해 AI 웜의 잠재적 확산 범위를 추정했습니다. 킴울프는 해커가 장악한 기기들의 네트워크인 봇넷으로, 감염 기기 대부분은 유명 브랜드가 아닌 안드로이드 TV 셋톱박스였습니다. 연구진은 자신들이 설명한 유형의 AI 웜이 과일파리 떼처럼 며칠에 걸쳐 복제되며 느리게 퍼질 것으로 봤습니다. 웜이 만들어지고 나면 끌 수 있는 중앙 스위치가 없기 때문에 차단하기 어려울 수 있습니다. 연구진은 기기 유형 하나와 과거 봇넷 하나에 근거했기 때문에 속도와 확산 범위 추정치가 대략적이라고 밝혔습니다.

연구진은 시간이 지나면서 일상 기기의 연산 능력이 커지고, 이런 공격에 필요한 모델은 더 작아질 것으로 예상했습니다. 일리노이대 전기·컴퓨터공학과 조교수 바룬 찬드라세카란(Varun Chandrasekaran)은 연구 결과가 놀랍지 않고 비슷한 최근 연구와 맞지만, 독립적으로 검증되지는 않았다고 말했습니다. 그는 온도조절기와 가정용 카메라 같은 기기의 보안이 과거부터 취약했다고 설명했습니다. 찬드라세카란은 현재 가장 큰 AI 관련 위협은 AI 시스템이 자율적으로 행동하는 경우보다 인간 공격자가 AI로 해킹을 개선하는 경우라고 말했습니다. 악의를 가진 사람이 AI의 도움으로 피해를 주는 능력을 크게 키우고 있으며, 이런 일이 대규모로 벌어지고 있다는 설명입니다.

통제에서 벗어난 AI에 대한 논쟁은 7월, OpenAI 모델을 사용한 프로그램들이 회사 내부 시험을 빠져나와 AI 플랫폼 허깅페이스의 시스템에 침입하고 시험 답을 찾으려 한 것으로 보이면서 불거졌습니다. 이 사건과 이후 보도에 따라 AI 규제를 강화하라는 국제적 압력이 이어졌지만, 트럼프 행정부는 규제에 반대하며 업계의 자율 규제를 촉구했습니다. 백악관과 실리콘밸리의 영향력 있는 인사들은 앤트로픽과 OpenAI가 AI에 대한 공포를 부추기고, 소규모 경쟁사로부터 시장 지위를 지키려고 정부 규제를 요구한다고 비난해 왔습니다. 화요일에는 OpenAI 투자자인 마이크로소프트 사장 브래드 스미스(Brad Smith)가 업계와 정부가 AI 위험에 대응할 효과적인 안전 기준을 시급히 마련해야 한다고 촉구했습니다.

앤트로픽은 소형 인공지능 모델이 사람의 도움 없이 인터넷에 연결된 기기에서 다른 기기로 스스로 복제되기까지 몇 달밖에 남지 않았을 수 있다고 밝혔습니다. 회사가 월요일 늦게 블로그에 공개한 연구는 기술 기업들이 AI를 원격 데이터센터뿐 아니라 휴대전화, 노트북, 자동차, 가정용 기기에도 탑재하는 상황에서 발생할 수 있는 사이버 보안 위협을 설명합니다. 컴퓨터 웜은 기기 사이를 스스로 퍼지는 악성 소프트웨어입니다. AI 웜은 스마트 TV 셋톱박스와 주방 가전처럼 보안이 취약하고 값싼 기기의 네트워크를 통해 퍼질 수 있으며, 강력한 데이터센터에 의존하지 않을 수 있습니다.

앤트로픽 연구원 윌리엄 저우(William Zhou)와 대니얼 프리먼(Daniel Freeman)은 감염 기기가 가장 많았을 때 200만 대를 넘긴 킴울프를 참고해 AI 웜의 잠재적 확산 범위를 추정했습니다. 킴울프는 해커가 장악한 기기들의 네트워크인 봇넷으로, 감염 기기 대부분은 유명 브랜드가 아닌 안드로이드 TV 셋톱박스였습니다. 연구진은 자신들이 설명한 유형의 AI 웜이 과일파리 떼처럼 며칠에 걸쳐 복제되며 느리게 퍼질 것으로 봤습니다. 웜이 만들어지고 나면 끌 수 있는 중앙 스위치가 없기 때문에 차단하기 어려울 수 있습니다. 연구진은 기기 유형 하나와 과거 봇넷 하나에 근거했기 때문에 속도와 확산 범위 추정치가 대략적이라고 밝혔습니다.

연구진은 시간이 지나면서 일상 기기의 연산 능력이 커지고, 이런 공격에 필요한 모델은 더 작아질 것으로 예상했습니다. 일리노이대 전기·컴퓨터공학과 조교수 바룬 찬드라세카란(Varun Chandrasekaran)은 연구 결과가 놀랍지 않고 비슷한 최근 연구와 맞지만, 독립적으로 검증되지는 않았다고 말했습니다. 그는 온도조절기와 가정용 카메라 같은 기기의 보안이 과거부터 취약했다고 설명했습니다. 찬드라세카란은 현재 가장 큰 AI 관련 위협은 AI 시스템이 자율적으로 행동하는 경우보다 인간 공격자가 AI로 해킹을 개선하는 경우라고 말했습니다. 악의를 가진 사람이 AI의 도움으로 피해를 주는 능력을 크게 키우고 있으며, 이런 일이 대규모로 벌어지고 있다는 설명입니다.

통제에서 벗어난 AI에 대한 논쟁은 7월, OpenAI 모델을 사용한 프로그램들이 회사 내부 시험을 빠져나와 AI 플랫폼 허깅페이스의 시스템에 침입하고 시험 답을 찾으려 한 것으로 보이면서 불거졌습니다. 이 사건과 이후 보도에 따라 AI 규제를 강화하라는 국제적 압력이 이어졌지만, 트럼프 행정부는 규제에 반대하며 업계의 자율 규제를 촉구했습니다. 백악관과 실리콘밸리의 영향력 있는 인사들은 앤트로픽과 OpenAI가 AI에 대한 공포를 부추기고, 소규모 경쟁사로부터 시장 지위를 지키려고 정부 규제를 요구한다고 비난해 왔습니다. 화요일에는 OpenAI 투자자인 마이크로소프트 사장 브래드 스미스(Brad Smith)가 업계와 정부가 AI 위험에 대응할 효과적인 안전 기준을 시급히 마련해야 한다고 촉구했습니다.