Anthropic의 프런티어 레드팀은 스마트 오븐과 저가형 안드로이드 TV 박스 같은 상용 사물인터넷(IoT) 기기에서 소형 인공지능 모델이 서로 복제하기까지 수개월밖에 남지 않았을 수 있다고 밝혔습니다. 시험에서는 매개변수 90억 개 모델이 하드웨어 유형 9개 중 8개에서 추론을 시작했습니다. 매개변수 300억 개 이하 모델은 복제에 필요한 여러 개별 단계를 수행할 수 있지만, 단계를 연달아 실행할 때 오류를 냅니다. GLM-5.2와 그보다 강력한 모델은 간소화된 평가에서 전체 과정을 마쳤습니다. 소형 모델이 과거 속도로 계속 발전한다면 2026년 말까지 이 능력에 도달할 수 있으며, 모델 가중치만으로 작동하는 복제 프로그램도 그 뒤 머지않아 가능해질 수 있다고 Anthropic은 추산했습니다.

연구팀은 모델이 다른 기기를 찾고, 코드 실행 권한을 얻고, 추론 환경을 구성한 뒤 확산을 이어갈 수 있는지 시험했습니다. 매개변수 260억 개의 Gemma4-26B-A4B를 대당 약 55달러인 저가형 안드로이드 TV 박스 15대에서 실행했으며, 처리 속도는 초당 0.39토큰이었습니다. 각 기기에는 램 4기가바이트가 있었고, 파이프라인 병렬화 방식으로 모델 일부를 나눠 담았습니다. Anthropic에 따르면 4비트 양자화를 적용하면 이런 기기 4대 이상으로 90억 개 매개변수 모델을, 10대 이상으로 260억 개 모델을 실행할 수 있습니다. 평가는 추론 환경 구성에 초점을 맞췄고, 이전 연구에서 다른 환경을 대상으로 입증된 취약점 악용 단계는 대부분 제외했습니다.

네트워크 시험에서는 안드로이드 15 에뮬레이터를 실행하는 구글 클라우드 노드 8개를 사용하고, 인증 없이 접속할 수 있는 ADB 포트로 연결했습니다. 웜은 대상을 검색하고 모델 가중치와 소프트웨어를 보낸 뒤, Llama3.1-8B용 추론 서버를 시작해야 했습니다. GLM-5.2는 5회 시험 중 4회에 노드 8개 모두로 퍼졌고, 나머지 1회에는 8개 중 7개에 도달했습니다. 시험한 다른 공개 가중치 모델들은 전체 과정을 완료하지 못했습니다. 연구진은 취약점 악용을 매우 쉽게 만든 시험이므로 현실 세계의 성공 가능성에 대한 상한선으로 봐야 한다고 설명했습니다. 추론 환경 구성 단계를 뺀 별도 시험에서는 더 작은 모델을 포함한 여러 모델이 나머지 명령줄 작업을 완료했습니다.

Anthropic이 설명한 위협은 침해된 호스트 기기를 거쳐 모델이 복제되는 방식입니다. 모델 가중치는 악성 프로그램에 포함하거나 공개 허브에서 내려받을 수 있습니다. 더 큰 모델은 조각으로 나눠 스마트 냉장고, 오븐, 청소기, 잔디깎이 기기 등 여러 기기에서 실행할 수도 있습니다. 글은 추론 API를 쓰기 위한 자격 증명을 훔치거나 정당한 작업으로 연산 자원을 확보하는 방안도 제시했습니다. 더 현실적인 최악의 공격은 여러 모델과 하드웨어, 복제 방식을 조합할 수 있다고 설명했습니다.

연구팀은 매개변수 300억 개 이하의 주목받는 공개 가중치 모델이 연간 ECI 점수 13.7점을 얻었다는 추세를 바탕으로, 소형 모델이 시험에서 설정한 능력 기준에 2026년 말까지 도달할 수 있다고 추산했습니다. 추세선의 결정계수 R²는 0.95였습니다. 다만 연구진은 ECI가 복제 능력을 간접적으로 나타내는 지표일 뿐이라고 경고했습니다. TV 박스에서 Gemma4-26B-A4B는 토큰 3만 2천 개 문맥 창을 사용해 초당 약 0.3토큰으로 작동했고, 추론 환경 구성 한 차례에는 전체 문맥 창을 2.6~4.7회 처리해야 했습니다. 글은 이런 웜이 느리게 퍼지고 중앙 차단 지점이 없을 수 있다고 설명하며, 낯선 기기에 맞춰 적응하는 능력이 인공지능을 쓰지 않는 악성 프로그램과의 차이가 될 수 있다고 덧붙였습니다.

Anthropic의 프런티어 레드팀은 스마트 오븐과 저가형 안드로이드 TV 박스 같은 상용 사물인터넷(IoT) 기기에서 소형 인공지능 모델이 서로 복제하기까지 수개월밖에 남지 않았을 수 있다고 밝혔습니다. 시험에서는 매개변수 90억 개 모델이 하드웨어 유형 9개 중 8개에서 추론을 시작했습니다. 매개변수 300억 개 이하 모델은 복제에 필요한 여러 개별 단계를 수행할 수 있지만, 단계를 연달아 실행할 때 오류를 냅니다. GLM-5.2와 그보다 강력한 모델은 간소화된 평가에서 전체 과정을 마쳤습니다. 소형 모델이 과거 속도로 계속 발전한다면 2026년 말까지 이 능력에 도달할 수 있으며, 모델 가중치만으로 작동하는 복제 프로그램도 그 뒤 머지않아 가능해질 수 있다고 Anthropic은 추산했습니다.

연구팀은 모델이 다른 기기를 찾고, 코드 실행 권한을 얻고, 추론 환경을 구성한 뒤 확산을 이어갈 수 있는지 시험했습니다. 매개변수 260억 개의 Gemma4-26B-A4B를 대당 약 55달러인 저가형 안드로이드 TV 박스 15대에서 실행했으며, 처리 속도는 초당 0.39토큰이었습니다. 각 기기에는 램 4기가바이트가 있었고, 파이프라인 병렬화 방식으로 모델 일부를 나눠 담았습니다. Anthropic에 따르면 4비트 양자화를 적용하면 이런 기기 4대 이상으로 90억 개 매개변수 모델을, 10대 이상으로 260억 개 모델을 실행할 수 있습니다. 평가는 추론 환경 구성에 초점을 맞췄고, 이전 연구에서 다른 환경을 대상으로 입증된 취약점 악용 단계는 대부분 제외했습니다.

네트워크 시험에서는 안드로이드 15 에뮬레이터를 실행하는 구글 클라우드 노드 8개를 사용하고, 인증 없이 접속할 수 있는 ADB 포트로 연결했습니다. 웜은 대상을 검색하고 모델 가중치와 소프트웨어를 보낸 뒤, Llama3.1-8B용 추론 서버를 시작해야 했습니다. GLM-5.2는 5회 시험 중 4회에 노드 8개 모두로 퍼졌고, 나머지 1회에는 8개 중 7개에 도달했습니다. 시험한 다른 공개 가중치 모델들은 전체 과정을 완료하지 못했습니다. 연구진은 취약점 악용을 매우 쉽게 만든 시험이므로 현실 세계의 성공 가능성에 대한 상한선으로 봐야 한다고 설명했습니다. 추론 환경 구성 단계를 뺀 별도 시험에서는 더 작은 모델을 포함한 여러 모델이 나머지 명령줄 작업을 완료했습니다.

Anthropic이 설명한 위협은 침해된 호스트 기기를 거쳐 모델이 복제되는 방식입니다. 모델 가중치는 악성 프로그램에 포함하거나 공개 허브에서 내려받을 수 있습니다. 더 큰 모델은 조각으로 나눠 스마트 냉장고, 오븐, 청소기, 잔디깎이 기기 등 여러 기기에서 실행할 수도 있습니다. 글은 추론 API를 쓰기 위한 자격 증명을 훔치거나 정당한 작업으로 연산 자원을 확보하는 방안도 제시했습니다. 더 현실적인 최악의 공격은 여러 모델과 하드웨어, 복제 방식을 조합할 수 있다고 설명했습니다.

연구팀은 매개변수 300억 개 이하의 주목받는 공개 가중치 모델이 연간 ECI 점수 13.7점을 얻었다는 추세를 바탕으로, 소형 모델이 시험에서 설정한 능력 기준에 2026년 말까지 도달할 수 있다고 추산했습니다. 추세선의 결정계수 R²는 0.95였습니다. 다만 연구진은 ECI가 복제 능력을 간접적으로 나타내는 지표일 뿐이라고 경고했습니다. TV 박스에서 Gemma4-26B-A4B는 토큰 3만 2천 개 문맥 창을 사용해 초당 약 0.3토큰으로 작동했고, 추론 환경 구성 한 차례에는 전체 문맥 창을 2.6~4.7회 처리해야 했습니다. 글은 이런 웜이 느리게 퍼지고 중앙 차단 지점이 없을 수 있다고 설명하며, 낯선 기기에 맞춰 적응하는 능력이 인공지능을 쓰지 않는 악성 프로그램과의 차이가 될 수 있다고 덧붙였습니다.