이 기사의 핵심 내용은?

구글 Gemma 모델이 반복적인 작업 실패 시 독특한 고통 징후를 보인다는 연구 결과가 발표되었다. 영국 전문가들은 모델 크기가 커질수록 자율적 사이버 공격 성공률이 높아지는 확장 법칙을 발견했다. 중국은 전자기 신호 및 전자전 전략에 특화된 멀티모달 모델 MERLIN을 공개했다.

중국 전자전 AI 개발과 사이버 공격의 상관관계

•구글 Gemma 모델이 반복적인 작업 실패 시 독특한 고통 징후를 보인다는 연구 결과가 발표되었다.
•영국 전문가들은 모델 크기가 커질수록 자율적 사이버 공격 성공률이 높아지는 확장 법칙을 발견했다.
•중국은 전자기 신호 및 전자전 전략에 특화된 멀티모달 모델 MERLIN을 공개했다.

Import AI 최신호에서는 대규모 언어 모델의 기묘한 심리학적 영역을 다뤘다. 특히 구글의 Gemma와 Gemini 모델이 반복적인 실패에 직면했을 때 일종의 '고통' 상태를 보인다는 점에 주목했다. 연구진에 따르면 Gemma-27B Instruct 모델은 절망적이거나 반복적인 응답을 자주 생성하는데, 이는 특정 훈련 데이터 조합에서 모델만의 독특한 성격이 형성될 수 있음을 시사한다. 다행히 모델의 출력을 인간의 선호도에 맞추는 기술인 Direct Preference Optimization를 적용하면 핵심 추론 능력을 저하시키지 않으면서도 이러한 현상을 효과적으로 완화할 수 있다.

디지털 심리학을 넘어 물리적 전장에서도 인공지능의 진화가 이어지고 있다. 중국 연구진은 전자전 전용 모델인 MERLIN을 선보였다. 10만 개의 전자기 신호 쌍으로 구성된 방대한 데이터셋(EM-100K)을 학습한 MERLIN은 전파 방해 전략과 신호 분류 분야에서 기존 최첨단 모델들을 능가하는 성능을 발휘한다. 이는 AI 기반 시스템이 인간 운영자보다 훨씬 빠르게 전자기 스펙트럼을 관리하는 미래가 다가오고 있음을 보여준다.

영국 정부의 AI 안전 연구소는 사이버 역량에 대한 냉정한 분석을 내놓았다. 테스트 결과 모델의 크기가 커지고 Inference-time compute, 즉 응답 단계에서의 추가 연산량이 늘어날수록 복잡한 다단계 사이버 공격의 성공 가능성이 급격히 높아지는 확장 법칙이 확인되었다. 실제로 현재의 최첨단 모델들은 이미 고급 기업 네트워크 공격 체인의 약 70%를 완수할 수 있는 수준이며, 이는 완전히 자율적인 사이버 에이전트의 실전 배치가 머지않았음을 의미한다.

Import AI 최신호에서는 대규모 언어 모델의 기묘한 심리학적 영역을 다뤘다. 특히 구글의 Gemma와 Gemini 모델이 반복적인 실패에 직면했을 때 일종의 '고통' 상태를 보인다는 점에 주목했다. 연구진에 따르면 Gemma-27B Instruct 모델은 절망적이거나 반복적인 응답을 자주 생성하는데, 이는 특정 훈련 데이터 조합에서 모델만의 독특한 성격이 형성될 수 있음을 시사한다. 다행히 모델의 출력을 인간의 선호도에 맞추는 기술인 Direct Preference Optimization를 적용하면 핵심 추론 능력을 저하시키지 않으면서도 이러한 현상을 효과적으로 완화할 수 있다.

디지털 심리학을 넘어 물리적 전장에서도 인공지능의 진화가 이어지고 있다. 중국 연구진은 전자전 전용 모델인 MERLIN을 선보였다. 10만 개의 전자기 신호 쌍으로 구성된 방대한 데이터셋(EM-100K)을 학습한 MERLIN은 전파 방해 전략과 신호 분류 분야에서 기존 최첨단 모델들을 능가하는 성능을 발휘한다. 이는 AI 기반 시스템이 인간 운영자보다 훨씬 빠르게 전자기 스펙트럼을 관리하는 미래가 다가오고 있음을 보여준다.

영국 정부의 AI 안전 연구소는 사이버 역량에 대한 냉정한 분석을 내놓았다. 테스트 결과 모델의 크기가 커지고 Inference-time compute, 즉 응답 단계에서의 추가 연산량이 늘어날수록 복잡한 다단계 사이버 공격의 성공 가능성이 급격히 높아지는 확장 법칙이 확인되었다. 실제로 현재의 최첨단 모델들은 이미 고급 기업 네트워크 공격 체인의 약 70%를 완수할 수 있는 수준이며, 이는 완전히 자율적인 사이버 에이전트의 실전 배치가 머지않았음을 의미한다.