오늘날 SNS를 통해 퍼지는 허위 및 조작된 정보는 단순한 정보의 오염을 넘어 사회적 분열을 조장하고 국가 안보까지 위협하는 심각한 문제다. 이러한 상황에서 일본의 AI 스타트업 Sakana AI가 총무성 위탁 사업을 통해 정보의 시각화부터 대응 시뮬레이션까지 아우르는 혁신적인 해결책을 제시했다.

가장 주목할 기술은 자체 개발한 '노벨티 서치'이다. 기존의 SNS 분석이 단순 노출 수나 키워드 기반의 집계에 머물렀던 것과 달리, 이 기술은 AI 에이전트가 자율적으로 데이터를 수집해 사회적으로 영향력 있는 특정 논조(내러티브)를 추출한다. 이를 통해 방대한 데이터 속에서 단순한 노이즈가 아닌, 사회적 논란의 불씨가 될 만한 정보를 효율적으로 식별하고 직관적으로 시각화할 수 있다.

또한 정교해지는 가짜 뉴스에 대응하기 위해 멀티모달 검증 시스템을 도입했다. 여러 감지 모델을 조합해 생성형 AI가 만든 조작 흔적을 찾아내는 것은 물론, AI 에이전트가 직접 웹 정보를 검색하고 교차 검증하도록 설계되었다. 이는 인간 전문가의 팩트체크 과정을 디지털 환경에서 구현한 것으로, 정보가 왜 '가짜'로 판명되었는지 그 근거를 투명하게 제시한다.

이번 시스템의 핵심은 대응 방안을 설계하는 '대응 시뮬레이션' 단계에 있다. Sakana AI는 ABM을 활용해 가상 SNS 공간을 구축했다. 'Shachi'라는 자체 표준화 프레임워크로 특정 논조에 쉽게 반응하는 가상 페르소나를 대량 생성하여 정보 확산을 시뮬레이션함으로써, 대응 메시지가 실제 사용자들에게 어떤 심리적 변화를 일으킬지 미리 예측할 수 있게 되었다.

이번 성과는 단순한 기술 진보를 넘어 인텔리전스 영역에서 기술적 자립의 중요성을 보여주었다는 데 큰 가치가 있다. AI가 사회의 방어선이 되는 이러한 시도는 디지털 사회의 안전보장을 재정의할 가능성을 품고 있다. 미래의 AI 도입을 고민하는 학생들에게는 이 시스템이 사회의 건전성을 보호하는 인프라로서 어떤 역할을 할 수 있는지 깊이 고민해 볼 좋은 사례가 될 것이다.

오늘날 SNS를 통해 퍼지는 허위 및 조작된 정보는 단순한 정보의 오염을 넘어 사회적 분열을 조장하고 국가 안보까지 위협하는 심각한 문제다. 이러한 상황에서 일본의 AI 스타트업 Sakana AI가 총무성 위탁 사업을 통해 정보의 시각화부터 대응 시뮬레이션까지 아우르는 혁신적인 해결책을 제시했다.

가장 주목할 기술은 자체 개발한 '노벨티 서치'이다. 기존의 SNS 분석이 단순 노출 수나 키워드 기반의 집계에 머물렀던 것과 달리, 이 기술은 AI 에이전트가 자율적으로 데이터를 수집해 사회적으로 영향력 있는 특정 논조(내러티브)를 추출한다. 이를 통해 방대한 데이터 속에서 단순한 노이즈가 아닌, 사회적 논란의 불씨가 될 만한 정보를 효율적으로 식별하고 직관적으로 시각화할 수 있다.

또한 정교해지는 가짜 뉴스에 대응하기 위해 멀티모달 검증 시스템을 도입했다. 여러 감지 모델을 조합해 생성형 AI가 만든 조작 흔적을 찾아내는 것은 물론, AI 에이전트가 직접 웹 정보를 검색하고 교차 검증하도록 설계되었다. 이는 인간 전문가의 팩트체크 과정을 디지털 환경에서 구현한 것으로, 정보가 왜 '가짜'로 판명되었는지 그 근거를 투명하게 제시한다.

이번 시스템의 핵심은 대응 방안을 설계하는 '대응 시뮬레이션' 단계에 있다. Sakana AI는 ABM을 활용해 가상 SNS 공간을 구축했다. 'Shachi'라는 자체 표준화 프레임워크로 특정 논조에 쉽게 반응하는 가상 페르소나를 대량 생성하여 정보 확산을 시뮬레이션함으로써, 대응 메시지가 실제 사용자들에게 어떤 심리적 변화를 일으킬지 미리 예측할 수 있게 되었다.

이번 성과는 단순한 기술 진보를 넘어 인텔리전스 영역에서 기술적 자립의 중요성을 보여주었다는 데 큰 가치가 있다. AI가 사회의 방어선이 되는 이러한 시도는 디지털 사회의 안전보장을 재정의할 가능성을 품고 있다. 미래의 AI 도입을 고민하는 학생들에게는 이 시스템이 사회의 건전성을 보호하는 인프라로서 어떤 역할을 할 수 있는지 깊이 고민해 볼 좋은 사례가 될 것이다.