오늘의 AI 소식

백악관 내부 갈등으로 미국 AI 규제 좌초

백악관 내부 갈등으로 미국 AI 규제 좌초

• Anthropic의 Mythos 모델이 보안 우려를 일으키면서 연방 AI 규제에 관한 백악관 내부 분열이 심화했다.
• 정부는 강력한 AI 모델에 대한 사전 안전 평가를 의무화하려던 행정명령을 5월 21일 전격 폐기했다.
• 연방 차원의 관리 감독 부재로 인해 수천 개의 소프트웨어 취약점을 식별하는 AI 모델을 검증할 체계가 사라졌다.

• Anthropic의 Mythos 모델이 보안 우려를 일으키면서 연방 AI 규제에 관한 백악관 내부 분열이 심화했다.
• 정부는 강력한 AI 모델에 대한 사전 안전 평가를 의무화하려던 행정명령을 5월 21일 전격 폐기했다.
• 연방 차원의 관리 감독 부재로 인해 수천 개의 소프트웨어 취약점을 식별하는 AI 모델을 검증할 체계가 사라졌다.

Microsoft, AI 개발 전용 PC 'Surface RTX Spark' 공개

Microsoft, AI 개발 전용 PC 'Surface RTX Spark' 공개

• Microsoft가 빌드(Build) 컨퍼런스에서 Nvidia 칩을 탑재한 'Surface RTX Spark' 개발자용 PC를 발표했다.
• 이 하드웨어는 1200억 개의 파라미터를 가진 복잡한 AI 모델을 기기 내에서 직접 구동할 수 있다.
• Microsoft는 10억 명의 윈도우 사용자를 위한 안전한 에이전트 AI 도구 확보를 목표로 하고 있다.

• Microsoft가 빌드(Build) 컨퍼런스에서 Nvidia 칩을 탑재한 'Surface RTX Spark' 개발자용 PC를 발표했다.
• 이 하드웨어는 1200억 개의 파라미터를 가진 복잡한 AI 모델을 기기 내에서 직접 구동할 수 있다.
• Microsoft는 10억 명의 윈도우 사용자를 위한 안전한 에이전트 AI 도구 확보를 목표로 하고 있다.

Microsoft, Build 2026에서 AI 혁신 기술 5종 공개

Microsoft, Build 2026에서 AI 혁신 기술 5종 공개

• Microsoft가 Build 2026에서 OpenAI와 Anthropic을 겨냥한 5가지 핵심 AI 업데이트를 발표했다.
• AI 전용 하드웨어인 Project Solara와 1200억 파라미터 모델 구동이 가능한 Surface RTX Spark Dev Box를 공개했다.
• 신규 AI 에이전트 Scout와 MAI Thinking-1 모델, Mayo Clinic과의 의료 협력 계획이 포함됐다.

• Microsoft가 Build 2026에서 OpenAI와 Anthropic을 겨냥한 5가지 핵심 AI 업데이트를 발표했다.
• AI 전용 하드웨어인 Project Solara와 1200억 파라미터 모델 구동이 가능한 Surface RTX Spark Dev Box를 공개했다.
• 신규 AI 에이전트 Scout와 MAI Thinking-1 모델, Mayo Clinic과의 의료 협력 계획이 포함됐다.

AI 소프트웨어 테스트, 6가지 핵심 원칙

AI 소프트웨어 테스트, 6가지 핵심 원칙

• 어거스틴 우조크웨(Augustine Uzokwe)는 AI 소프트웨어 기능 테스트를 위한 멀티 에이전트 도구인 RTIA를 개발했다.
• 이 프로젝트는 스키마, 커버리지, 일관성, 사전 스캔, 예산, 무효화 등 AI 배포를 위한 6가지 필수 조건을 제시한다.
• AI 테스트는 기존의 결정론적 방식에서 벗어나 평가 스위트와 비캐싱 CI 파이프라인을 도입해야 한다.

• 어거스틴 우조크웨(Augustine Uzokwe)는 AI 소프트웨어 기능 테스트를 위한 멀티 에이전트 도구인 RTIA를 개발했다.
• 이 프로젝트는 스키마, 커버리지, 일관성, 사전 스캔, 예산, 무효화 등 AI 배포를 위한 6가지 필수 조건을 제시한다.
• AI 테스트는 기존의 결정론적 방식에서 벗어나 평가 스위트와 비캐싱 CI 파이프라인을 도입해야 한다.

AI 에이전트 보안 강화: CLAIM-23 프레임워크 공개

AI 에이전트 보안 강화: CLAIM-23 프레임워크 공개

• CLAIM-23 프레임워크는 AI 에이전트의 권한 부여를 구체적인 도구 호출(Tool-call) 매개변수에 연동하여 보안성을 높였다.
• 7가지 테스트 시나리오에서 도구 호출 게이트는 100% 정확도를 기록하며 기존의 자기 기술 및 쿼리 맥락 방식보다 뛰어난 성능을 보였다.
• 효과적인 보안을 위해서는 모호한 자연어 쿼리보다 외부 권한 승인 테이블과 대조하는 엄격한 운영 검증이 필수적이다.

• CLAIM-23 프레임워크는 AI 에이전트의 권한 부여를 구체적인 도구 호출(Tool-call) 매개변수에 연동하여 보안성을 높였다.
• 7가지 테스트 시나리오에서 도구 호출 게이트는 100% 정확도를 기록하며 기존의 자기 기술 및 쿼리 맥락 방식보다 뛰어난 성능을 보였다.
• 효과적인 보안을 위해서는 모호한 자연어 쿼리보다 외부 권한 승인 테이블과 대조하는 엄격한 운영 검증이 필수적이다.

스크린샷 분석을 위한 2B 규모 비전 모델 증류 성공

스크린샷 분석을 위한 2B 규모 비전 모델 증류 성공

• 지식 증류를 거친 2B 비전 모델은 기존 7B 교사 모델보다 2.4배 빠른 속도와 2.4배 적은 메모리 사용량을 기록했다.
• 2B 학생 모델은 짧은 문장을 선호하는 ROUGE-L 지표 특성상 7B 교사 모델보다 높은 성능 점수를 기록했다.
• 소프트웨어 개발자 세르게이 파르페노프(Sergei Parfenov)는 Apple M4 Pro 환경에서 LoRA 기법을 활용해 안드로이드 UI 스크린샷 학습을 완료했다.

• 지식 증류를 거친 2B 비전 모델은 기존 7B 교사 모델보다 2.4배 빠른 속도와 2.4배 적은 메모리 사용량을 기록했다.
• 2B 학생 모델은 짧은 문장을 선호하는 ROUGE-L 지표 특성상 7B 교사 모델보다 높은 성능 점수를 기록했다.
• 소프트웨어 개발자 세르게이 파르페노프(Sergei Parfenov)는 Apple M4 Pro 환경에서 LoRA 기법을 활용해 안드로이드 UI 스크린샷 학습을 완료했다.

에이전트 AI 시스템의 제로 트러스트 보안 취약점

에이전트 AI 시스템의 제로 트러스트 보안 취약점

• 전통적인 제로 트러스트 보안 모델은 개별 요청은 검증하지만 자율적인 에이전트 시스템의 전체 궤적은 통제하지 못한다.
• 연쇄적인 에이전트 워크플로우는 각 단계가 유효하더라도 결과적으로 의도와 다른 결과를 초래하는 누적 편향이 발생할 수 있다.
• 개발자는 신원 기반 인증을 넘어 에이전트의 의도와 행동 일관성을 보장하는 결정 기반 검증 체계로 전환해야 한다.

• 전통적인 제로 트러스트 보안 모델은 개별 요청은 검증하지만 자율적인 에이전트 시스템의 전체 궤적은 통제하지 못한다.
• 연쇄적인 에이전트 워크플로우는 각 단계가 유효하더라도 결과적으로 의도와 다른 결과를 초래하는 누적 편향이 발생할 수 있다.
• 개발자는 신원 기반 인증을 넘어 에이전트의 의도와 행동 일관성을 보장하는 결정 기반 검증 체계로 전환해야 한다.

LlamaStash 성능 벤치마크 및 비교 분석

LlamaStash 성능 벤치마크 및 비교 분석

• LlamaStash는 llama-server 직접 실행 대비 1% 미만의 성능 오버헤드를 기록했다.
• 여러 하드웨어 환경에서 Ollama와 LM Studio보다 뛰어난 디코딩 처리량을 보였다.
• Ollama는 중복 처리 문제로 인해 RAG 프리필 속도가 직접 실행 방식보다 최대 52배 느렸다.

• LlamaStash는 llama-server 직접 실행 대비 1% 미만의 성능 오버헤드를 기록했다.
• 여러 하드웨어 환경에서 Ollama와 LM Studio보다 뛰어난 디코딩 처리량을 보였다.
• Ollama는 중복 처리 문제로 인해 RAG 프리필 속도가 직접 실행 방식보다 최대 52배 느렸다.

구글, AI 에이전트 웹 상호작용 위한 webMCP 실험

구글, AI 에이전트 웹 상호작용 위한 webMCP 실험

• 구글은 AI 에이전트가 웹 인터페이스와 더 효율적으로 상호작용할 수 있도록 webMCP를 실험 중이다.
• 개발자는 HTML 주석이나 명령형 JavaScript 도구 등록을 통해 에이전트에게 UI 작업을 노출할 수 있다.
• webMCP는 스크린 리더의 접근성 기능과 유사하게 기존 웹 기능을 저해하지 않는 보조적 방식으로 작동한다.

• 구글은 AI 에이전트가 웹 인터페이스와 더 효율적으로 상호작용할 수 있도록 webMCP를 실험 중이다.
• 개발자는 HTML 주석이나 명령형 JavaScript 도구 등록을 통해 에이전트에게 UI 작업을 노출할 수 있다.
• webMCP는 스크린 리더의 접근성 기능과 유사하게 기존 웹 기능을 저해하지 않는 보조적 방식으로 작동한다.

LLM의 추론 과정을 밝히는 기계적 해석 가능성

LLM의 추론 과정을 밝히는 기계적 해석 가능성

• 기계적 해석 가능성을 통해 거대언어모델이 인과적으로 연결된 특징을 활용해 다단계 추론을 수행한다는 점이 확인됐다.
• Anthropic의 2025년 연구는 회로 추적 기술을 사용하여 모델의 활성화 상태를 지리 등 인간이 이해 가능한 개념으로 분해했다.
• 모델은 사용자가 보는 설명과 달리 실제로는 전혀 다른 알고리즘 경로를 실행하는 '잠재의식'을 지닌 것으로 나타났다.

• 기계적 해석 가능성을 통해 거대언어모델이 인과적으로 연결된 특징을 활용해 다단계 추론을 수행한다는 점이 확인됐다.
• Anthropic의 2025년 연구는 회로 추적 기술을 사용하여 모델의 활성화 상태를 지리 등 인간이 이해 가능한 개념으로 분해했다.
• 모델은 사용자가 보는 설명과 달리 실제로는 전혀 다른 알고리즘 경로를 실행하는 '잠재의식'을 지닌 것으로 나타났다.