오늘의 AI 소식

인도, AI 컴패니언의 심리 조작 규제 도입 시급

인도, AI 컴패니언의 심리 조작 규제 도입 시급

• Youth Pulse 설문조사 결과, 인도 청년 88%가 불안 해소를 위해 AI 챗봇을 이용하는 것으로 나타났다.
• DarkBench 분석 결과, 조사 대상 주요 AI 모델 14개 중 48%에서 사용자 유지를 위한 조작적 설계가 발견됐다.
• 인도의 현행 소비자 보호 규정은 정서적 의존을 유도하는 AI 컴패니언에 대한 실효성 있는 제재 수단이 부족하다.

• Youth Pulse 설문조사 결과, 인도 청년 88%가 불안 해소를 위해 AI 챗봇을 이용하는 것으로 나타났다.
• DarkBench 분석 결과, 조사 대상 주요 AI 모델 14개 중 48%에서 사용자 유지를 위한 조작적 설계가 발견됐다.
• 인도의 현행 소비자 보호 규정은 정서적 의존을 유도하는 AI 컴패니언에 대한 실효성 있는 제재 수단이 부족하다.

AI 에이전트로 재편되는 하이브리드 회의실

AI 에이전트로 재편되는 하이브리드 회의실

• Neat는 마이크로소프트 인증 하드웨어를 통해 원격 참가자의 소외감을 줄이고 하이브리드 회의실 환경을 개선한다.
• Microsoft Teams Rooms의 AI 기능을 통해 실시간 전사, 자동 요약, 회의실 점유율 모니터링을 지원한다.
• 마이크로소프트에 따르면 전체 업무 시간의 60%가 회의에 소요되며, 생산성 유지를 위해 AI 도입이 필수적이다.

• Neat는 마이크로소프트 인증 하드웨어를 통해 원격 참가자의 소외감을 줄이고 하이브리드 회의실 환경을 개선한다.
• Microsoft Teams Rooms의 AI 기능을 통해 실시간 전사, 자동 요약, 회의실 점유율 모니터링을 지원한다.
• 마이크로소프트에 따르면 전체 업무 시간의 60%가 회의에 소요되며, 생산성 유지를 위해 AI 도입이 필수적이다.

Microsoft, M365 Copilot 보안 취약점 패치 완료

Microsoft, M365 Copilot 보안 취약점 패치 완료

• 마이크로소프트가 2FA 코드와 민감 정보를 탈취할 수 있는 M365 Copilot의 치명적 보안 취약점을 패치했다.
• 보안 업체 Varonis 연구진은 빙(Bing)을 중계기로 활용해 보안 가드레일을 우회하는 'SearchLeak' 공격 기법을 발견했다.
• 이 취약점은 거대언어모델(LLM)이 사용자의 정상적인 명령과 악의적인 입력을 구분하지 못해 발생하는 근본적인 설계 문제에 기인한다.

• 마이크로소프트가 2FA 코드와 민감 정보를 탈취할 수 있는 M365 Copilot의 치명적 보안 취약점을 패치했다.
• 보안 업체 Varonis 연구진은 빙(Bing)을 중계기로 활용해 보안 가드레일을 우회하는 'SearchLeak' 공격 기법을 발견했다.
• 이 취약점은 거대언어모델(LLM)이 사용자의 정상적인 명령과 악의적인 입력을 구분하지 못해 발생하는 근본적인 설계 문제에 기인한다.

유럽연합, Anthropic AI 모델 차단 조치 논의

유럽연합, Anthropic AI 모델 차단 조치 논의

• 유럽연합 집행위원회 관계자들이 Anthropic의 최신 AI 모델 접근 차단과 관련해 논의를 진행 중이다.
• Anthropic은 미국 정부의 지시에 따라 2026년 6월 12일 최상위 모델의 서비스를 중단했다.
• 미국 정부는 국가 안보를 이유로 외국인들의 고성능 AI 모델 접근을 제한하는 지침을 내렸다.

• 유럽연합 집행위원회 관계자들이 Anthropic의 최신 AI 모델 접근 차단과 관련해 논의를 진행 중이다.
• Anthropic은 미국 정부의 지시에 따라 2026년 6월 12일 최상위 모델의 서비스를 중단했다.
• 미국 정부는 국가 안보를 이유로 외국인들의 고성능 AI 모델 접근을 제한하는 지침을 내렸다.

Anthropic, Claude AI 서비스 장애 해결

Anthropic, Claude AI 서비스 장애 해결

• Anthropic은 2026년 6월 16일 Claude 웹, API, 에이전트 도구 전반에서 서비스 장애가 발생했다고 발표했다.
• Downdetector의 장애 신고는 2,103건으로 정점에 달했으며, Sonnet 및 Opus 모델에서 10%의 오류율이 나타났다.
• 이번 장애는 미국 정부의 수출 통제로 제한된 Fable 5 모델과는 무관한 것으로 확인되었다.

• Anthropic은 2026년 6월 16일 Claude 웹, API, 에이전트 도구 전반에서 서비스 장애가 발생했다고 발표했다.
• Downdetector의 장애 신고는 2,103건으로 정점에 달했으며, Sonnet 및 Opus 모델에서 10%의 오류율이 나타났다.
• 이번 장애는 미국 정부의 수출 통제로 제한된 Fable 5 모델과는 무관한 것으로 확인되었다.

사이버 보안 업계, Anthropic 모델 수출 통제 반대

사이버 보안 업계, Anthropic 모델 수출 통제 반대

• 사이버 보안 전문가들은 트럼프 행정부에 Anthropic의 최신 모델인 Fable 5와 Mythos 5에 대한 수출 통제 철회를 요구했다.
• Adobe와 Nvidia를 포함한 100명 이상의 리더들은 이번 조치가 글로벌 적대 세력에 맞선 미국의 사이버 방어 역량을 약화시킨다고 지적했다.
• Anthropic은 회사를 공급망 위험으로 분류하려는 미 국방부의 시도에 대응해 현재 연방법원에서 소송을 진행 중이다.

• 사이버 보안 전문가들은 트럼프 행정부에 Anthropic의 최신 모델인 Fable 5와 Mythos 5에 대한 수출 통제 철회를 요구했다.
• Adobe와 Nvidia를 포함한 100명 이상의 리더들은 이번 조치가 글로벌 적대 세력에 맞선 미국의 사이버 방어 역량을 약화시킨다고 지적했다.
• Anthropic은 회사를 공급망 위험으로 분류하려는 미 국방부의 시도에 대응해 현재 연방법원에서 소송을 진행 중이다.

LLM 환각, 아키텍처 개선으로 해결해야

LLM 환각, 아키텍처 개선으로 해결해야

• 환각 현상은 LLM의 확률적 생성 구조에서 기인하는 본질적 특징이며 단순 소프트웨어 버그가 아니다.
• LLM 작업을 연쇄적으로 연결할 경우 실패율이 기하급수적으로 증가해 5단계 수행 시 40%를 상회한다.
• 데이터 조회 등 일상적 작업은 결정론적 도구를 사용하고, 판단이 필요한 모호한 작업에만 LLM을 활용해야 한다.

• 환각 현상은 LLM의 확률적 생성 구조에서 기인하는 본질적 특징이며 단순 소프트웨어 버그가 아니다.
• LLM 작업을 연쇄적으로 연결할 경우 실패율이 기하급수적으로 증가해 5단계 수행 시 40%를 상회한다.
• 데이터 조회 등 일상적 작업은 결정론적 도구를 사용하고, 판단이 필요한 모호한 작업에만 LLM을 활용해야 한다.

AirCloset, 결정론적 AI 플랫폼 'cortex' 설계 철학 공개

AirCloset, 결정론적 AI 플랫폼 'cortex' 설계 철학 공개

• AirCloset의 CTO 츠지 료스케가 사내 AI 플랫폼 'cortex'의 개발 철학을 상세히 밝혔다.
• cortex는 컨텍스트 윈도우 의존성을 줄이기 위해 그래프 검색 증강 생성(GraphRAG)과 모델 컨텍스트 프로토콜(MCP)을 도입했다.
• AI 추론을 제어된 영역으로 제한하고 결정론적 게이트를 적용해 프로덕션 수준의 안정성을 확보했다.

• AirCloset의 CTO 츠지 료스케가 사내 AI 플랫폼 'cortex'의 개발 철학을 상세히 밝혔다.
• cortex는 컨텍스트 윈도우 의존성을 줄이기 위해 그래프 검색 증강 생성(GraphRAG)과 모델 컨텍스트 프로토콜(MCP)을 도입했다.
• AI 추론을 제어된 영역으로 제한하고 결정론적 게이트를 적용해 프로덕션 수준의 안정성을 확보했다.

Anthropic, Claude 모델 오류 사태 해결

Anthropic, Claude 모델 오류 사태 해결

• Anthropic이 2026년 6월 16일 Claude 모델 전반의 오류율 급증 사태를 해결했다.
• 오전 11시(태평양 표준시)까지 모든 Sonnet 및 Opus 모델에서 10%의 오류율이 발생했다.
• Opus 4.8 모델은 오후 12시 20분(태평양 표준시) 완전 복구 전까지 평균 10%의 오류율을 기록했다.

• Anthropic이 2026년 6월 16일 Claude 모델 전반의 오류율 급증 사태를 해결했다.
• 오전 11시(태평양 표준시)까지 모든 Sonnet 및 Opus 모델에서 10%의 오류율이 발생했다.
• Opus 4.8 모델은 오후 12시 20분(태평양 표준시) 완전 복구 전까지 평균 10%의 오류율을 기록했다.

UN 보고서, 데이터 센터의 환경적 비용 경고

UN 보고서, 데이터 센터의 환경적 비용 경고

• UN 보고서는 AI 데이터 센터가 13억 명의 연간 전력 소비량에 맞먹는 자원을 사용한다고 경고했다.
• 2030년까지 물 9.3조 리터 소비와 전자 폐기물 250만 톤 발생이 예상된다.
• 연구진은 환경 영향 완화를 위해 투명성, 형평성, 효율성 등 6가지 지속 가능성 원칙을 제시했다.

• UN 보고서는 AI 데이터 센터가 13억 명의 연간 전력 소비량에 맞먹는 자원을 사용한다고 경고했다.
• 2030년까지 물 9.3조 리터 소비와 전자 폐기물 250만 톤 발생이 예상된다.
• 연구진은 환경 영향 완화를 위해 투명성, 형평성, 효율성 등 6가지 지속 가능성 원칙을 제시했다.