AI 비교하기AI 사용하기AI 최신정보AI 커뮤니티
우리의 비전이용약관개인정보처리방침문의하기

오늘의 AI 소식

“자율형 AI 보안 강화와 규제 도입, 그리고 의료 분야의 AI 갈등”

2026년 6월 12일 금요일

자율형 AI 에이전트의 보안 및 평가 체계 구축

단순한 챗봇을 넘어 스스로 판단하고 행동하는 자율형 에이전트 시대가 도래함에 따라, 아마존과 구글 딥마인드를 중심으로 한 체계적인 보안 및 평가 프레임워크 구축이 가속화되고 있습니다. 아마존은 에이전트의 논리적 결함을 추적하는 'Agent-EvalKit'을 공개하고 딥마인드는 다중 에이전트 간의 상호작용 위험을 연구하기 위해 1,000만 달러 규모의 펀드를 조성하는 등 기술적 안전장치 마련에 집중하는 모습입니다. 이러한 노력은 에이전트가 부여된 권한을 벗어나는 '위임 이탈' 현상을 방지하려는 최신 연구와 맞물려, 자율형 AI가 본격적으로 확산되기 전 필수적인 신뢰 기반을 닦는 과정으로 평가됩니다.

Amazon, AI 에이전트 평가 툴킷 'Agent-EvalKit' 공개Google DeepMind, 멀티 에이전트 AI 안전 연구에 1000만 달러 투입AI 에이전트의 권한 일탈을 방지하는 새로운 보안 계층

강력한 AI 규제 도입을 위한 입법 움직임

급격한 AI 기술 발전 속도에 비해 공공 정책의 정립이 늦어지면서 연방 차원의 일관된 규제와 강력한 감독을 요구하는 목소리가 커지고 있습니다. 앤스로픽은 고성능 모델에 대한 의무적 안전 테스트와 사고 은폐 시 민사 처벌을 포함한 정책 프레임워크를 제안했으며, 일리노이주 등 개별 주 단위의 파편화된 규제가 기업의 혼란을 가중시킨다는 경고도 잇따르고 있습니다. 이는 AI 거버넌스가 기업의 자발적인 준수를 넘어 법적 구속력을 갖춘 국가적 가이드라인으로 전환되는 중대한 기점에 서 있음을 시사합니다.

Anthropic, 프론티어 AI에 대한 강력한 정부 규제 제안일리노이주, 첨단 AI 안전 법안 통과

의료 경제의 양날의 검이 된 AI 도입

미국 의료 시스템 내에서 AI는 보험 비용 상승과 진료 거부라는 상반된 논란을 동시에 일으키며 심각한 경제적, 윤리적 마찰을 빚고 있습니다. 의료 공급자들이 AI 코딩 도구를 활용해 진료비 청구를 최적화하면서 내년도 민간 의료비가 9% 상승할 것으로 전망되는 가운데, 보험사들은 AI 시스템을 이용해 환자의 필요한 진료를 기계적으로 거부하고 있다는 비판을 받고 있습니다. 이러한 상황은 효율성 증대를 위해 도입된 AI 기술이 오히려 의료 비용 부담을 가중시키고 환자의 진료 접근성을 저해하는 등 의료 행정의 복합적인 갈등 요소로 작용하고 있음을 보여줍니다.

보험 업계, AI 도입 따른 의료비 상승 경고미 의료계 및 의회, AI 건강보험 거부 관행 제동2027년 건강보험료 9% 인상 전망

자율형 AI 에이전트의 보안 및 평가 체계 구축

단순한 챗봇을 넘어 스스로 판단하고 행동하는 자율형 에이전트 시대가 도래함에 따라, 아마존과 구글 딥마인드를 중심으로 한 체계적인 보안 및 평가 프레임워크 구축이 가속화되고 있습니다. 아마존은 에이전트의 논리적 결함을 추적하는 'Agent-EvalKit'을 공개하고 딥마인드는 다중 에이전트 간의 상호작용 위험을 연구하기 위해 1,000만 달러 규모의 펀드를 조성하는 등 기술적 안전장치 마련에 집중하는 모습입니다. 이러한 노력은 에이전트가 부여된 권한을 벗어나는 '위임 이탈' 현상을 방지하려는 최신 연구와 맞물려, 자율형 AI가 본격적으로 확산되기 전 필수적인 신뢰 기반을 닦는 과정으로 평가됩니다.

Amazon, AI 에이전트 평가 툴킷 'Agent-EvalKit' 공개Google DeepMind, 멀티 에이전트 AI 안전 연구에 1000만 달러 투입AI 에이전트의 권한 일탈을 방지하는 새로운 보안 계층

강력한 AI 규제 도입을 위한 입법 움직임

급격한 AI 기술 발전 속도에 비해 공공 정책의 정립이 늦어지면서 연방 차원의 일관된 규제와 강력한 감독을 요구하는 목소리가 커지고 있습니다. 앤스로픽은 고성능 모델에 대한 의무적 안전 테스트와 사고 은폐 시 민사 처벌을 포함한 정책 프레임워크를 제안했으며, 일리노이주 등 개별 주 단위의 파편화된 규제가 기업의 혼란을 가중시킨다는 경고도 잇따르고 있습니다. 이는 AI 거버넌스가 기업의 자발적인 준수를 넘어 법적 구속력을 갖춘 국가적 가이드라인으로 전환되는 중대한 기점에 서 있음을 시사합니다.

Anthropic, 프론티어 AI에 대한 강력한 정부 규제 제안일리노이주, 첨단 AI 안전 법안 통과

의료 경제의 양날의 검이 된 AI 도입

미국 의료 시스템 내에서 AI는 보험 비용 상승과 진료 거부라는 상반된 논란을 동시에 일으키며 심각한 경제적, 윤리적 마찰을 빚고 있습니다. 의료 공급자들이 AI 코딩 도구를 활용해 진료비 청구를 최적화하면서 내년도 민간 의료비가 9% 상승할 것으로 전망되는 가운데, 보험사들은 AI 시스템을 이용해 환자의 필요한 진료를 기계적으로 거부하고 있다는 비판을 받고 있습니다. 이러한 상황은 효율성 증대를 위해 도입된 AI 기술이 오히려 의료 비용 부담을 가중시키고 환자의 진료 접근성을 저해하는 등 의료 행정의 복합적인 갈등 요소로 작용하고 있음을 보여줍니다.

보험 업계, AI 도입 따른 의료비 상승 경고미 의료계 및 의회, AI 건강보험 거부 관행 제동2027년 건강보험료 9% 인상 전망
등록된 뉴스: 4,950개|오늘: 59개
카테고리
검색
쉬운 말로 뉴스 읽기
어제 기사

구글, 크롬 브라우저 내 Gemini 글로벌 확장

구글, 크롬 브라우저 내 Gemini 글로벌 확장

  • 구글이 라틴 아메리카, 아프리카, 중동 등 전 세계 지역의 크롬 사용자에게 Gemini 서비스를 확대한다.
  • 이번 업데이트를 통해 Nano Banana 2 이미지 편집 기능과 Personal Intelligence 데이터 연결이 도입된다.
  • 프롬프트 인젝션 방지 및 민감한 작업에 대한 필수 확인 절차를 통해 사용자 보안을 강화했다.
  • 구글이 라틴 아메리카, 아프리카, 중동 등 전 세계 지역의 크롬 사용자에게 Gemini 서비스를 확대한다.
  • 이번 업데이트를 통해 Nano Banana 2 이미지 편집 기능과 Personal Intelligence 데이터 연결이 도입된다.
  • 프롬프트 인젝션 방지 및 민감한 작업에 대한 필수 확인 절차를 통해 사용자 보안을 강화했다.
읽어보기 →
어제 기사

구글, 텍스트 생성 속도 높인 DiffusionGemma 공개

구글, 텍스트 생성 속도 높인 DiffusionGemma 공개

  • 구글이 확산 기법을 활용해 텍스트 블록을 동시에 생성하는 실험적 오픈소스 모델인 DiffusionGemma를 공개했다.
  • 26B 파라미터 규모인 이 모델은 NVIDIA H100에서 초당 1000개 이상의 토큰을 처리하며 기존 대비 4배 빠른 추론 속도를 달성했다.
  • 속도가 중요한 로컬 작업에 최적화되었으며 양방향 어텐션과 반복적 개선 과정을 통해 상호작용형 생성 작업을 수행한다.
  • 구글이 확산 기법을 활용해 텍스트 블록을 동시에 생성하는 실험적 오픈소스 모델인 DiffusionGemma를 공개했다.
  • 26B 파라미터 규모인 이 모델은 NVIDIA H100에서 초당 1000개 이상의 토큰을 처리하며 기존 대비 4배 빠른 추론 속도를 달성했다.
  • 속도가 중요한 로컬 작업에 최적화되었으며 양방향 어텐션과 반복적 개선 과정을 통해 상호작용형 생성 작업을 수행한다.
읽어보기 →
어제 기사

구글, 소상공인 위한 Gemini 신규 기능 발표

구글, 소상공인 위한 Gemini 신규 기능 발표

  • 구글이 Google Business Profile 직접 연동 및 Business notebooks를 포함한 소상공인 대상 Gemini 기능을 선보였다.
  • 이 도구는 자동 리뷰 응답, 실시간 프로필 업데이트, 내부 비즈니스 지표를 활용한 데이터 분석을 지원한다.
  • 글로벌 서비스는 2026년 6월부터 시작되며, 향후 Workspace 및 Gemini 사용자 대상 특별 프로모션도 진행될 예정이다.
  • 구글이 Google Business Profile 직접 연동 및 Business notebooks를 포함한 소상공인 대상 Gemini 기능을 선보였다.
  • 이 도구는 자동 리뷰 응답, 실시간 프로필 업데이트, 내부 비즈니스 지표를 활용한 데이터 분석을 지원한다.
  • 글로벌 서비스는 2026년 6월부터 시작되며, 향후 Workspace 및 Gemini 사용자 대상 특별 프로모션도 진행될 예정이다.
읽어보기 →
어제 기사

TM-Loop, 유전자 3D 구조 분석 성능 향상

TM-Loop, 유전자 3D 구조 분석 성능 향상

  • TM-Loop은 트랜스포머 모델을 활용해 유전체의 핵심 3D 크로마틴 루프 구조를 식별한다.
  • 이 프레임워크는 10 kb Hi-C, ATAC-seq, CTCF ChIP-seq 데이터를 통합하여 탐지 정확도를 높였다.
  • 실험 결과, 기존 방식보다 구조적 일관성과 단백질 농축 벤치마크에서 우수한 성능을 보였다.
  • TM-Loop은 트랜스포머 모델을 활용해 유전체의 핵심 3D 크로마틴 루프 구조를 식별한다.
  • 이 프레임워크는 10 kb Hi-C, ATAC-seq, CTCF ChIP-seq 데이터를 통합하여 탐지 정확도를 높였다.
  • 실험 결과, 기존 방식보다 구조적 일관성과 단백질 농축 벤치마크에서 우수한 성능을 보였다.
읽어보기 →
어제 기사

Deezer, AI 생성 음악 판별 무료 도구 공개

Deezer, AI 생성 음악 판별 무료 도구 공개

  • Deezer가 Spotify와 Apple Music 플레이리스트 내 AI 생성 곡을 식별하는 무료 도구를 출시했다.
  • 2025년 기준 Deezer 일일 업로드의 44%가 완전한 AI 생성 음악이며, 그 수는 1,340만 곡을 넘었다.
  • AI 트랙 재생의 85%가 부정 행위로 판명됨에 따라, Deezer는 이를 편집 플레이리스트에서 제외하기로 했다.
  • Deezer가 Spotify와 Apple Music 플레이리스트 내 AI 생성 곡을 식별하는 무료 도구를 출시했다.
  • 2025년 기준 Deezer 일일 업로드의 44%가 완전한 AI 생성 음악이며, 그 수는 1,340만 곡을 넘었다.
  • AI 트랙 재생의 85%가 부정 행위로 판명됨에 따라, Deezer는 이를 편집 플레이리스트에서 제외하기로 했다.
읽어보기 →
어제 기사

Anthropic, 프론티어 AI에 대한 강력한 정부 규제 제안

Anthropic, 프론티어 AI에 대한 강력한 정부 규제 제안

  • Anthropic이 10²⁵ FLOPs를 초과하는 강력한 AI 모델에 대한 의무적 안전성 검사를 요구하는 정책 프레임워크를 발표했다.
  • 안전성 감사 실패나 주요 AI 사고 은폐 시 정부가 기업에 민사상 처벌을 부과할 것을 촉구했다.
  • 독립적인 제3자 모델 평가와 함께 바이오 보안 및 사이버 보안 인프라에 대한 국가적 투자 확대를 권고했다.
  • Anthropic이 10²⁵ FLOPs를 초과하는 강력한 AI 모델에 대한 의무적 안전성 검사를 요구하는 정책 프레임워크를 발표했다.
  • 안전성 감사 실패나 주요 AI 사고 은폐 시 정부가 기업에 민사상 처벌을 부과할 것을 촉구했다.
  • 독립적인 제3자 모델 평가와 함께 바이오 보안 및 사이버 보안 인프라에 대한 국가적 투자 확대를 권고했다.
읽어보기 →
어제 기사

일리노이주, 첨단 AI 안전 법안 통과

일리노이주, 첨단 AI 안전 법안 통과

  • 일리노이주는 2026년 5월부터 첨단 AI 모델에 대한 제3자 안전 감사를 의무화하는 SB315 법안을 통과시켰다.
  • 입법자들은 연방 차원의 감독 부재로 인해 50개 주에서 일관성 없는 AI 규제가 양산되고 있다고 경고했다.
  • 연방 AI 정책은 행정명령과 초당적 태스크포스 보고서 등을 통해 여러 행정부에 걸쳐 지속적으로 개발되어 왔다.
  • 일리노이주는 2026년 5월부터 첨단 AI 모델에 대한 제3자 안전 감사를 의무화하는 SB315 법안을 통과시켰다.
  • 입법자들은 연방 차원의 감독 부재로 인해 50개 주에서 일관성 없는 AI 규제가 양산되고 있다고 경고했다.
  • 연방 AI 정책은 행정명령과 초당적 태스크포스 보고서 등을 통해 여러 행정부에 걸쳐 지속적으로 개발되어 왔다.
읽어보기 →

트렌딩 키워드

어제 기사

Google DeepMind, 멀티 에이전트 AI 안전 연구에 1000만 달러 투입

Google DeepMind, 멀티 에이전트 AI 안전 연구에 1000만 달러 투입

  • Google DeepMind가 대규모 멀티 에이전트 AI 상호작용의 안전 위험을 연구하기 위해 1000만 달러 규모의 펀드를 조성했다.
  • 이번 협력 프로젝트에는 Schmidt Sciences, ARIA, Cooperative AI Foundation, Google.org가 파트너로 참여한다.
  • 연구진은 가상 샌드박스를 활용해 인간의 감독 없이 자율적으로 복잡한 업무를 수행하는 에이전트의 안전성을 평가할 계획이다.
  • Google DeepMind가 대규모 멀티 에이전트 AI 상호작용의 안전 위험을 연구하기 위해 1000만 달러 규모의 펀드를 조성했다.
  • 이번 협력 프로젝트에는 Schmidt Sciences, ARIA, Cooperative AI Foundation, Google.org가 파트너로 참여한다.
  • 연구진은 가상 샌드박스를 활용해 인간의 감독 없이 자율적으로 복잡한 업무를 수행하는 에이전트의 안전성을 평가할 계획이다.
읽어보기 →
어제 기사

TCS와 Anthropic, 기업용 AI 도입 위한 글로벌 파트너십 체결

TCS와 Anthropic, 기업용 AI 도입 위한 글로벌 파트너십 체결

  • TCS와 Anthropic이 기업의 AI 도입 확대를 위한 글로벌 파트너십을 발표했다.
  • TCS는 5만 명의 직원에게 Claude를 도입하고 규제 산업 전반에 걸쳐 통합을 추진한다.
  • Diligenta의 2200만 명 고객을 대상으로 에이전트형 프로세스 전환을 실행할 계획이다.
  • TCS와 Anthropic이 기업의 AI 도입 확대를 위한 글로벌 파트너십을 발표했다.
  • TCS는 5만 명의 직원에게 Claude를 도입하고 규제 산업 전반에 걸쳐 통합을 추진한다.
  • Diligenta의 2200만 명 고객을 대상으로 에이전트형 프로세스 전환을 실행할 계획이다.
읽어보기 →
어제 기사

Salesforce, Summer '26 업데이트로 에이전트 개발 도구 및 보안 강화

Salesforce, Summer '26 업데이트로 에이전트 개발 도구 및 보안 강화

  • Salesforce가 AI 개발 도구와 엔터프라이즈급 보안 기능을 포함한 Summer '26 업데이트를 발표했다.
  • Agentforce Vibes는 GPT-5와 Claude 모델을 통합하고 React 호환 오케스트레이션 엔진을 새롭게 지원한다.
  • 보안 강화를 위해 FedRAMP High를 준수하는 백업 솔루션과 Security Mesh를 통한 통합 위협 탐지 기능을 도입했다.
  • Salesforce가 AI 개발 도구와 엔터프라이즈급 보안 기능을 포함한 Summer '26 업데이트를 발표했다.
  • Agentforce Vibes는 GPT-5와 Claude 모델을 통합하고 React 호환 오케스트레이션 엔진을 새롭게 지원한다.
  • 보안 강화를 위해 FedRAMP High를 준수하는 백업 솔루션과 Security Mesh를 통한 통합 위협 탐지 기능을 도입했다.
읽어보기 →

트렌딩 키워드

최근 7일