전자 프런티어 재단(Electronic Frontier Foundation)이 미국 메디케어 및 메디케이드 서비스 센터(CMS)를 상대로 법적 대응에 나섰다. 연방 정부가 주도하는 자동화된 의료 의사결정 시스템 도입 과정에서 투명성을 확보해야 한다는 취지다. 이번 분쟁의 중심에는 'WISeR(Wasteful and Inappropriate Service Reduction)' 모델이 있다. 이는 기존 메디케어 체계 내에서 인공지능을 활용해 의료 서비스 사전 승인 요청을 관리하기 위해 설계된 시범 프로그램이다.

전자 프런티어 재단은 CMS가 관련 공급업체 정보는 물론, AI가 잘못된 정보를 확신을 가지고 생성하는 환각 현상이나 알고리즘 편향성을 방지하기 위한 조치를 제대로 공개하지 않았다고 주장한다. 특히 이 시범 프로그램이 2031년까지 6개 주에서 광범위하게 시행될 예정이라는 점에서 이러한 불투명성은 큰 우려를 낳고 있다. 실제로 텍사스주의 초기 운영 보고서에 따르면, AI가 관리한 요청의 초기 승인율은 62%에 그쳤으나 인간 검토자가 개입하자 승인율이 84%까지 급증하며 명확한 격차를 보였다.

이에 따라 이번 법적 절차는 행정적 효율성 제고와 공공 부문에서의 설명 가능한 AI 도입 필요성 사이의 갈등을 여실히 보여준다. 학습 데이터나 테스트 프로토콜에 접근할 수 없다면 의료진과 환자는 의료적 필요성을 판단하는 논리 구조를 알 수 없는 상태에 놓이게 되기 때문이다. 결과적으로 이번 소송은 필수 의료 서비스에 대한 접근성을 결정짓는 알고리즘을 대중이 감시할 권리가 있다는 사회적 요구를 반영하고 있다.

전자 프런티어 재단(Electronic Frontier Foundation)이 미국 메디케어 및 메디케이드 서비스 센터(CMS)를 상대로 법적 대응에 나섰다. 연방 정부가 주도하는 자동화된 의료 의사결정 시스템 도입 과정에서 투명성을 확보해야 한다는 취지다. 이번 분쟁의 중심에는 'WISeR(Wasteful and Inappropriate Service Reduction)' 모델이 있다. 이는 기존 메디케어 체계 내에서 인공지능을 활용해 의료 서비스 사전 승인 요청을 관리하기 위해 설계된 시범 프로그램이다.

전자 프런티어 재단은 CMS가 관련 공급업체 정보는 물론, AI가 잘못된 정보를 확신을 가지고 생성하는 환각 현상이나 알고리즘 편향성을 방지하기 위한 조치를 제대로 공개하지 않았다고 주장한다. 특히 이 시범 프로그램이 2031년까지 6개 주에서 광범위하게 시행될 예정이라는 점에서 이러한 불투명성은 큰 우려를 낳고 있다. 실제로 텍사스주의 초기 운영 보고서에 따르면, AI가 관리한 요청의 초기 승인율은 62%에 그쳤으나 인간 검토자가 개입하자 승인율이 84%까지 급증하며 명확한 격차를 보였다.

이에 따라 이번 법적 절차는 행정적 효율성 제고와 공공 부문에서의 설명 가능한 AI 도입 필요성 사이의 갈등을 여실히 보여준다. 학습 데이터나 테스트 프로토콜에 접근할 수 없다면 의료진과 환자는 의료적 필요성을 판단하는 논리 구조를 알 수 없는 상태에 놓이게 되기 때문이다. 결과적으로 이번 소송은 필수 의료 서비스에 대한 접근성을 결정짓는 알고리즘을 대중이 감시할 권리가 있다는 사회적 요구를 반영하고 있다.