電子フロンティア財団（EFF）は、医療意思決定におけるAI利用の不透明さを問題視し、メディケア・メディケイド・サービスセンター（CMS）に対して情報公開法（FOIA）に基づく訴訟を提起した。争点となっているのは、受給者の事前承認手続きを自動化する多州間パイロットプログラム「WISeRモデル」である。連邦政府は、この取り組みが医療詐欺や無駄の抑制に不可欠だと主張する一方で、プライバシー保護団体や議員らは、アルゴリズムの透明性欠如が患者の安全に重大なリスクをもたらすと反論している。

この法的課題は、民間ベンダーが医療サービスの却下件数に基づいて報酬を受け取っているとされる、議論を呼ぶインセンティブ構造を浮き彫りにした。現在のモデルでは、企業は削減された支出の最大20%を利益として計上できる仕組みとなっており、これが「場当たり的な判断」や組織的な診療拒否を助長しているとの批判が根強い。実際にEFFは、CMSがこれまで開示を拒んできたベンダー契約書やアルゴリズムのバイアスに関するテスト結果、および監査記録の即時公開を求めている。

WISeRモデルが全米6州へと拡大する中、本件は行政効率の追求と自動化システムの「ブラックボックス」性との間に生じている深刻な摩擦を象徴している。医師や臨床専門家は、明確な安全策なしに治療のゲートキーパーをアルゴリズムに委ねることは、回復不能な被害を招きかねないと警告した。この訴訟は、自動化ツールが市民の基本的人権や健康に与える影響を説明する政府の義務を問うものであり、公共部門におけるAIガバナンスの極めて重要な転換点となるだろう。

電子フロンティア財団（EFF）は、医療意思決定におけるAI利用の不透明さを問題視し、メディケア・メディケイド・サービスセンター（CMS）に対して情報公開法（FOIA）に基づく訴訟を提起した。争点となっているのは、受給者の事前承認手続きを自動化する多州間パイロットプログラム「WISeRモデル」である。連邦政府は、この取り組みが医療詐欺や無駄の抑制に不可欠だと主張する一方で、プライバシー保護団体や議員らは、アルゴリズムの透明性欠如が患者の安全に重大なリスクをもたらすと反論している。

この法的課題は、民間ベンダーが医療サービスの却下件数に基づいて報酬を受け取っているとされる、議論を呼ぶインセンティブ構造を浮き彫りにした。現在のモデルでは、企業は削減された支出の最大20%を利益として計上できる仕組みとなっており、これが「場当たり的な判断」や組織的な診療拒否を助長しているとの批判が根強い。実際にEFFは、CMSがこれまで開示を拒んできたベンダー契約書やアルゴリズムのバイアスに関するテスト結果、および監査記録の即時公開を求めている。

WISeRモデルが全米6州へと拡大する中、本件は行政効率の追求と自動化システムの「ブラックボックス」性との間に生じている深刻な摩擦を象徴している。医師や臨床専門家は、明確な安全策なしに治療のゲートキーパーをアルゴリズムに委ねることは、回復不能な被害を招きかねないと警告した。この訴訟は、自動化ツールが市民の基本的人権や健康に与える影響を説明する政府の義務を問うものであり、公共部門におけるAIガバナンスの極めて重要な転換点となるだろう。