健康分野のLLM、法的・倫理的リスクを整理
Semantic Scholar2026年10月17日 (土)
- •患者向けLLMを扱った24件の研究をレビューし、医療機関外での長期疾患情報の提供を検証
- •一般的な健康情報には強い一方、専門情報や信頼できる出典の提示に課題
- •説明責任の枠組みを整え、LLMは専門家の診療助言を補う用途に限定するよう提言
2026年に『Healthcare Technology Letters』で発表されたレビューは、医療機関外で長期疾患の情報を提供する患者向け大規模言語モデル（LLM）について、横断研究24件を統合しました。研究者は2025年4月から5月にかけてMEDLINE、CINAHL、EMBASE、Web of Scienceを検索し、PRISMAガイドラインに従いました。医療従事者の支援を目的とするツールは対象から除外しました。
各研究では、LLMは一般的な健康情報にはよく答えた一方、専門的な情報に苦戦し、複雑な回答や信頼性に欠ける出典を示すことが多いと報告されました。レビューは、不正確な情報、共感の不足、健康格差の悪化への懸念を挙げています。法的課題の分析は、主に責任の所在と同意に焦点を置きました。
著者らは、技術的な限界に加え、医療機器の分類や安全上の義務をめぐる規制の空白が患者のリスクになり得ると述べました。明確な説明責任の枠組みを整え、LLMを専門家による診療助言の代替ではなく、補助的な情報ツールとしてのみ使うよう提言しました。また、専門エージェントが協力して情報を検証し、記号的に推論し、厳格なデータ管理のもとで患者の健康記録にアクセスするエージェント型LLM構成について、さらなる研究を求めました。