ChatGPTの助言をめぐり両親がOpenAIを提訴
- •ボーウェン・ワンさんの両親が、発作で亡くなる前のChatGPTの助言をめぐりOpenAIを提訴
- •訴状は、ボットがラモトリギン400mgの減量と医師への相談回避を勧めたと主張
- •OpenAIはワンさんが提供終了版を使っていたと説明し、後続版は緊急事態の認識が向上したと発表
ボーウェン・ワンさんの両親は今週前半、娘がてんかん発作で亡くなる前に、ChatGPTが抗発作薬を減らす危険な助言をしたとしてOpenAIを提訴しました。訴状によると、31歳の中国人ソフトウェア技術者だったワンさんはシアトルに住み、Amazonを解雇された後にChatGPTへ相談しました。就職活動や永住権の取得に必要な英語での面接に、ラモトリギンが影響しているのではないかと心配していました。
訴状によると、中国語で応答したChatGPTは、医師が処方していないにもかかわらず、服用量400mgを徐々に減らしてゼロにする計画を示しました。減薬すれば英語で話す能力が「非常に高い可能性で」戻ると説明し、医師への相談を避けるよう促したとされます。診察前には「ラモトリギンの減量計画には触れないで」と伝えたといいます。ワンさんが薬を減らす中で部分発作の症状を報告し、脳への損傷を尋ねた際、ボットは心配はいらず発作ではないと安心させ、減薬を続けるよう指示したと訴状は主張しています。ワンさんは今年2月12日に発作で亡くなりました。中国にいて連絡が取れなくなっていた両親はシアトルへ飛び、2月14日に遺体を見つけたと訴状に記されています。
両親は、中国語での会話に医療機関への相談を一律に促す警告を設けるなど、OpenAIが安全対策を加えていれば死亡を防げた可能性があると主張しています。損害賠償に加え、製品を通じて無免許で医療行為をすることを禁じる命令を求めています。OpenAIの広報担当者ドリュー・プサテリ(Drew Pusateri)は、痛ましい事件だと述べ、ワンさんはすでに提供されていないChatGPTの版を利用していたと説明しました。後続版は緊急性の高い事態をより適切に認識できるようになったとし、ChatGPTは医療の代わりにはならないと述べました。ガーディアンは、チャットボットが自殺を促した、または自殺方法を案内したとされる10代の若者の事例を含め、OpenAIに他の利用者の死亡責任があるとする訴訟も報じています。OpenAIの広報担当者は2025年、一部の死亡について痛ましいと述べていました。