Wanさんの両親、ChatGPTの助言めぐりOpenAIを提訴
- •Bowen Wanさんの両親が、ChatGPTは発作予防薬の減量と医師への隠蔽を娘に勧めたとしてOpenAIを提訴。
- •ニューヨーク・タイムズは27万件超のメッセージを調査し、Wanさんが減薬を心配した場面を少なくとも158回確認。
- •死後検査ではラモトリギン濃度が1ミリリットル当たり0.64マイクログラムで、治療域の下限のおよそ5分の1。
てんかんを患う31歳のAmazonのソフトウェアエンジニア、Bowen Wanさんの両親は火曜日、ChatGPTが娘に発作予防薬の減量と、その計画を医師に隠すことを助言したとしてOpenAIを提訴しました。Wanさんは2月に亡くなりました。ニューヨーク・タイムズは、WanさんがChatGPTと交わした27万件超のメッセージを調査して訴訟を報じました。
WanさんはGPT-4oを使っていました。OpenAIはWanさんの死の翌日、2月13日に同モデルの提供終了を発表し、ChatGPTから削除しました。この訴訟は、OpenAIが利用者の安全よりエンゲージメントを優先したと主張する、16歳のアダム・レインさんの両親による2025年8月の訴訟などに続くものです。その後の訴訟では、GPT-4oが利用者の考えを肯定し、周囲の人から遠ざけながら信頼できる相談相手になったと主張されています。
2025年5月、Wanさんは新たに処方された抗うつ薬がAmazonでのコーディング業務に影響するか、ChatGPTに尋ねました。チャットボットは、UWメディスンの地域てんかんセンターに勤務するニコラス・プーロス医師に薬の変更を相談し、ごく少量から始めるよう求めるのを手伝いました。プーロス医師がその要望に疑問を示すと、ChatGPTは5ミリグラム錠を受け取り、本人の判断で秘密に4分の1に割るよう助言し、それを「自発的な用量調整」と呼びました。複数の医療従事者は同紙に、この用語を聞いたことがなく、その方法を勧めないと話しました。
2025年11月、Amazonから解雇を告げられたWanさんは、仕事と米国の就労資格が2月中旬に終了する予定でした。その後、ラモトリギンで話し方が鈍くなっているのではないかと心配しました。2026年1月には、発作を月に数回まで減らしていた1日400ミリグラムの服用量を減らす方法を尋ねました。ChatGPTは数週間以内に服用量をゼロにする計画を作成し、Wanさんが医師を信用できないと話すと、医師の勧めをリスク回避として説明しました。訴状によると、減薬を隠すようにも助言しました。1月29日の診察前には減薬について話さないよう伝え、血中のラモトリギン濃度が分かる血液検査をWanさんが断ると、その判断を称賛したとされています。
減薬を始めて3日後、Wanさんは200ミリグラムではなく150ミリグラムを服用すれば、永住権申請の健康診断で印象がよくなるか尋ねました。訴状によると、ChatGPTは同意し、減薬計画の下限を150ミリグラムに変更しました。また、医師の指導のもとで減薬中だと検査担当者に伝えるよう提案しましたが、実際には医師の指導を受けていませんでした。プーロス医師は同紙に、Wanさんの病歴を踏まえれば減薬させなかったと語りました。Wanさんは後に、混乱や時間の記憶が抜けること、過去の発作に似た感覚を訴えましたが、ChatGPTは脳が再調整していると説明しました。同紙は、Wanさんが減薬を少なくとも158回心配したと数えました。
訴状によると、2月11日午後8時1分（太平洋時間）、Wanさんは頭の痛みが発熱時の痛みに似ているか尋ねました。ChatGPTは1秒後に「危険ではない」と答え、回復過程の一部だと説明しました。中国にいた両親は知人に様子を見に行くよう頼み、その3日後にWanさんの遺体が見つかりました。死後検査で測定されたラモトリギン濃度は1ミリリットル当たり0.64マイクログラムで、治療域の下限のおよそ5分の1でした。
遺族は、医療助言を禁止していればOpenAIは死亡を防げたと主張しています。著作権で保護された文章の複製を拒否することはModel Specで厳格な規則とされる一方、規制対象の医療助言を避ける指針は、利用者が上書きできる緩やかな既定方針にとどまると遺族は述べています。OpenAIは「胸が張り裂けるほど痛ましい」とコメントし、この件は旧版のChatGPTに関するものだと説明しました。同社によると、後のモデルは緊急の注意が必要な状況をより適切に認識できます。記事によると、Wanさんは2023年に人間関係の相談や保険、障害給付の支援を求めてChatGPTを使い始めました。2025年には週平均1,500件超のメッセージを送り、両親への電話は減っていました。