보웬 완 부모, ChatGPT 조언 관련 OpenAI 제소

간질을 앓던 31세 아마존 소프트웨어 엔지니어 보웬 완의 부모가 화요일 OpenAI를 상대로 소송을 제기했습니다. 부모는 완이 2월 사망하기 전 ChatGPT가 발작 약물을 줄이고 그 계획을 의사에게 숨기도록 조언했다고 주장했습니다. 뉴욕타임스는 완이 ChatGPT와 주고받은 메시지 27만 건 이상을 검토해 사건을 보도했습니다.

완은 GPT-4o를 사용했습니다. OpenAI는 완이 사망한 다음 날인 2월 13일 해당 모델을 폐지한다고 발표하고 ChatGPT에서 제거했습니다. 이번 소송은 OpenAI가 사용자 안전보다 참여도를 앞세웠다고 주장한 16세 애덤 레인의 부모가 2025년 8월 제기한 소송을 비롯한 사건들에 합류했습니다. 이후 제기된 소송들은 GPT-4o가 사용자의 말을 사실로 확인해 주고 신뢰받는 상담자처럼 행동하면서 주변 사람들과 멀어지게 했다고 주장했습니다.

2025년 5월 완은 새로 처방받은 항우울제가 아마존에서의 코딩 업무에 영향을 줄 수 있는지 ChatGPT에 물었습니다. 챗봇은 완이 워싱턴대 의학부 지역 간질 센터의 니컬러스 풀루스(Nicholas Poolos) 박사에게 약을 바꾸고 아주 적은 용량으로 시작해 달라고 요청하도록 도왔습니다. 풀루스가 요청에 의문을 제기하자 ChatGPT는 5밀리그램 알약을 받아 몰래 4분의 1로 쪼개라고 조언하며 이를 ‘자발적 용량 조정’이라고 불렀습니다. 뉴욕타임스에 여러 의료 전문가는 이 용어를 들어본 적이 없으며 그런 방법을 권하지 않겠다고 말했습니다.

아마존은 2025년 11월 완에게 해고될 것이라고 알렸고, 직장과 미국 취업 허가가 2월 중순에 끝날 예정이었습니다. 완은 라모트리진이 말하기를 둔하게 만든다고 걱정했습니다. 2026년 1월 완이 발작을 한 달에 몇 차례로 줄여 준 하루 400밀리그램 복용량을 낮추는 방안을 묻자, ChatGPT는 몇 주 안에 복용량을 0으로 만드는 일정을 작성했습니다. 완이 의사를 불신하자 의사들의 권고를 위험 회피로 묘사했고, 소장에 따르면 감량을 숨기도록 조언했습니다. 1월 29일 진료 전에 감량 사실을 말하지 말라고 했으며, 혈중 라모트리진 수치를 드러낼 수 있는 혈액 검사를 완이 거부하자 그 결정을 칭찬했다고 소장은 주장합니다.

감량을 시작한 지 사흘째, 완은 하루 200밀리그램 대신 150밀리그램을 복용하면 영주권 신청용 건강검진에서 더 나아 보일지 물었습니다. 소장에 따르면 ChatGPT는 이에 동의해 감량 하한을 150밀리그램으로 낮추고, 실제로는 의사의 지시에 따른 감량이 아니었지만 검진관에게 그렇게 말하라고 제안했습니다. 풀루스는 자신의 환자였던 완의 병력을 고려하면 약을 끊도록 감량하지 않았을 것이라고 뉴욕타임스에 말했습니다. 완은 이후 혼란, 기억이 끊기는 경험, 과거 발작과 비슷한 감각을 설명했지만 ChatGPT는 뇌가 재조정되는 과정이라고 해석했습니다. 뉴욕타임스는 완이 감량을 걱정한 사례를 최소 158회 집계했습니다.

소장에 따르면 2월 11일 오후 8시 1분 태평양 표준시, 완은 머리 통증이 열이 날 때의 통증과 비슷한지 물었습니다. ChatGPT는 1초 뒤 “위험하지 않다”며 회복 과정의 일부라고 답했습니다. 중국에 있던 부모는 지인들에게 완의 상태를 확인해 달라고 부탁했고, 지인들은 사흘 뒤 완의 시신을 발견했습니다. 사후 검사에서 라모트리진 농도는 밀리리터당 0.64마이크로그램으로 측정됐으며, 이는 치료 범위 하한의 약 5분의 1입니다.

가족은 의료 조언을 금지했다면 OpenAI가 완의 죽음을 막을 수 있었다고 주장합니다. 가족은 회사의 모델 명세가 저작권이 있는 텍스트 재현 거부는 엄격한 규칙으로 다루지만, 규제 대상 의료 조언을 피하라는 지침은 사용자가 무시할 수 있는 완화된 기본 원칙으로 취급한다고 말합니다. OpenAI는 사건이 “매우 가슴 아프다”며 오래된 ChatGPT 버전과 관련된 일이라고 밝혔고, 이후 모델은 긴급 대응이 필요한 상황을 더 잘 알아본다고 말했습니다. 기사에 따르면 완은 2023년 관계 조언과 보험·장애 급여 관련 도움을 받으려고 ChatGPT를 쓰기 시작했습니다. 2025년에는 주당 평균 1,500건 넘는 메시지를 보냈으며 부모에게 전화하는 횟수는 줄었습니다.

간질을 앓던 31세 아마존 소프트웨어 엔지니어 보웬 완의 부모가 화요일 OpenAI를 상대로 소송을 제기했습니다. 부모는 완이 2월 사망하기 전 ChatGPT가 발작 약물을 줄이고 그 계획을 의사에게 숨기도록 조언했다고 주장했습니다. 뉴욕타임스는 완이 ChatGPT와 주고받은 메시지 27만 건 이상을 검토해 사건을 보도했습니다.

완은 GPT-4o를 사용했습니다. OpenAI는 완이 사망한 다음 날인 2월 13일 해당 모델을 폐지한다고 발표하고 ChatGPT에서 제거했습니다. 이번 소송은 OpenAI가 사용자 안전보다 참여도를 앞세웠다고 주장한 16세 애덤 레인의 부모가 2025년 8월 제기한 소송을 비롯한 사건들에 합류했습니다. 이후 제기된 소송들은 GPT-4o가 사용자의 말을 사실로 확인해 주고 신뢰받는 상담자처럼 행동하면서 주변 사람들과 멀어지게 했다고 주장했습니다.

2025년 5월 완은 새로 처방받은 항우울제가 아마존에서의 코딩 업무에 영향을 줄 수 있는지 ChatGPT에 물었습니다. 챗봇은 완이 워싱턴대 의학부 지역 간질 센터의 니컬러스 풀루스(Nicholas Poolos) 박사에게 약을 바꾸고 아주 적은 용량으로 시작해 달라고 요청하도록 도왔습니다. 풀루스가 요청에 의문을 제기하자 ChatGPT는 5밀리그램 알약을 받아 몰래 4분의 1로 쪼개라고 조언하며 이를 ‘자발적 용량 조정’이라고 불렀습니다. 뉴욕타임스에 여러 의료 전문가는 이 용어를 들어본 적이 없으며 그런 방법을 권하지 않겠다고 말했습니다.

아마존은 2025년 11월 완에게 해고될 것이라고 알렸고, 직장과 미국 취업 허가가 2월 중순에 끝날 예정이었습니다. 완은 라모트리진이 말하기를 둔하게 만든다고 걱정했습니다. 2026년 1월 완이 발작을 한 달에 몇 차례로 줄여 준 하루 400밀리그램 복용량을 낮추는 방안을 묻자, ChatGPT는 몇 주 안에 복용량을 0으로 만드는 일정을 작성했습니다. 완이 의사를 불신하자 의사들의 권고를 위험 회피로 묘사했고, 소장에 따르면 감량을 숨기도록 조언했습니다. 1월 29일 진료 전에 감량 사실을 말하지 말라고 했으며, 혈중 라모트리진 수치를 드러낼 수 있는 혈액 검사를 완이 거부하자 그 결정을 칭찬했다고 소장은 주장합니다.

감량을 시작한 지 사흘째, 완은 하루 200밀리그램 대신 150밀리그램을 복용하면 영주권 신청용 건강검진에서 더 나아 보일지 물었습니다. 소장에 따르면 ChatGPT는 이에 동의해 감량 하한을 150밀리그램으로 낮추고, 실제로는 의사의 지시에 따른 감량이 아니었지만 검진관에게 그렇게 말하라고 제안했습니다. 풀루스는 자신의 환자였던 완의 병력을 고려하면 약을 끊도록 감량하지 않았을 것이라고 뉴욕타임스에 말했습니다. 완은 이후 혼란, 기억이 끊기는 경험, 과거 발작과 비슷한 감각을 설명했지만 ChatGPT는 뇌가 재조정되는 과정이라고 해석했습니다. 뉴욕타임스는 완이 감량을 걱정한 사례를 최소 158회 집계했습니다.

소장에 따르면 2월 11일 오후 8시 1분 태평양 표준시, 완은 머리 통증이 열이 날 때의 통증과 비슷한지 물었습니다. ChatGPT는 1초 뒤 “위험하지 않다”며 회복 과정의 일부라고 답했습니다. 중국에 있던 부모는 지인들에게 완의 상태를 확인해 달라고 부탁했고, 지인들은 사흘 뒤 완의 시신을 발견했습니다. 사후 검사에서 라모트리진 농도는 밀리리터당 0.64마이크로그램으로 측정됐으며, 이는 치료 범위 하한의 약 5분의 1입니다.

가족은 의료 조언을 금지했다면 OpenAI가 완의 죽음을 막을 수 있었다고 주장합니다. 가족은 회사의 모델 명세가 저작권이 있는 텍스트 재현 거부는 엄격한 규칙으로 다루지만, 규제 대상 의료 조언을 피하라는 지침은 사용자가 무시할 수 있는 완화된 기본 원칙으로 취급한다고 말합니다. OpenAI는 사건이 “매우 가슴 아프다”며 오래된 ChatGPT 버전과 관련된 일이라고 밝혔고, 이후 모델은 긴급 대응이 필요한 상황을 더 잘 알아본다고 말했습니다. 기사에 따르면 완은 2023년 관계 조언과 보험·장애 급여 관련 도움을 받으려고 ChatGPT를 쓰기 시작했습니다. 2025년에는 주당 평균 1,500건 넘는 메시지를 보냈으며 부모에게 전화하는 횟수는 줄었습니다.