OpenAI, ChatGPT에 자해 위험 알림 기능 도입
Ledge AI
2026년 5월 11일 (월)
- •OpenAI가 ChatGPT에 성인용 안전 기능인 'Trusted Contact'를 도입했다
- •자해 위험 감지 시 사람이 직접 검토한 후 사전 등록된 연락처로 알림을 전송한다
- •개인정보 보호를 위해 대화 내용은 공유하지 않고 경고 메시지만 발송한다
OpenAI는 2026년 5월 7일(현지시간) ChatGPT에 선택적 안전 기능인 'Trusted Contact'를 추가한다고 발표했다. 이 기능은 성인 사용자가 친구나 가족 등 신뢰할 수 있는 사람을 1명 미리 등록해두면, 사용자가 자해와 관련된 심각한 안전 우려를 나타내는 대화를 나눌 경우 해당 연락처에 알림을 보내는 방식이다.
자동 모니터링 시스템이 위험을 감지하면, ChatGPT는 먼저 사용자 본인에게 연락처로 알림이 갈 수 있음을 경고하고 대화를 시작할 수 있는 문안을 제시한다. 이후 전문 교육을 받은 검토 담당자가 상황을 확인하며, 필요하다고 판단될 경우 이메일이나 문자 메시지 등을 통해 등록된 연락처로 알림을 보낸다. OpenAI는 1시간 이내에 검토를 완료하는 것을 목표로 한다.
알림에는 자해와 관련된 우려가 있다는 사실만 포함되며, 대화 상세 내용이나 전체 텍스트는 공유되지 않는다. 해당 기능은 임상의, 자살 예방 전문가, 미국심리학회(APA) 등의 자문을 받아 개발되었으며, 응급 상황 발생 시 현실 세계의 지원으로 이어지도록 돕는 추가적인 안전 조치로 마련되었다.