이 기사의 핵심 내용은?

환자들이 전문가 개입 없이 대규모 언어 모델(LLM)을 정신건강 지원에 활용하는 사례가 증가하고 있다. 18개월간 진행된 연구에서 무분별한 LLM 사용으로 인한 15건의 윤리적 위반 사례가 확인됐다. 정신과 진료 현장에서 AI를 안전하게 통합하기 위한 5단계 임상 프레임워크가 새롭게 제안됐다.

정신건강 분야 AI 도입을 위한 임상 프레임워크 제시

•환자들이 전문가 개입 없이 대규모 언어 모델(LLM)을 정신건강 지원에 활용하는 사례가 증가하고 있다.
•18개월간 진행된 연구에서 무분별한 LLM 사용으로 인한 15건의 윤리적 위반 사례가 확인됐다.
•정신과 진료 현장에서 AI를 안전하게 통합하기 위한 5단계 임상 프레임워크가 새롭게 제안됐다.

정신과 환자들이 대규모 언어 모델(LLM)을 사용하는 현상은 이미 돌이킬 수 없는 임상적 현실이 됐다. 현재 많은 환자가 의료진의 감독 없이 AI 시스템을 통해 증상을 해석하거나 감정을 조절하려 시도한다.

이러한 행위는 인지 왜곡의 강화, 모델의 환각(거짓 정보를 생성하는 현상), 위기 관리 실패 등 심각한 위험을 초래한다. 임상 심리학자들이 18개월 동안 진행한 민속지학적 연구에 따르면, LLM을 비공식적인 인지행동치료(CBT) 상담사로 활용했을 때 15건의 구체적인 윤리적 위반 사례가 발생했다.

다만 연구 결과에 따르면, 구조화되고 감독받는 대화형 에이전트를 임상 보조 도구로 활용할 경우 불안 및 우울 증상을 유의미하게 감소시킬 수 있다. 이에 따라 제안된 5단계 프레임워크는 환자가 무분별한 AI 사용에서 벗어나 의료진이 모니터링하는 안전한 치료 과정으로 전환하도록 돕는 것을 목표로 한다.

정신과 환자들이 대규모 언어 모델(LLM)을 사용하는 현상은 이미 돌이킬 수 없는 임상적 현실이 됐다. 현재 많은 환자가 의료진의 감독 없이 AI 시스템을 통해 증상을 해석하거나 감정을 조절하려 시도한다.

이러한 행위는 인지 왜곡의 강화, 모델의 환각(거짓 정보를 생성하는 현상), 위기 관리 실패 등 심각한 위험을 초래한다. 임상 심리학자들이 18개월 동안 진행한 민속지학적 연구에 따르면, LLM을 비공식적인 인지행동치료(CBT) 상담사로 활용했을 때 15건의 구체적인 윤리적 위반 사례가 발생했다.

다만 연구 결과에 따르면, 구조화되고 감독받는 대화형 에이전트를 임상 보조 도구로 활용할 경우 불안 및 우울 증상을 유의미하게 감소시킬 수 있다. 이에 따라 제안된 5단계 프레임워크는 환자가 무분별한 AI 사용에서 벗어나 의료진이 모니터링하는 안전한 치료 과정으로 전환하도록 돕는 것을 목표로 한다.