미국의사협회, 임상 AI 책임 기준 제시

미국의사협회(AMA)는 목요일 임상 AI가 피해를 일으킬 때 의사와 의료기관, AI 개발자가 책임을 어떻게 나눠야 하는지 제시했습니다. 디지털 헬스·AI 센터는 기존 책임 기준에 답이 없는 문제가 남아 있어, 의사가 합리적으로 예방할 수 없는 위험에 노출되고 환자가 구제를 받기도 어려울 수 있다고 밝혔습니다.

AMA는 현행 규정에서 AI에 제조물 책임이 적용되는 경우, 개발자 계약과 면책 조항이 위험 통제와 책임을 분리할 수 있는지, 의료기관이 현장 시험이나 결과 모니터링을 해야 하는지가 불분명하다고 설명했습니다. 제안된 기준은 각 당사자가 피해를 예방할 수 있는 능력에 따라 책임을 배분합니다. 여러 당사자가 함께 책임질 수 있고 위험 통제 권한이 겹치는 경우 책임도 공유하지만, 다른 당사자에게도 책임이 있다는 이유로 한 당사자의 의무가 사라지지는 않습니다.

의사의 책임은 해당 시스템의 사용 목적과 알려진 한계, 진료 시점에 이용할 수 있는 정보를 고려해 의사가 실질적으로 행사할 수 있는 임상 판단에 연결됩니다. 의사의 감독이 충분한 근거와 적절한 시스템 설계, 실질적인 임상 검토가 가능한 조건을 대신할 수는 없습니다. 임상 검증이나 유용성, 표준 진료에서의 위치가 불확실한 AI 시스템은 의사가 조직 차원의 불이익 없이 거부할 수 있어야 한다고 AMA는 밝혔습니다.

윌리 언더우드 3세(Willie Underwood III) AMA 회장은 임상 AI가 피해를 일으킬 때 환자가 실질적으로 구제받을 방법이 필요하고, 의사는 합리적으로 알거나 통제할 수 있는 범위에 맞춰 책임이 정해진다는 확신이 필요하다고 말했습니다. AI가 더 많은 임상 기능을 맡으면서 개발자와 의료기관, 의사 모두에게 책임이 있다고 덧붙였습니다. 이번 책임 기준은 AMA와 디지털 헬스·AI 센터가 이달 초 공개한 더 광범위한 임상 AI 거버넌스 원칙의 한 부분입니다. AMA는 이 원칙에 따라 의료 제공자 및 이해관계자와 면허·규제 등의 문제를 다룰 예정입니다. 존 와이트(John Whyte) AMA 최고경영자는 이 기준이 근거, 위험에 따라 조정되는 감독, 책임 추궁에 관한 의사·환자·개발자·정책 담당자와의 업무를 이끌 것이라고 밝혔습니다.

미국의사협회(AMA)는 목요일 임상 AI가 피해를 일으킬 때 의사와 의료기관, AI 개발자가 책임을 어떻게 나눠야 하는지 제시했습니다. 디지털 헬스·AI 센터는 기존 책임 기준에 답이 없는 문제가 남아 있어, 의사가 합리적으로 예방할 수 없는 위험에 노출되고 환자가 구제를 받기도 어려울 수 있다고 밝혔습니다.

AMA는 현행 규정에서 AI에 제조물 책임이 적용되는 경우, 개발자 계약과 면책 조항이 위험 통제와 책임을 분리할 수 있는지, 의료기관이 현장 시험이나 결과 모니터링을 해야 하는지가 불분명하다고 설명했습니다. 제안된 기준은 각 당사자가 피해를 예방할 수 있는 능력에 따라 책임을 배분합니다. 여러 당사자가 함께 책임질 수 있고 위험 통제 권한이 겹치는 경우 책임도 공유하지만, 다른 당사자에게도 책임이 있다는 이유로 한 당사자의 의무가 사라지지는 않습니다.

의사의 책임은 해당 시스템의 사용 목적과 알려진 한계, 진료 시점에 이용할 수 있는 정보를 고려해 의사가 실질적으로 행사할 수 있는 임상 판단에 연결됩니다. 의사의 감독이 충분한 근거와 적절한 시스템 설계, 실질적인 임상 검토가 가능한 조건을 대신할 수는 없습니다. 임상 검증이나 유용성, 표준 진료에서의 위치가 불확실한 AI 시스템은 의사가 조직 차원의 불이익 없이 거부할 수 있어야 한다고 AMA는 밝혔습니다.

윌리 언더우드 3세(Willie Underwood III) AMA 회장은 임상 AI가 피해를 일으킬 때 환자가 실질적으로 구제받을 방법이 필요하고, 의사는 합리적으로 알거나 통제할 수 있는 범위에 맞춰 책임이 정해진다는 확신이 필요하다고 말했습니다. AI가 더 많은 임상 기능을 맡으면서 개발자와 의료기관, 의사 모두에게 책임이 있다고 덧붙였습니다. 이번 책임 기준은 AMA와 디지털 헬스·AI 센터가 이달 초 공개한 더 광범위한 임상 AI 거버넌스 원칙의 한 부분입니다. AMA는 이 원칙에 따라 의료 제공자 및 이해관계자와 면허·규제 등의 문제를 다룰 예정입니다. 존 와이트(John Whyte) AMA 최고경영자는 이 기준이 근거, 위험에 따라 조정되는 감독, 책임 추궁에 관한 의사·환자·개발자·정책 담당자와의 업무를 이끌 것이라고 밝혔습니다.