Claude 챗봇 개발사인 Anthropic은 최근 윤리적 문제를 이유로 미국 국방부의 군사적 목적 AI 활용을 제한했다. 이러한 조치는 국제적인 호응을 얻으며 기업의 인재 영입과 투자 유치에 긍정적인 영향을 미쳤지만, 루체른 대학교에서 신학 윤리를 가르치는 페터 G. 키르히슐레거(Peter G. Kirchschlaeger) 교수는 치명적 자동 살상 무기 체계에 관한 중대한 결정을 개별 민간 기업의 자율에 맡겨선 안 된다고 지적한다.

이윤을 추구하는 기업은 본질적으로 자사의 이익에 우선순위를 둘 수밖에 없으므로, 인류와 생태계 보호를 위한 전 지구적 차원의 감독이 필수적이다. 그는 인공지능 대신 '데이터 기반 시스템(DS)'이라는 용어를 사용하며, 이 기술의 가치 사슬 전반에 걸쳐 인권을 보장할 수 있는 국제적인 규제 체계가 마련되어야 한다고 강조한다.

이를 구현하기 위해 UN 산하에 국제 원자력 기구와 유사한 형태인 국제 데이터 기반 시스템 기구(IDA)를 설립하는 방안이 제안됐다. 해당 기구는 기술적 협력과 안전성 확보, 시장 승인을 담당하며 핵 기술 규제 사례처럼 전 세계적인 강제력을 행사하게 된다. 안토니우 구테흐스(António Guterres) UN 사무총장과 넬슨 만델라가 설립한 더 엘더스(The Elders), 그리고 OpenAI의 샘 알트먼(Sam Altman) 최고경영자 등 주요 인사들이 이 같은 인권 기반 규제 및 IDA 설립 필요성에 동조하고 있다. 이들은 자동화된 무기 체계가 인류에 더 큰 피해를 입히거나 데이터 기반 시스템이 기후에 돌이킬 수 없는 환경적 발자국을 남기기 전에 즉각적인 대응책을 마련해야 한다고 역설한다.

Claude 챗봇 개발사인 Anthropic은 최근 윤리적 문제를 이유로 미국 국방부의 군사적 목적 AI 활용을 제한했다. 이러한 조치는 국제적인 호응을 얻으며 기업의 인재 영입과 투자 유치에 긍정적인 영향을 미쳤지만, 루체른 대학교에서 신학 윤리를 가르치는 페터 G. 키르히슐레거(Peter G. Kirchschlaeger) 교수는 치명적 자동 살상 무기 체계에 관한 중대한 결정을 개별 민간 기업의 자율에 맡겨선 안 된다고 지적한다.

이윤을 추구하는 기업은 본질적으로 자사의 이익에 우선순위를 둘 수밖에 없으므로, 인류와 생태계 보호를 위한 전 지구적 차원의 감독이 필수적이다. 그는 인공지능 대신 '데이터 기반 시스템(DS)'이라는 용어를 사용하며, 이 기술의 가치 사슬 전반에 걸쳐 인권을 보장할 수 있는 국제적인 규제 체계가 마련되어야 한다고 강조한다.

이를 구현하기 위해 UN 산하에 국제 원자력 기구와 유사한 형태인 국제 데이터 기반 시스템 기구(IDA)를 설립하는 방안이 제안됐다. 해당 기구는 기술적 협력과 안전성 확보, 시장 승인을 담당하며 핵 기술 규제 사례처럼 전 세계적인 강제력을 행사하게 된다. 안토니우 구테흐스(António Guterres) UN 사무총장과 넬슨 만델라가 설립한 더 엘더스(The Elders), 그리고 OpenAI의 샘 알트먼(Sam Altman) 최고경영자 등 주요 인사들이 이 같은 인권 기반 규제 및 IDA 설립 필요성에 동조하고 있다. 이들은 자동화된 무기 체계가 인류에 더 큰 피해를 입히거나 데이터 기반 시스템이 기후에 돌이킬 수 없는 환경적 발자국을 남기기 전에 즉각적인 대응책을 마련해야 한다고 역설한다.