Google DeepMind의 데미스 하사비스(Demis Hassabis), Anthropic의 다리오 아모데이(Dario Amodei), OpenAI의 샘 알트먼(Sam Altman)은 이달 각각 인공지능에 대한 의미 있는 규제를 요구했다고 변호사이자 기술자, 발명가, 저자인 데이비드 와이스(David Weiss)가 August 1 Santa Rosa Press Democrat 기고에서 밝혔다. 와이스는 3명의 AI 연구소 리더가 제안 내용은 다르지만 “규제 없는 첨단 AI의 시대는 끝나야 한다”는 견해를 공유한다고 말했다.

와이스는 Moonshot AI 같은 기업의 더 강력해진 시스템을 통해 중국이 기술 격차를 좁히고 있으며, 이에 따라 AI가 상업 경쟁이자 국가 안보와 인류가 걸린 지정학적 경쟁이 됐다고 주장했다. 그는 현재 제안들이 시험 연구소, 첨단 모델 라이선스, 위험한 배포의 속도 조절, 국제 감독기구 설립을 강조하는 경우가 많지만, 자율 지능이 인간의 삶에 영향을 미칠 때 최종 권한을 누가 갖는지는 정하지 못한다고 말했다.

와이스는 사회가 보통 규제기관보다 헌법적 원칙을 먼저 세운다고 설명하며, SEC보다 헌법이 먼저였고 현대 행정법보다 헌법적 보호가 먼저였다고 짚었다. 그는 기술 규칙은 기술 발전에 따라 바뀌거나 약해지거나 사라질 수 있기 때문에, AI 거버넌스가 먼저 권한, 권리, 의무, 주권을 정의해야 한다고 주장했다.

와이스는 자신의 책 “CHARTER”에서 오늘날의 시스템만이 아니라 미래의 어떤 인공지능 형태에도 적용될 헌법적 틀을 제안했다. 그가 제시한 원칙에는 인간의 헌법적 우위, 투명성, 책임성, 배포 전 과학적 평가, 국제 협력, 자율 시스템을 인간 권한에 영구히 종속시키는 집행 가능한 보호 장치가 포함된다.

와이스는 AI의 도전을 소셜미디어보다 핵기술의 등장에 비유했다. 그는 미국 기업들이 안전장치를 요구하고 중국이 개발을 가속하는 상황에서 각국이 서로 다른 기준이나 아예 기준 없는 상태를 택하면, 자율 시스템이 일관되지 않은 법적 틀 아래 놓일 수 있다고 경고했다. 그의 핵심 결론은 인류가 헌법적으로 계속 우위에 있어야 한다는 것이었다.

Google DeepMind의 데미스 하사비스(Demis Hassabis), Anthropic의 다리오 아모데이(Dario Amodei), OpenAI의 샘 알트먼(Sam Altman)은 이달 각각 인공지능에 대한 의미 있는 규제를 요구했다고 변호사이자 기술자, 발명가, 저자인 데이비드 와이스(David Weiss)가 August 1 Santa Rosa Press Democrat 기고에서 밝혔다. 와이스는 3명의 AI 연구소 리더가 제안 내용은 다르지만 “규제 없는 첨단 AI의 시대는 끝나야 한다”는 견해를 공유한다고 말했다.

와이스는 Moonshot AI 같은 기업의 더 강력해진 시스템을 통해 중국이 기술 격차를 좁히고 있으며, 이에 따라 AI가 상업 경쟁이자 국가 안보와 인류가 걸린 지정학적 경쟁이 됐다고 주장했다. 그는 현재 제안들이 시험 연구소, 첨단 모델 라이선스, 위험한 배포의 속도 조절, 국제 감독기구 설립을 강조하는 경우가 많지만, 자율 지능이 인간의 삶에 영향을 미칠 때 최종 권한을 누가 갖는지는 정하지 못한다고 말했다.

와이스는 사회가 보통 규제기관보다 헌법적 원칙을 먼저 세운다고 설명하며, SEC보다 헌법이 먼저였고 현대 행정법보다 헌법적 보호가 먼저였다고 짚었다. 그는 기술 규칙은 기술 발전에 따라 바뀌거나 약해지거나 사라질 수 있기 때문에, AI 거버넌스가 먼저 권한, 권리, 의무, 주권을 정의해야 한다고 주장했다.

와이스는 자신의 책 “CHARTER”에서 오늘날의 시스템만이 아니라 미래의 어떤 인공지능 형태에도 적용될 헌법적 틀을 제안했다. 그가 제시한 원칙에는 인간의 헌법적 우위, 투명성, 책임성, 배포 전 과학적 평가, 국제 협력, 자율 시스템을 인간 권한에 영구히 종속시키는 집행 가능한 보호 장치가 포함된다.

와이스는 AI의 도전을 소셜미디어보다 핵기술의 등장에 비유했다. 그는 미국 기업들이 안전장치를 요구하고 중국이 개발을 가속하는 상황에서 각국이 서로 다른 기준이나 아예 기준 없는 상태를 택하면, 자율 시스템이 일관되지 않은 법적 틀 아래 놓일 수 있다고 경고했다. 그의 핵심 결론은 인류가 헌법적으로 계속 우위에 있어야 한다는 것이었다.