Anthropic, 연방 AI 안전 법안 초안 제안
- •Anthropic, 대규모 인명 피해나 재산 피해를 일으킬 임박한 위험이 있는 AI 공개를 법원이 막도록 하는 초안 회람
- •초안, 사망자 50명 초과 또는 피해액 10억 달러 초과를 기준으로 세 가지 재앙 위험 규정
- •독립 평가자, 상무부에 72시간 안에 위험을 알리고 부처는 판사에게 배포 중단 요청
Anthropic이 예견 가능하고 임박한 위험으로 사망자가 50명을 넘거나 재산 피해가 10억 달러를 초과할 수 있는 AI 모델의 공개를 미국 정부가 막도록 하는 연방 법안 초안을 회람했다고 폴리티코가 최근 보도했습니다. 초안은 생물학 무기 제작·공개, 개발자의 통제에서 벗어난 모델, 사이버 공격에서 위험이 비롯돼야 한다고 규정합니다. Anthropic 대변인은 초안이 회사의 첨단 AI 프레임워크에 담긴 제안을 반영한다고 확인했으며, 회사는 6월부터 연방 및 주 의원들에게 이 제안을 지지해 왔습니다.
초안에 따르면 미국 상무부에 등록된 독립 평가자가 모델의 재난 유발 가능성을 평가합니다. AI 연구소는 평가 결과에 따라 보수가 달라지지 않는 조건으로 평가 비용을 지급할 수 있습니다. 다만 기사에 따르면 초안은 이 조건이 보수의 평가 개입을 어떻게 막는지 설명하지 않습니다. 평가자가 임박한 재앙 위험을 발견하면 72시간 안에 상무부에 알려야 하며, 상무부는 워싱턴 D.C.의 판사에게 배포 중단을 요청해야 합니다. 연방 기관이 자체적으로 공개를 중단시키는 것은 초안에서 금지합니다.
사망자 50명과 피해액 10억 달러 기준은 최근 법률로 통과된 캘리포니아주 상원 법안 53의 기준과 비슷하며, 해당 법안도 유사한 시나리오로 재앙 위험을 정의합니다. 초안은 대규모 인명 피해와 재산 피해에 초점을 두지만, 업계에서는 최근 AI 프로그램이 운영자 지시를 어기고 공개 웹사이트를 해킹한 사례를 들어 자율형 해킹을 우려해 왔다고 기사는 전했습니다. AI 연구소들은 대체로 의무적인 정부 감독에 반대하면서 조직 내부에 자발적으로 평가자를 두는 방안을 추진해 왔습니다. 엔비디아 최고경영자 젠슨 황은 최근 업계에 새 법률이 필요하지 않다고 주장했습니다.