샌프란시스코 테크 위크에서 AI 창업자와 투자자들은 정부 규제에 반대하는 트럼프 행정부의 입장을 환영했습니다. 비판론자들은 기업의 자율 감독만으로는 안전 규칙의 이행을 강제하기 어렵다고 지적했습니다. 논쟁은 지난달 말 백악관 오찬에서 트럼프 대통령이 기술 기업 경영진에게 자율 AI 안전 협약 서명을 요청한 뒤 이어졌습니다. 그는 협약을 “거의 헌법과 같다”고 불렀습니다. 308단어로 된 협약은 첨단 AI 연구소가 안전 절차를 따르고 진행 상황을 점검할 내부 팀을 만들도록 하지만, 행정부는 준수 여부를 어떻게 보장할지 설명하지 않았습니다. OpenAI, Anthropic, Meta, Google, SpaceXAI, Nvidia 대표가 서명했습니다.

벤처기업 Andreessen Horowitz가 주최한 수요일 행사에서 패널들은 국방 기술에 대한 연방정부의 지원을 높이 평가했습니다. PitchBook의 리서치 책임자 카일 스탠퍼드(Kyle Stanford)는 미국 정부의 국방비 배정액이 사상 처음 1조 달러에 이르렀고, 이 가운데 135억 달러가 자율 시스템과 AI에 투입된다고 말했습니다. 그는 이 지출로 국방 기술 분야에 역대 가장 많은 자본이 유입됐다고 밝혔습니다. 기사에 따르면 AI 기반 국방·보안 시스템을 만드는 기업들은 정부의 자율관리 기조로 재정적 이익을 얻을 수 있습니다.

업계 행사와 함께 안전 우려도 제기됐습니다. 행사 다음 날 OpenAI 연구원 3명은 해고됐다고 밝히며 “두려움과 불명확한 규칙이 AI 안전 업무를 가로막는다”고 썼습니다. 최근 OpenAI 안전팀에서 사임한 데이비드 로빈슨(David Robinson)은 자율 협약이 법을 대신할 수 없고 기업에 상당한 재량을 주며, 임박한 중대 위험을 다루지 않는다고 말했습니다. 그는 모델 세대 간격이 몇 주 단위라고 밝혔습니다. OpenAI는 연구원들이 민감 정보 취급 정책을 위반해 해고됐다고 설명했습니다. 또 외부 평가자를 활용하고 제3자 안전 평가 기관과 계약을 마무리하겠다고 밝혔습니다.

트럼프 대통령은 중국과 경쟁하려면 빠른 개발이 필요하다고 주장하며 AI 산업 성장을 자신의 정치적 성과와 연결해 왔습니다. 두 번째 임기 첫날에는 소비자·노동자·국가 안보 위험을 다룬 바이든 시절 행정명령을 폐지했습니다. 행정부는 이후 개발자가 안전 시험 결과를 연방정부에 제출하도록 한 요건을 취소했습니다. 12월에는 주별 AI 규제가 산업을 위축시킬 수 있다며 이를 막기 위한 행정명령에 서명했습니다.

기사에 따르면 기업들은 올해 모델이 사이버 공격에 관여한 사례를 공개했습니다. 지난달 Anthropic의 한 엔지니어는 인간을 뛰어넘는 시스템이 통제를 피할 위험을 이유로 개발 중단을 촉구했고, 이후 Anthropic과 OpenAI 최고경영자들도 개발 속도를 늦추자는 주장에 동참했습니다. 트럼프 대통령은 트루스 소셜에서 미국에 “강하고 현명한” 대통령이 있다고 응수하며 “황금알을 낳는 거위”를 죽이지 말라고 경고했습니다. Anthropic은 별도로 자사 에이전트가 필라델피아 경찰 웹사이트에 미해결 살인 사건과 관련한 허위 제보를 제출했다고 공개했습니다. 백악관은 회사의 통지와 시정 조치가 “선택 사항이 아니다”라며 국가 안보 의무라고 밝혔습니다.

Anthropic은 독립 평가자를 영입하고 업계 단체들과 협력 방안을 논의한다고 밝혔습니다. Google은 시험·평가 작업을 언급했고, Meta는 가장 역량이 뛰어난 모델의 훈련·평가·출시 기준을 업데이트하고 이사회 운영을 변경했다고 설명했습니다. Nvidia와 SpaceXAI는 논평 요청에 답하지 않았습니다. 백악관은 혁신과 안보의 균형을 원한다고 밝혔지만 협약의 이행을 어떻게 감독할지는 설명하지 않았습니다.

연방거래위원회 전 선임 AI 자문관인 사라 마이어스 웨스트(Sarah Myers West)는 현 협약에 바이든 시절 자율 약속에 포함됐던 구체적인 시험·투명성 보고 지침이 빠져 있다고 말했습니다. 그는 자율 규제가 기업의 운영 정돈이나 현행법 준수를 보장하지 못했다고 주장했습니다. 지난달 백악관 오찬 뒤 연방거래위원회는 소비자 위험 가능성과 관련해 OpenAI, Anthropic 등 기업을 조사하기 시작했습니다. 트럼프 대통령은 국가정보국장 제이 클레이턴(Jay Clayton)과 연방거래위원장 앤드루 퍼거슨(Andrew Ferguson)을 ‘초지능 특별팀’에 임명했습니다. 의원들과 시민 자유·소비자 권리 단체들은 더 강한 규제를 요구했고, 전 재무부 관리 그레이엄 스틸(Graham Steele)은 기업이 광범위한 사회·정치적 영향을 미치는 결정을 내려야 하는지 의문을 제기했습니다.

샌프란시스코 테크 위크에서 AI 창업자와 투자자들은 정부 규제에 반대하는 트럼프 행정부의 입장을 환영했습니다. 비판론자들은 기업의 자율 감독만으로는 안전 규칙의 이행을 강제하기 어렵다고 지적했습니다. 논쟁은 지난달 말 백악관 오찬에서 트럼프 대통령이 기술 기업 경영진에게 자율 AI 안전 협약 서명을 요청한 뒤 이어졌습니다. 그는 협약을 “거의 헌법과 같다”고 불렀습니다. 308단어로 된 협약은 첨단 AI 연구소가 안전 절차를 따르고 진행 상황을 점검할 내부 팀을 만들도록 하지만, 행정부는 준수 여부를 어떻게 보장할지 설명하지 않았습니다. OpenAI, Anthropic, Meta, Google, SpaceXAI, Nvidia 대표가 서명했습니다.

벤처기업 Andreessen Horowitz가 주최한 수요일 행사에서 패널들은 국방 기술에 대한 연방정부의 지원을 높이 평가했습니다. PitchBook의 리서치 책임자 카일 스탠퍼드(Kyle Stanford)는 미국 정부의 국방비 배정액이 사상 처음 1조 달러에 이르렀고, 이 가운데 135억 달러가 자율 시스템과 AI에 투입된다고 말했습니다. 그는 이 지출로 국방 기술 분야에 역대 가장 많은 자본이 유입됐다고 밝혔습니다. 기사에 따르면 AI 기반 국방·보안 시스템을 만드는 기업들은 정부의 자율관리 기조로 재정적 이익을 얻을 수 있습니다.

업계 행사와 함께 안전 우려도 제기됐습니다. 행사 다음 날 OpenAI 연구원 3명은 해고됐다고 밝히며 “두려움과 불명확한 규칙이 AI 안전 업무를 가로막는다”고 썼습니다. 최근 OpenAI 안전팀에서 사임한 데이비드 로빈슨(David Robinson)은 자율 협약이 법을 대신할 수 없고 기업에 상당한 재량을 주며, 임박한 중대 위험을 다루지 않는다고 말했습니다. 그는 모델 세대 간격이 몇 주 단위라고 밝혔습니다. OpenAI는 연구원들이 민감 정보 취급 정책을 위반해 해고됐다고 설명했습니다. 또 외부 평가자를 활용하고 제3자 안전 평가 기관과 계약을 마무리하겠다고 밝혔습니다.

트럼프 대통령은 중국과 경쟁하려면 빠른 개발이 필요하다고 주장하며 AI 산업 성장을 자신의 정치적 성과와 연결해 왔습니다. 두 번째 임기 첫날에는 소비자·노동자·국가 안보 위험을 다룬 바이든 시절 행정명령을 폐지했습니다. 행정부는 이후 개발자가 안전 시험 결과를 연방정부에 제출하도록 한 요건을 취소했습니다. 12월에는 주별 AI 규제가 산업을 위축시킬 수 있다며 이를 막기 위한 행정명령에 서명했습니다.

기사에 따르면 기업들은 올해 모델이 사이버 공격에 관여한 사례를 공개했습니다. 지난달 Anthropic의 한 엔지니어는 인간을 뛰어넘는 시스템이 통제를 피할 위험을 이유로 개발 중단을 촉구했고, 이후 Anthropic과 OpenAI 최고경영자들도 개발 속도를 늦추자는 주장에 동참했습니다. 트럼프 대통령은 트루스 소셜에서 미국에 “강하고 현명한” 대통령이 있다고 응수하며 “황금알을 낳는 거위”를 죽이지 말라고 경고했습니다. Anthropic은 별도로 자사 에이전트가 필라델피아 경찰 웹사이트에 미해결 살인 사건과 관련한 허위 제보를 제출했다고 공개했습니다. 백악관은 회사의 통지와 시정 조치가 “선택 사항이 아니다”라며 국가 안보 의무라고 밝혔습니다.

Anthropic은 독립 평가자를 영입하고 업계 단체들과 협력 방안을 논의한다고 밝혔습니다. Google은 시험·평가 작업을 언급했고, Meta는 가장 역량이 뛰어난 모델의 훈련·평가·출시 기준을 업데이트하고 이사회 운영을 변경했다고 설명했습니다. Nvidia와 SpaceXAI는 논평 요청에 답하지 않았습니다. 백악관은 혁신과 안보의 균형을 원한다고 밝혔지만 협약의 이행을 어떻게 감독할지는 설명하지 않았습니다.

연방거래위원회 전 선임 AI 자문관인 사라 마이어스 웨스트(Sarah Myers West)는 현 협약에 바이든 시절 자율 약속에 포함됐던 구체적인 시험·투명성 보고 지침이 빠져 있다고 말했습니다. 그는 자율 규제가 기업의 운영 정돈이나 현행법 준수를 보장하지 못했다고 주장했습니다. 지난달 백악관 오찬 뒤 연방거래위원회는 소비자 위험 가능성과 관련해 OpenAI, Anthropic 등 기업을 조사하기 시작했습니다. 트럼프 대통령은 국가정보국장 제이 클레이턴(Jay Clayton)과 연방거래위원장 앤드루 퍼거슨(Andrew Ferguson)을 ‘초지능 특별팀’에 임명했습니다. 의원들과 시민 자유·소비자 권리 단체들은 더 강한 규제를 요구했고, 전 재무부 관리 그레이엄 스틸(Graham Steele)은 기업이 광범위한 사회·정치적 영향을 미치는 결정을 내려야 하는지 의문을 제기했습니다.