Anthropic 공동창업자 벤저민 만(Benjamin Mann)은 10월 14일 수요일 싱가포르에서 열린 빌더 서밋에서 고객이 회사의 가장 강력한 AI 모델을 어떻게 사용하는지 계속 감독하겠다고 밝혔습니다. Anthropic은 고객이 민감한 작업을 자사 시스템에서 처리하도록 하면서 오용도 감지하려 합니다. 만은 Anthropic의 아시아·태평양 지역 다섯 번째 사무소 개소를 위해 싱가포르를 방문했습니다.

Anthropic은 9월에 기업 프런티어 안전장치 프로그램을 도입했습니다. 이 프로그램은 자격을 갖춘 고객에게 데이터 보존 기간을 0으로 하는 조치 등 더 강력한 데이터 개인정보 보호를 제공하면서 오용 감지 안전장치를 유지합니다. Anthropic은 국가 및 비국가 행위자들이 Claude를 군사적 목적이나 다른 유해한 목적으로 쓰려 한 사례를 정기적으로 공개합니다. 주장된 사례 중 하나로 예멘 북부의 무기 개발 조직이 탄도미사일 개발에 이 모델을 쓰려 했습니다.

회사 자료에 따르면 싱가포르는 인구 대비 Claude 사용량에서 121곳 중 2위이며, 인구 규모로 예상되는 수준의 거의 6배에 이릅니다. Anthropic은 GovTech 엔지니어 1,500명 넘게 Claude Code를 사용한다고 밝혔으며, DBS와 GIC, Grab도 Claude를 활용하고 있습니다. OpenAI는 2024년 말 싱가포르 사무소를 열고 현지 AI 생태계에 3억 싱가포르 달러(2억 3,400만 달러)를 투입하기로 했습니다. 싱가포르는 중국 오픈소스 모델에도 관심을 보여 왔으며, 자체 개발 모델 SEA-LION은 Alibaba의 Qwen을 기반으로 합니다.

DeepSeek, Moonshot AI, z.ai를 비롯한 중국 연구소의 오픈소스 모델은 낮은 가격과 프런티어에 근접한 성능, 유연성을 앞세워 사용자를 늘리고 있습니다. 올해 OpenRouter에서는 중국 모델 수요가 미국 모델 수요를 넘어섰습니다. Anthropic의 국제 사업 총괄 크리스 시아우리(Chris Ciauri)는 AI를 제로섬 게임으로 보지 않는다고 말했습니다. 만은 오픈 웨이트 모델은 공개 배포된 뒤에도 견고한 안전장치를 유지할 수 없다며, 이런 생태계를 장려하는 국가들도 더 넓은 위험을 공유한다고 경고했습니다.

Anthropic 최고경영자 다리오 아모데이(Dario Amodei)는 감독과 보안 작업이 따라잡을 수 있도록 AI 기업들이 출시를 1~2년 늦춰야 한다고 촉구해 왔습니다. 6월에는 미국의 수출 제한으로 Anthropic이 Fable 5와 Mythos 5 모델의 전 세계 접근을 중단했으며, 제한은 3주가 채 되기 전에 해제됐습니다. Anthropic의 아시아·태평양 정책 책임자 마이클 셀리토(Michael Sellitto)는 민주주의와 권리를 존중하는 국가들이 프런티어 AI 개발과 배치를 이끌어야 한다고 밝혔습니다. 만은 구체적인 일정은 제시하지 않은 채, 싱가포르의 기반 시설에 프런티어 모델을 올리기 위해 가능한 한 빠르게 작업하고 있다고 말했습니다.

Anthropic 공동창업자 벤저민 만(Benjamin Mann)은 10월 14일 수요일 싱가포르에서 열린 빌더 서밋에서 고객이 회사의 가장 강력한 AI 모델을 어떻게 사용하는지 계속 감독하겠다고 밝혔습니다. Anthropic은 고객이 민감한 작업을 자사 시스템에서 처리하도록 하면서 오용도 감지하려 합니다. 만은 Anthropic의 아시아·태평양 지역 다섯 번째 사무소 개소를 위해 싱가포르를 방문했습니다.

Anthropic은 9월에 기업 프런티어 안전장치 프로그램을 도입했습니다. 이 프로그램은 자격을 갖춘 고객에게 데이터 보존 기간을 0으로 하는 조치 등 더 강력한 데이터 개인정보 보호를 제공하면서 오용 감지 안전장치를 유지합니다. Anthropic은 국가 및 비국가 행위자들이 Claude를 군사적 목적이나 다른 유해한 목적으로 쓰려 한 사례를 정기적으로 공개합니다. 주장된 사례 중 하나로 예멘 북부의 무기 개발 조직이 탄도미사일 개발에 이 모델을 쓰려 했습니다.

회사 자료에 따르면 싱가포르는 인구 대비 Claude 사용량에서 121곳 중 2위이며, 인구 규모로 예상되는 수준의 거의 6배에 이릅니다. Anthropic은 GovTech 엔지니어 1,500명 넘게 Claude Code를 사용한다고 밝혔으며, DBS와 GIC, Grab도 Claude를 활용하고 있습니다. OpenAI는 2024년 말 싱가포르 사무소를 열고 현지 AI 생태계에 3억 싱가포르 달러(2억 3,400만 달러)를 투입하기로 했습니다. 싱가포르는 중국 오픈소스 모델에도 관심을 보여 왔으며, 자체 개발 모델 SEA-LION은 Alibaba의 Qwen을 기반으로 합니다.

DeepSeek, Moonshot AI, z.ai를 비롯한 중국 연구소의 오픈소스 모델은 낮은 가격과 프런티어에 근접한 성능, 유연성을 앞세워 사용자를 늘리고 있습니다. 올해 OpenRouter에서는 중국 모델 수요가 미국 모델 수요를 넘어섰습니다. Anthropic의 국제 사업 총괄 크리스 시아우리(Chris Ciauri)는 AI를 제로섬 게임으로 보지 않는다고 말했습니다. 만은 오픈 웨이트 모델은 공개 배포된 뒤에도 견고한 안전장치를 유지할 수 없다며, 이런 생태계를 장려하는 국가들도 더 넓은 위험을 공유한다고 경고했습니다.

Anthropic 최고경영자 다리오 아모데이(Dario Amodei)는 감독과 보안 작업이 따라잡을 수 있도록 AI 기업들이 출시를 1~2년 늦춰야 한다고 촉구해 왔습니다. 6월에는 미국의 수출 제한으로 Anthropic이 Fable 5와 Mythos 5 모델의 전 세계 접근을 중단했으며, 제한은 3주가 채 되기 전에 해제됐습니다. Anthropic의 아시아·태평양 정책 책임자 마이클 셀리토(Michael Sellitto)는 민주주의와 권리를 존중하는 국가들이 프런티어 AI 개발과 배치를 이끌어야 한다고 밝혔습니다. 만은 구체적인 일정은 제시하지 않은 채, 싱가포르의 기반 시설에 프런티어 모델을 올리기 위해 가능한 한 빠르게 작업하고 있다고 말했습니다.