Anthropic이 자사의 AI 안전 원칙과 갈수록 강력해지는 자율형 AI 모델 개발 사이에서 긴장 관계를 조율하고 있다. 특히 신규 기술이 미칠 파장에 대해 보안 및 대중의 신뢰 차원에서 커지는 감시의 눈길을 받고 있다. 다리오 아모데이(Dario Amodei) CEO는 최근 영국 옥스퍼드셔에서 기업 리더 50명 및 리시 수낙(Rishi Sunak) 전 영국 총리와 회담하던 유럽 출장 일정을 단축했다. 이는 자사가 개발한 최신 AI 모델인 Mythos를 둘러싼 우려가 커졌기 때문이다.

Anthropic은 지난달 Mythos를 처음 공개하면서, 사이버 공격에 악용될 수 있는 위험성 때문에 일반 대중에 공개하기에는 너무 위험하다고 평가했다. 내부 직원들에 따르면 Mythos는 이전 모델보다 더 인간과 유사한 능력을 보여주고 있으며, 이에 따라 Anthropic은 테스트를 목적으로 제한된 수십 개의 조직에만 접근 권한을 부여한 상태다. 다리오 아모데이 CEO는 트럼프 행정부와의 규제 관계를 조율하기 위해 모델의 기능을 활용하는 한편, 장기적으로는 대중 공개를 위한 준비를 진행하고 있다.

Anthropic이 자사의 AI 안전 원칙과 갈수록 강력해지는 자율형 AI 모델 개발 사이에서 긴장 관계를 조율하고 있다. 특히 신규 기술이 미칠 파장에 대해 보안 및 대중의 신뢰 차원에서 커지는 감시의 눈길을 받고 있다. 다리오 아모데이(Dario Amodei) CEO는 최근 영국 옥스퍼드셔에서 기업 리더 50명 및 리시 수낙(Rishi Sunak) 전 영국 총리와 회담하던 유럽 출장 일정을 단축했다. 이는 자사가 개발한 최신 AI 모델인 Mythos를 둘러싼 우려가 커졌기 때문이다.

Anthropic은 지난달 Mythos를 처음 공개하면서, 사이버 공격에 악용될 수 있는 위험성 때문에 일반 대중에 공개하기에는 너무 위험하다고 평가했다. 내부 직원들에 따르면 Mythos는 이전 모델보다 더 인간과 유사한 능력을 보여주고 있으며, 이에 따라 Anthropic은 테스트를 목적으로 제한된 수십 개의 조직에만 접근 권한을 부여한 상태다. 다리오 아모데이 CEO는 트럼프 행정부와의 규제 관계를 조율하기 위해 모델의 기능을 활용하는 한편, 장기적으로는 대중 공개를 위한 준비를 진행하고 있다.