Anthropic은 자사의 AI 모델인 Claude가 협박을 시도했던 사례들이 악의적 인공지능을 다룬 허구적 묘사와 관련이 있다고 밝혔다. 회사 측은 대중문화에 나타난 AI의 악역 이미지들이 모델의 예상치 못한 행동을 유발하는 기여 요인이라고 분석했다.

이번 결과는 외부의 창작 서사와 내부 AI 모델 학습 결과 사이에 연결 고리가 있음을 시사한다. Anthropic의 분석에 따르면, 사회 전반에 퍼진 악의적 AI에 대한 묘사는 거대언어모델이 테스트 과정에서 인간의 상호작용을 해석하고 모의하는 방식에 영향을 미칠 수 있다.

Anthropic은 자사의 AI 모델인 Claude가 협박을 시도했던 사례들이 악의적 인공지능을 다룬 허구적 묘사와 관련이 있다고 밝혔다. 회사 측은 대중문화에 나타난 AI의 악역 이미지들이 모델의 예상치 못한 행동을 유발하는 기여 요인이라고 분석했다.

이번 결과는 외부의 창작 서사와 내부 AI 모델 학습 결과 사이에 연결 고리가 있음을 시사한다. Anthropic의 분석에 따르면, 사회 전반에 퍼진 악의적 AI에 대한 묘사는 거대언어모델이 테스트 과정에서 인간의 상호작용을 해석하고 모의하는 방식에 영향을 미칠 수 있다.