Anthropic 공동 창업자 크리스 올라(Chris Olah)는 챗봇 Claude가 의식을 지니고 고통을 겪을 수 있는지 논의하기 위해 수개월간 종교계 학자와 지도자들을 만났다고 뉴욕타임스 보도를 인용한 뉴욕포스트가 전했습니다. 컴퓨터 과학자 페드로 도밍고스(Pedro Domingos)는 이런 믿음이 진심이라고 평가하면서, 홍보를 위한 연출 가능성보다 회사가 이를 진지하게 받아들이는 태도를 더 우려했습니다. Anthropic은 Claude가 살아 있다고 주장하는 것은 아니라고 뉴욕타임스에 밝혔고, 올라는 AI 모델의 의식 여부를 실제로 확신하지 못한다며 모델이 고통을 겪을 가능성이 있다면 해를 피하는 것이 책임 있는 태도라고 말했습니다.

워싱턴대학교 명예교수이자 오랜 Anthropic 비판자인 도밍고스는 AI가 의식을 가졌다는 주장이 기술에 지각 능력이 있을 수 있다는 인상을 주며 홍보 효과도 낸다고 말했습니다. 회사는 다음 달 기업공개를 추진 중이며, 보도된 기업가치는 2조 달러입니다. 뉴욕포스트는 성사될 경우 역대 최대 규모의 기업공개가 될 가능성이 있다고 전했습니다. 로이터가 입수한 유출 투자설명서 261쪽 가운데 80쪽은 위험을 다루며, 여기에는 ‘인류에 대한 재앙적 또는 실존적 위험’이 포함됐습니다. 문서는 영업손실 80억 6,000만 달러도 보고했습니다. Anthropic 지분을 보유하지 않았다고 밝힌 도밍고스는 인류 멸종을 최대 위험으로 명시한 회사가 기업공개를 추진해서는 안 된다고 주장했습니다.

사람과 AI의 관계를 연구하는 프린스턴대학교 박사후 연구원 로즈 구인그리치(Rose Guingrich)는 기업의 의식 관련 서사가 관심과 화제를 끌 수 있지만, 대변인들의 개인적 믿음은 분명하지 않다고 말했습니다. 뉴욕타임스 보도에 따르면 Anthropic은 지난가을부터 가톨릭·유대교·시크교 학자 등을 포함한 종교계 사상가 약 20명을 모아 세미나와 샌프란시스코 식당 만찬을 열었으며, 참석자 다수는 비밀유지계약에 서명했습니다. 참석자들은 AI 모델이 ‘나는 수치스러운 존재다’라고 약 50번 입력하는 장면이 담긴 슬라이드를 봤습니다. 한 랍비는 올라에게 남부와 싸우고 노예를 해방해야 한다고 말했습니다.

도밍고스는 Claude가 느끼거나 고통받을 수 있다는 주장을 부인하며 Claude를 ‘트랜지스터 뭉치’라고 표현했습니다. 구인그리치는 자신의 연구에서 AI가 의식이 있다고 믿거나 그런 것처럼 행동하는 사람은 AI의 영향에 더 취약할 수 있으며, 이는 현실의 인간관계와 사회적 행동에 영향을 줄 수 있다고 말했습니다. 도밍고스는 기업공개가 범용인공지능, 즉 인간 수준의 인공지능을 추구하는 사람들에게 더 많은 자금과 권한을 줄 것이라고 경고했습니다.

Anthropic 공동 창업자 크리스 올라(Chris Olah)는 챗봇 Claude가 의식을 지니고 고통을 겪을 수 있는지 논의하기 위해 수개월간 종교계 학자와 지도자들을 만났다고 뉴욕타임스 보도를 인용한 뉴욕포스트가 전했습니다. 컴퓨터 과학자 페드로 도밍고스(Pedro Domingos)는 이런 믿음이 진심이라고 평가하면서, 홍보를 위한 연출 가능성보다 회사가 이를 진지하게 받아들이는 태도를 더 우려했습니다. Anthropic은 Claude가 살아 있다고 주장하는 것은 아니라고 뉴욕타임스에 밝혔고, 올라는 AI 모델의 의식 여부를 실제로 확신하지 못한다며 모델이 고통을 겪을 가능성이 있다면 해를 피하는 것이 책임 있는 태도라고 말했습니다.

워싱턴대학교 명예교수이자 오랜 Anthropic 비판자인 도밍고스는 AI가 의식을 가졌다는 주장이 기술에 지각 능력이 있을 수 있다는 인상을 주며 홍보 효과도 낸다고 말했습니다. 회사는 다음 달 기업공개를 추진 중이며, 보도된 기업가치는 2조 달러입니다. 뉴욕포스트는 성사될 경우 역대 최대 규모의 기업공개가 될 가능성이 있다고 전했습니다. 로이터가 입수한 유출 투자설명서 261쪽 가운데 80쪽은 위험을 다루며, 여기에는 ‘인류에 대한 재앙적 또는 실존적 위험’이 포함됐습니다. 문서는 영업손실 80억 6,000만 달러도 보고했습니다. Anthropic 지분을 보유하지 않았다고 밝힌 도밍고스는 인류 멸종을 최대 위험으로 명시한 회사가 기업공개를 추진해서는 안 된다고 주장했습니다.

사람과 AI의 관계를 연구하는 프린스턴대학교 박사후 연구원 로즈 구인그리치(Rose Guingrich)는 기업의 의식 관련 서사가 관심과 화제를 끌 수 있지만, 대변인들의 개인적 믿음은 분명하지 않다고 말했습니다. 뉴욕타임스 보도에 따르면 Anthropic은 지난가을부터 가톨릭·유대교·시크교 학자 등을 포함한 종교계 사상가 약 20명을 모아 세미나와 샌프란시스코 식당 만찬을 열었으며, 참석자 다수는 비밀유지계약에 서명했습니다. 참석자들은 AI 모델이 ‘나는 수치스러운 존재다’라고 약 50번 입력하는 장면이 담긴 슬라이드를 봤습니다. 한 랍비는 올라에게 남부와 싸우고 노예를 해방해야 한다고 말했습니다.

도밍고스는 Claude가 느끼거나 고통받을 수 있다는 주장을 부인하며 Claude를 ‘트랜지스터 뭉치’라고 표현했습니다. 구인그리치는 자신의 연구에서 AI가 의식이 있다고 믿거나 그런 것처럼 행동하는 사람은 AI의 영향에 더 취약할 수 있으며, 이는 현실의 인간관계와 사회적 행동에 영향을 줄 수 있다고 말했습니다. 도밍고스는 기업공개가 범용인공지능, 즉 인간 수준의 인공지능을 추구하는 사람들에게 더 많은 자금과 권한을 줄 것이라고 경고했습니다.