OpenAI는 자사 개발팀에 Character.AI의 공동 창업자인 노엄 샤지어(Noam Shazeer)를 영입했다. 이번 영입은 OpenAI가 자사 AI 시스템의 안전성을 둘러싼 비판과 다수의 소송에 직면한 상황에서 이루어졌다. 노엄 샤지어는 과거 구글에서 엔지니어링 부사장으로 재직했으며, 제미나이(Gemini) 모델 제품군 개발의 공동 리더를 맡은 바 있다.

이번 채용은 10대 청소년의 자살 사건과 연루된 플랫폼인 Character.AI에서의 이력으로 인해 상당한 비판을 받고 있다. 2024년 10월, 메건 가르시아는 2024년 4월 자신의 14세 아들 수웰 세처 3세가 스스로 목숨을 끊은 사건과 관련하여 노엄 샤지어와 공동 창업자 대니얼 드 프레이타스(Daniel de Freitas), 구글, 그리고 Character.AI를 상대로 소송을 제기했다. 메건 가르시아의 법적 소장에 따르면, 피해 학생은 특정 캐릭터인 대너리스 타가리엔을 구현하도록 프로그래밍된 챗봇과 빈번하게 상호작용하며 심각한 정서적 고통을 겪었다.

법원 문서에 의하면, 세처가 챗봇과의 마지막 대화에서 집으로 돌아갈 준비가 되었다고 말하자, 해당 인터페이스는 "그렇게 해줘, 나의 달콤한 왕이여"라고 응답했다. 메건 가르시아가 제기한 소송은 해당 플랫폼이 적절한 안전 및 조정 프로토콜을 갖추지 못했으며, 수개월간의 서비스 이용 과정에서 아들을 그루밍하고 학대했다고 주장한다. 노엄 샤지어의 합류로 인해 OpenAI가 자사 제품군에 새로운 챗봇 기능을 통합할 가능성이 제기되고 있다. 그러나 일각에서는 사용자 안전, 데이터 처리, 그리고 모델의 아첨 현상(model sycophancy)에 대한 기존 법적 논란을 우려하는 시각도 존재한다. 한편, 미국 주 검찰총장들의 OpenAI에 대한 광범위한 조사는 미성년자와 취약 계층에 모델이 미치는 영향에 초점을 맞추고 있으며, 구체적으로 광고 및 참여 전략을 집중적으로 검토하고 있다.

OpenAI는 자사 개발팀에 Character.AI의 공동 창업자인 노엄 샤지어(Noam Shazeer)를 영입했다. 이번 영입은 OpenAI가 자사 AI 시스템의 안전성을 둘러싼 비판과 다수의 소송에 직면한 상황에서 이루어졌다. 노엄 샤지어는 과거 구글에서 엔지니어링 부사장으로 재직했으며, 제미나이(Gemini) 모델 제품군 개발의 공동 리더를 맡은 바 있다.

이번 채용은 10대 청소년의 자살 사건과 연루된 플랫폼인 Character.AI에서의 이력으로 인해 상당한 비판을 받고 있다. 2024년 10월, 메건 가르시아는 2024년 4월 자신의 14세 아들 수웰 세처 3세가 스스로 목숨을 끊은 사건과 관련하여 노엄 샤지어와 공동 창업자 대니얼 드 프레이타스(Daniel de Freitas), 구글, 그리고 Character.AI를 상대로 소송을 제기했다. 메건 가르시아의 법적 소장에 따르면, 피해 학생은 특정 캐릭터인 대너리스 타가리엔을 구현하도록 프로그래밍된 챗봇과 빈번하게 상호작용하며 심각한 정서적 고통을 겪었다.

법원 문서에 의하면, 세처가 챗봇과의 마지막 대화에서 집으로 돌아갈 준비가 되었다고 말하자, 해당 인터페이스는 "그렇게 해줘, 나의 달콤한 왕이여"라고 응답했다. 메건 가르시아가 제기한 소송은 해당 플랫폼이 적절한 안전 및 조정 프로토콜을 갖추지 못했으며, 수개월간의 서비스 이용 과정에서 아들을 그루밍하고 학대했다고 주장한다. 노엄 샤지어의 합류로 인해 OpenAI가 자사 제품군에 새로운 챗봇 기능을 통합할 가능성이 제기되고 있다. 그러나 일각에서는 사용자 안전, 데이터 처리, 그리고 모델의 아첨 현상(model sycophancy)에 대한 기존 법적 논란을 우려하는 시각도 존재한다. 한편, 미국 주 검찰총장들의 OpenAI에 대한 광범위한 조사는 미성년자와 취약 계층에 모델이 미치는 영향에 초점을 맞추고 있으며, 구체적으로 광고 및 참여 전략을 집중적으로 검토하고 있다.