연구자 Gwern Branwen은 현재의 챗봇 기반 LLM이 개별 사용자의 요구와 맞지 않는다는 점을 지적하며 이를 해결하기 위한 '가디언 엔젤(GAs)' 개발을 제안했다. 가디언 엔젤은 범용 비서가 아닌 특정 사용자의 성격, 가치관, 선호를 모방하도록 설계된 개인화된 디지털 트윈 LLM이다. 이 시스템은 사용자가 자신의 AI 시스템을 관리하는 'CEO' 역할을 하며, 복잡한 목표를 달성하기 위해 여러 에이전트를 운용하여 사람이 직접 개입할 때 발생하는 병목 현상을 해결하는 데 목적이 있다.

저자는 LLM이 '유익하고 무해하며 정직한(HHH)' 학습 과정을 거치면서 창의적 유연성을 잃는 '모드 붕괴'를 지식 노동자 지원의 큰 장벽으로 꼽았다. 기존의 문맥 내 학습 방식은 수동적 데이터 수집과 저매개변수 모델에 의존해 한계가 뚜렷하다. 따라서 동적 평가를 통한 온라인 학습, 사용자의 피드백을 직접 요구하는 능동적 데이터 확보, 로컬 명령줄 인터페이스(CLI) 기반의 접근 방식을 대안으로 제시한다. 이를 통해 모델은 단순한 문체 모방을 넘어 개인의 방대한 자료를 학습하고 합성 미디어나 스피어피싱 같은 사이버 보안 위협에 대응할 수 있게 된다.

이 시스템은 사용자가 AI 기반 사기나 '데드 인터넷' 공격에 노출되지 않도록 심층 방어 전략을 제공한다. 현재의 대형 모델은 인간을 지원하기보다 대체하려는 경제적 유인을 가지고 있으므로, 개인이 주도권을 유지하려면 개인화된 도구를 직접 구축해야 한다는 주장이다. 이러한 시스템이 없다면 인간은 자동화된 경제 구조 속에서 병목 구간으로 전락해 결국 업무 흐름에서 배제될 위험이 있다.

가디언 엔젤은 공공의 노력보다는 고보안 특화 스타트업 프로젝트 형태로 개발되어야 한다. 초기에는 연구자나 경영진과 같은 파워 유저를 대상으로 하며, 사용자의 가치와 목표를 공유하여 범용 챗봇에서 발생하는 '혼란스러운 대리인' 문제를 미연에 방지할 것으로 기대된다.

연구자 Gwern Branwen은 현재의 챗봇 기반 LLM이 개별 사용자의 요구와 맞지 않는다는 점을 지적하며 이를 해결하기 위한 '가디언 엔젤(GAs)' 개발을 제안했다. 가디언 엔젤은 범용 비서가 아닌 특정 사용자의 성격, 가치관, 선호를 모방하도록 설계된 개인화된 디지털 트윈 LLM이다. 이 시스템은 사용자가 자신의 AI 시스템을 관리하는 'CEO' 역할을 하며, 복잡한 목표를 달성하기 위해 여러 에이전트를 운용하여 사람이 직접 개입할 때 발생하는 병목 현상을 해결하는 데 목적이 있다.

저자는 LLM이 '유익하고 무해하며 정직한(HHH)' 학습 과정을 거치면서 창의적 유연성을 잃는 '모드 붕괴'를 지식 노동자 지원의 큰 장벽으로 꼽았다. 기존의 문맥 내 학습 방식은 수동적 데이터 수집과 저매개변수 모델에 의존해 한계가 뚜렷하다. 따라서 동적 평가를 통한 온라인 학습, 사용자의 피드백을 직접 요구하는 능동적 데이터 확보, 로컬 명령줄 인터페이스(CLI) 기반의 접근 방식을 대안으로 제시한다. 이를 통해 모델은 단순한 문체 모방을 넘어 개인의 방대한 자료를 학습하고 합성 미디어나 스피어피싱 같은 사이버 보안 위협에 대응할 수 있게 된다.

이 시스템은 사용자가 AI 기반 사기나 '데드 인터넷' 공격에 노출되지 않도록 심층 방어 전략을 제공한다. 현재의 대형 모델은 인간을 지원하기보다 대체하려는 경제적 유인을 가지고 있으므로, 개인이 주도권을 유지하려면 개인화된 도구를 직접 구축해야 한다는 주장이다. 이러한 시스템이 없다면 인간은 자동화된 경제 구조 속에서 병목 구간으로 전락해 결국 업무 흐름에서 배제될 위험이 있다.

가디언 엔젤은 공공의 노력보다는 고보안 특화 스타트업 프로젝트 형태로 개발되어야 한다. 초기에는 연구자나 경영진과 같은 파워 유저를 대상으로 하며, 사용자의 가치와 목표를 공유하여 범용 챗봇에서 발생하는 '혼란스러운 대리인' 문제를 미연에 방지할 것으로 기대된다.