研究者のグウェン・ブランウェン(Gwern Branwen)は、現在のチャットボット型LLMの限界を克服するため、「Guardian Angels」（GA）の開発を提唱した。同氏は、現在のLLMがユーザー個人のニーズから乖離していると指摘する。GAは単なる汎用アシスタントではなく、特定のユーザーの個性や価値観、好みを模倣するパーソナルなデジタルツインとして設計される。人間の生産性と安全性を高めることを主眼としており、ユーザー自身がAIシステムの「CEO」となって複数のエージェントを指揮することで、人間の介入によるボトルネックを解消し、複雑な目標を達成することを目指す。

ブランウェンは、LLMが「役立つ・無害・誠実」を強いる過度な学習の結果、創造的な柔軟性を失う「モード崩壊」を、ナレッジワーカーを支援する上での大きな障壁と見なす。従来のコンテキスト内学習は受動的なデータ収集に依存しており不十分であるため、同氏は動的な評価によるオンライン学習、ユーザーへの能動的な質問によるデータ抽出、およびローカルのコマンドラインインターフェース（CLI）パラダイムを組み合わせた手法を推奨する。これにより、モデルは表面的な模倣を超え、個人の膨大なデータから学習し、合成メディアやスピアフィッシング攻撃といった複雑なサイバーセキュリティ脅威への対応が可能になる。

これらのシステムは、防御的戦略を提供し、「死んだインターネット」攻撃やAIによる詐欺からユーザーを守る。現在のフロンティアモデルは人間を補完するよりも代替することに経済的インセンティブが働いているため、個人は主体的エージェンシー（主体性）を維持するために、自らパーソナルツールを構築する必要がある。さもなければ、ユーザーは自動化が進む経済の中でボトルネックとなり、ワークフローから排除されるリスクがある。

同氏は、GAをコミュニティベースのプロジェクトではなく、高いセキュリティを確保した専門的なスタートアッププロジェクトとして開発すべきだと強調する。特に研究者やエグゼクティブといったパワーユーザーを初期ターゲットとし、ユーザー自身の価値観を共有することで、汎用チャットボットに見られる「混乱した代理人」問題を回避し、信頼できるシステムを構築する戦略である。

研究者のグウェン・ブランウェン(Gwern Branwen)は、現在のチャットボット型LLMの限界を克服するため、「Guardian Angels」（GA）の開発を提唱した。同氏は、現在のLLMがユーザー個人のニーズから乖離していると指摘する。GAは単なる汎用アシスタントではなく、特定のユーザーの個性や価値観、好みを模倣するパーソナルなデジタルツインとして設計される。人間の生産性と安全性を高めることを主眼としており、ユーザー自身がAIシステムの「CEO」となって複数のエージェントを指揮することで、人間の介入によるボトルネックを解消し、複雑な目標を達成することを目指す。

ブランウェンは、LLMが「役立つ・無害・誠実」を強いる過度な学習の結果、創造的な柔軟性を失う「モード崩壊」を、ナレッジワーカーを支援する上での大きな障壁と見なす。従来のコンテキスト内学習は受動的なデータ収集に依存しており不十分であるため、同氏は動的な評価によるオンライン学習、ユーザーへの能動的な質問によるデータ抽出、およびローカルのコマンドラインインターフェース（CLI）パラダイムを組み合わせた手法を推奨する。これにより、モデルは表面的な模倣を超え、個人の膨大なデータから学習し、合成メディアやスピアフィッシング攻撃といった複雑なサイバーセキュリティ脅威への対応が可能になる。

これらのシステムは、防御的戦略を提供し、「死んだインターネット」攻撃やAIによる詐欺からユーザーを守る。現在のフロンティアモデルは人間を補完するよりも代替することに経済的インセンティブが働いているため、個人は主体的エージェンシー（主体性）を維持するために、自らパーソナルツールを構築する必要がある。さもなければ、ユーザーは自動化が進む経済の中でボトルネックとなり、ワークフローから排除されるリスクがある。

同氏は、GAをコミュニティベースのプロジェクトではなく、高いセキュリティを確保した専門的なスタートアッププロジェクトとして開発すべきだと強調する。特に研究者やエグゼクティブといったパワーユーザーを初期ターゲットとし、ユーザー自身の価値観を共有することで、汎用チャットボットに見られる「混乱した代理人」問題を回避し、信頼できるシステムを構築する戦略である。