カカオは13日、京畿道・龍仁市のカカオAIキャンパスで開いた開発者会議「if kakao」で、カカオトークに個人向けAIエージェントを導入するためのモデル、サービス戦略、運用体制を発表しました。月間利用者約5,000万人が24時間使うサービスでは、処理速度やコスト、安定性に加え、個人情報と実行権限の管理が課題だと説明しました。

カカオは依頼の難しさに応じてモデルの規模を変え、費用と応答速度を管理します。繰り返しの多い明確な依頼には小型言語モデル（SLM）、スマートフォンで処理できる作業にはオンデバイスモデル（端末上で動作するAIモデル）、難しい依頼にはフロンティアモデルを使います。サーバーが扱う依頼の大半はフラッグシップモデルが担当します。依頼を理解して適切なモデルやツールを選び、実行順序を決める「AIコンダクター」も設けます。分野ごとに優れたモデルの能力を小型モデルへ移すMOPD学習方式も活用しました。

カカオの統合基盤モデル成果リーダー、ノ・ビョンソク氏は、韓国語に合わせて独自開発したトークナイザー（文章を処理単位に分割する仕組み）により、文章処理効率が世界の競合モデルより1.6倍高まったと説明しました。回答の生成速度は平均3.9倍になり、モデル軽量化の手法でメモリー使用量は約70％減りました。同じGPUで処理できる量は約1.6倍に増えたとしています。カカオは、テキスト・画像・音声を同時に理解して音声で答える「Kanana-o」を基盤としたサービスや、感情や抑揚を表現する音声技術を開発中です。「カナナライブ」は、相手が話し終える前に聞いて答えることや、韓国語を聞きながら英語に通訳する機能を目指します。

エージェント型AIは、依頼を実際の行動まで完了させることを重視します。たとえば飲食店の推薦を頼まれると、予約可能な時間を確認し、利用者の承認を得てから予約と共有まで行います。カカオは評価基準を回答の質から、依頼された作業が実際に完了したかどうかへ移すと説明しました。そのため、意図の把握やツール選択、複数段階の結果確認と計画修正が必要です。AIコンダクターは依頼を細かな作業に分け、検索・認識・理解を担う専門エージェントを調整します。

カカオの最高技術責任者（CTO）、ソン・ジェハ氏は、個人向けサービスには利用者の記憶を引き継ぐ仕組みと、許可された範囲で作業するプラットフォームが必要だと述べました。「プロジェクト・モザイク」は、カカオトークや複数のエージェントで利用者に関する記憶と会話の文脈を引き継ぐ技術です。カカオは利用者の行動から確認できた事実とAIによる解釈を区別し、情報の出所と時点も記録します。子ども服を一度買った記録だけで好みの商品と決めつけることはできず、姪や甥への贈り物かもしれないと例を挙げました。購入履歴は再注文に使えても、配送情報は配達完了後に有効でなくなる場合があるため、情報の有効期間も考慮します。

別のサービスに記憶を渡す際は、同意の範囲を確認します。特定のサービスだけで使う許可を得た情報は他のサービスへ自動で渡さず、依頼されたサービスで使ってよい情報か判断して、許可された内容だけを共有します。行動の前にはデータの利用目的と同意の有無を確かめ、誤った情報はそのデータを管理する組織が点検します。以前買った商品の再注文を頼まれた際、別の商品に変えるよう促す指示にそのまま従う例のように、許可されていない行動も判別する必要があります。カカオは最終回答だけでなく作業計画と実行過程も検証し、許可範囲を超えた場合は停止して利用者に確認する仕組みを整えていると述べました。

サービスの安定性も課題です。ソンCTOによると、カカオのサービスでは通常時の7倍から最大18倍の利用者が集中する状況が繰り返し起きます。カカオは利用量に応じてサーバー資源を分け、自社システムに外部クラウドサーバーを接続して、トラフィックが急増した際に資源を増やす方法を準備しています。ソンCTOは、良い回答ができたかよりも、依頼された条件どおりに注文が確定することが重要だと述べました。

カカオは13日、京畿道・龍仁市のカカオAIキャンパスで開いた開発者会議「if kakao」で、カカオトークに個人向けAIエージェントを導入するためのモデル、サービス戦略、運用体制を発表しました。月間利用者約5,000万人が24時間使うサービスでは、処理速度やコスト、安定性に加え、個人情報と実行権限の管理が課題だと説明しました。

カカオは依頼の難しさに応じてモデルの規模を変え、費用と応答速度を管理します。繰り返しの多い明確な依頼には小型言語モデル（SLM）、スマートフォンで処理できる作業にはオンデバイスモデル（端末上で動作するAIモデル）、難しい依頼にはフロンティアモデルを使います。サーバーが扱う依頼の大半はフラッグシップモデルが担当します。依頼を理解して適切なモデルやツールを選び、実行順序を決める「AIコンダクター」も設けます。分野ごとに優れたモデルの能力を小型モデルへ移すMOPD学習方式も活用しました。

カカオの統合基盤モデル成果リーダー、ノ・ビョンソク氏は、韓国語に合わせて独自開発したトークナイザー（文章を処理単位に分割する仕組み）により、文章処理効率が世界の競合モデルより1.6倍高まったと説明しました。回答の生成速度は平均3.9倍になり、モデル軽量化の手法でメモリー使用量は約70％減りました。同じGPUで処理できる量は約1.6倍に増えたとしています。カカオは、テキスト・画像・音声を同時に理解して音声で答える「Kanana-o」を基盤としたサービスや、感情や抑揚を表現する音声技術を開発中です。「カナナライブ」は、相手が話し終える前に聞いて答えることや、韓国語を聞きながら英語に通訳する機能を目指します。

エージェント型AIは、依頼を実際の行動まで完了させることを重視します。たとえば飲食店の推薦を頼まれると、予約可能な時間を確認し、利用者の承認を得てから予約と共有まで行います。カカオは評価基準を回答の質から、依頼された作業が実際に完了したかどうかへ移すと説明しました。そのため、意図の把握やツール選択、複数段階の結果確認と計画修正が必要です。AIコンダクターは依頼を細かな作業に分け、検索・認識・理解を担う専門エージェントを調整します。

カカオの最高技術責任者（CTO）、ソン・ジェハ氏は、個人向けサービスには利用者の記憶を引き継ぐ仕組みと、許可された範囲で作業するプラットフォームが必要だと述べました。「プロジェクト・モザイク」は、カカオトークや複数のエージェントで利用者に関する記憶と会話の文脈を引き継ぐ技術です。カカオは利用者の行動から確認できた事実とAIによる解釈を区別し、情報の出所と時点も記録します。子ども服を一度買った記録だけで好みの商品と決めつけることはできず、姪や甥への贈り物かもしれないと例を挙げました。購入履歴は再注文に使えても、配送情報は配達完了後に有効でなくなる場合があるため、情報の有効期間も考慮します。

別のサービスに記憶を渡す際は、同意の範囲を確認します。特定のサービスだけで使う許可を得た情報は他のサービスへ自動で渡さず、依頼されたサービスで使ってよい情報か判断して、許可された内容だけを共有します。行動の前にはデータの利用目的と同意の有無を確かめ、誤った情報はそのデータを管理する組織が点検します。以前買った商品の再注文を頼まれた際、別の商品に変えるよう促す指示にそのまま従う例のように、許可されていない行動も判別する必要があります。カカオは最終回答だけでなく作業計画と実行過程も検証し、許可範囲を超えた場合は停止して利用者に確認する仕組みを整えていると述べました。

サービスの安定性も課題です。ソンCTOによると、カカオのサービスでは通常時の7倍から最大18倍の利用者が集中する状況が繰り返し起きます。カカオは利用量に応じてサーバー資源を分け、自社システムに外部クラウドサーバーを接続して、トラフィックが急増した際に資源を増やす方法を準備しています。ソンCTOは、良い回答ができたかよりも、依頼された条件どおりに注文が確定することが重要だと述べました。