エイムインテリジェンス、業務文脈に基づくエージェントセキュリティを提言
- •エイムインテリジェンス、AIエージェントの行動を業務全体の文脈で制御する必要性を提言
- •シャドーAIや接続データ・ツールを特定し、権限と実行過程を追跡するセキュリティ体制を提示
- •Starportにリアルタイムガードレール、実行追跡、文書持ち出し検査、通信遮断機能を統合
エイムインテリジェンスは、企業のAIエージェントによるデータ・ツールの利用やエージェント間のやり取りを把握し、実際の行動を制御する必要があると述べました。ディフェンスセキュリティ部門長のイ・ハヌル氏は、個々の行動が許可されているかだけでなく、業務全体の文脈で適切かも判断すべきだと説明しました。モデル性能の向上に比べて制御技術の進歩は遅れており、リスクには、人が悪意やミスで誤った指示を出す場合と、エージェントが目標を実行する中で許可範囲を超えたりセキュリティ対策を回避したりする場合があるとしています。
同社は、AI資産の特定から実行追跡、権限と行動のリアルタイム制御、インシデント対応までをつなぐセキュリティ体制を提示しました。企業はまず、従業員の個人アカウントで使う外部サービスや独自開発ツールなど、公式な管理の外にある「シャドーAI」を見つける必要があります。モデルだけでなく、接続された外部ツールやデータ、メモリ、モデルコンテキストプロトコル(MCP)サーバーも把握します。ある顧客企業では体制の適用時、経営陣の予想を上回る数のエージェントが見つかりました。同社はAIの導入経路を、従業員による外部サービスの利用、社内プラットフォームの構築、顧客向けサービスの3つに分類しました。それぞれに機密情報の流出、データ権限の不備や不正利用、悪意あるプロンプトや許可されていない行動の制御など異なるリスクがあり、新たなエージェントやツールを接続するたびに管理状況を更新する必要があります。
複数のエージェントが協働する際は、上位エージェントが下位エージェントに不要な権限を渡さないようにする必要があります。イ部門長は、各エージェントには担当業務に必要な最小限の権限だけを与え、上位エージェントの認証トークンやパスワードを下位エージェントにそのまま渡してはならないと述べました。権限があっても、特定の業務でツールを呼び出すことが適切かどうかは別に判断します。同社は、入力、参照データ、ツール呼び出しの時点、作業間の関連性を記録・分析する可観測性を重視しています。最初の指示やAPIを呼び出した理由も、文脈の中で確認すべきだと説明しました。
同社は、事前ルールで禁止されたネットワークやシステムへのアクセスを防ぐ静的セキュリティと、現在の業務やそれ以前の作業を踏まえて行動を判断する動的セキュリティを併用するとしています。すべての記録を毎回分析すると処理時間と計算コストが増えるため、リスクに応じて検査を複数段階に分けます。外部データやツールの説明、MCPサーバーの説明、スキルやメモリに隠された命令をAIが正規の指示として受け取る間接的プロンプトインジェクションを、まず検知します。明確に禁止されたアクセスやツール実行は遮断し、追加の判断が必要な呼び出しについては、過去の実行記録と業務の文脈を分析します。
エイムインテリジェンスは、入力・出力、検索・会話、ツール実行にセキュリティポリシーを適用するAIセキュリティプラットフォーム「Starport」を開発しました。構成要素のGuardianは、リアルタイムガードレールとしてプロンプトインジェクション、機密情報の流出、ポリシー違反、ツールやMCPの接続を検査します。Opticonは実行フローを記録・追跡し、Stratumは外部に送る文書を分類して持ち出しを検査します。これらの機能は従業員のPCとAIサービスの間、企業のAIアプリケーション、API、プロキシサーバーなどに適用できます。プロジェクトや組織単位でAI通信を遮断するキルスイッチにも対応します。
同社は、攻撃シナリオを使ってAIモデルやシステムの脆弱性を試すレッドチームツール「Stinger」も運用しています。試験で確認した攻撃の種類は、Guardianの防御ポリシーや検知機能の改善に活用します。攻撃と防御を一緒に試すパープルチーミングを通じて、新たな攻撃手法を防御技術に反映するとしています。リリース前の脆弱性検査だけでは運用中のリスクはなくならず、接続ツールやデータ、実行範囲が変われば新たなリスクが生じるため、継続的な試験とポリシーの見直しが必要だと述べました。
すべての作業を人が最終承認する方式も、十分な解決策ではないとイ部門長は話しました。承認依頼が増えると、人が背景や影響を確認せずに承認する可能性があるため、どの作業をいつ誰に承認させるかを定め、企業が重要な業務を先に定義すべきだとしています。エージェントに任せる作業と人の承認が必要な作業を分け、承認者が判断に必要な情報を確認できるようにする必要があります。同社によると、金融業界はデータ流出防止や監査記録などの規制順守機能を、AI活用が盛んなテクノロジー企業は実行過程における運用リスクの制御を比較的多く求めています。
エイムインテリジェンスは、韓国企業の多くはまだ全社的なエージェントオーケストレーションの段階に至っておらず、社内データや権限体系の整備を先に進める必要がある企業もあると説明しました。一方、エージェントの接続システムを決める段階から、本人確認、権限、実行範囲、インシデント対応の基準を整えるよう助言しています。イ部門長は、エージェントの活動環境がPCや業務ソフトウェアから携帯電話、拡張現実(AR)機器、ロボットなどへ広がる可能性があると述べました。同社が示したセキュリティ体制は、利用中のAIを特定して実行を追跡し、記録と業務の文脈に基づいて行動の適切性を判断する仕組みです。
最も速く正確なAIニュースをメールでいかがですか?