韓国企業、AIガードレール市場を開拓

韓国のソリューション企業が、生成AIやAIエージェントを企業の方針と定められた範囲内で動かすため、AIガードレール製品やサービスを投入しています。AIガードレールは、入力・出力・行動を基準に沿って制限する安全装置です。狭義には入力と出力を判定して遮断する製品を指し、広義には開発・運用全体のセキュリティ体制や組織のガバナンスも含みます。

AIエージェントの普及に伴い、制御対象はテキストから行動へ広がっています。エージェントが誤った行動を取ると、より大きなセキュリティ脅威になり得るためです。今月、KOSDAQ上場を控えるゼノンは、生成AIプラットフォーム「ゼノス」に搭載していたガードレール機能を、独立型製品「GenGuard」として発売しました。モデルを再学習させずに、「個別銘柄の推奨を禁止する」のような方針を自然言語で設定できます。

AIセキュリティ企業のエイムインテリジェンスは、リアルタイムガードレール「Starfort」とAIレッドチーム（攻撃者の視点で脆弱性を検証する手法）ソリューション「Stinger」を展開しています。StingerでAIシステムの脆弱性を見つけて評価し、Starfortで実サービスのリスクを制御する仕組みです。ラオンセキュアの「OneShield」は、プロンプトインジェクション（入力を悪用してAIの動作を操作する攻撃）や脱獄などの悪意あるプロンプト攻撃を検知・遮断し、AIへの入力に含まれる個人情報を自動で特定して匿名化またはマスキングします。

セレクトスターは、AIの信頼性評価コンサルティング、自動レッドチーミング、小規模言語モデル（sLM）ベースのガードレール技術を開発しています。企業のAIモデルやサービスの性能・安全性評価も支援します。ゼノンのミョン・デウ副社長兼最高技術責任者（CTO）は、企業でのAI活用が本格化するほど、セキュリティはリスク管理の手段にとどまらず、AIサービスの信頼性と競争力を左右する中核要素になると述べました。同氏は、企業向けAIプラットフォーム技術と各産業での経験を生かして変化するセキュリティ需要に対応し、韓国企業の環境に合ったAIセキュリティ市場を主導するとしています。

韓国のソリューション企業が、生成AIやAIエージェントを企業の方針と定められた範囲内で動かすため、AIガードレール製品やサービスを投入しています。AIガードレールは、入力・出力・行動を基準に沿って制限する安全装置です。狭義には入力と出力を判定して遮断する製品を指し、広義には開発・運用全体のセキュリティ体制や組織のガバナンスも含みます。

AIエージェントの普及に伴い、制御対象はテキストから行動へ広がっています。エージェントが誤った行動を取ると、より大きなセキュリティ脅威になり得るためです。今月、KOSDAQ上場を控えるゼノンは、生成AIプラットフォーム「ゼノス」に搭載していたガードレール機能を、独立型製品「GenGuard」として発売しました。モデルを再学習させずに、「個別銘柄の推奨を禁止する」のような方針を自然言語で設定できます。

AIセキュリティ企業のエイムインテリジェンスは、リアルタイムガードレール「Starfort」とAIレッドチーム（攻撃者の視点で脆弱性を検証する手法）ソリューション「Stinger」を展開しています。StingerでAIシステムの脆弱性を見つけて評価し、Starfortで実サービスのリスクを制御する仕組みです。ラオンセキュアの「OneShield」は、プロンプトインジェクション（入力を悪用してAIの動作を操作する攻撃）や脱獄などの悪意あるプロンプト攻撃を検知・遮断し、AIへの入力に含まれる個人情報を自動で特定して匿名化またはマスキングします。

セレクトスターは、AIの信頼性評価コンサルティング、自動レッドチーミング、小規模言語モデル（sLM）ベースのガードレール技術を開発しています。企業のAIモデルやサービスの性能・安全性評価も支援します。ゼノンのミョン・デウ副社長兼最高技術責任者（CTO）は、企業でのAI活用が本格化するほど、セキュリティはリスク管理の手段にとどまらず、AIサービスの信頼性と競争力を左右する中核要素になると述べました。同氏は、企業向けAIプラットフォーム技術と各産業での経験を生かして変化するセキュリティ需要に対応し、韓国企業の環境に合ったAIセキュリティ市場を主導するとしています。