국내 솔루션 기업, AI 가드레일 시장 공략

국내 솔루션 기업들이 생성 AI와 AI 에이전트가 기업 정책과 정해진 범위 안에서 작동하도록 통제하는 AI 가드레일 시장을 겨냥해 제품과 서비스를 내놓고 있습니다. AI 가드레일은 입력·출력·행동을 기준에 맞춰 제한하는 안전장치입니다. 좁게는 입력과 출력을 판정해 차단하는 제품을 뜻하고, 넓게는 개발·운영 전 과정의 보안 체계나 조직 차원의 거버넌스까지 가리킵니다.

AI 에이전트 확산과 함께 통제 대상은 텍스트를 넘어 행동으로 넓어지고 있습니다. 에이전트가 잘못된 행동을 수행하면 더 큰 보안 위협이 될 수 있기 때문입니다. 이달 코스닥 상장을 앞둔 제논은 최근 생성 AI 플랫폼 제노스에 탑재했던 가드레일 기능을 독립 솔루션 젠가드(GenGuard)로 출시했습니다. 모델을 재학습하지 않고도 ‘개별 종목 추천은 차단한다’처럼 자연어로 정책을 설정할 수 있습니다.

AI 보안 전문 기업 에임인텔리전스는 실시간 가드레일 스타포트(Starfort)와 AI 레드팀 솔루션 스팅어(Stinger)를 함께 내세우고 있습니다. 스팅어로 AI 시스템의 취약점을 찾아 평가하고, 스타포트로 실제 서비스의 위험을 통제하는 방식입니다. 라온시큐어의 원쉴드(OneShield)는 프롬프트 인젝션과 탈옥(Jailbreak) 같은 악성 프롬프트 공격을 탐지·차단하며, AI 입력에 포함된 개인정보를 자동 식별해 익명화하거나 마스킹합니다.

셀렉트스타는 AI 신뢰성 평가 컨설팅과 자동 레드티밍, sLM 기반 가드레일 기술을 개발하고 있습니다. 기업 AI 모델과 서비스의 성능 및 안전성 평가도 지원합니다. 제논의 명대우 부사장 겸 최고기술책임자(CTO)는 기업의 AI 활용이 본격화할수록 보안이 위험 관리 수단을 넘어 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소가 될 것이라고 말했습니다. 그는 기업용 AI 플랫폼 기술과 산업별 경험을 바탕으로 변화하는 보안 요구에 대응하고, 국내 기업 환경에 맞는 AI 보안 시장을 선도하겠다고 밝혔습니다.

국내 솔루션 기업들이 생성 AI와 AI 에이전트가 기업 정책과 정해진 범위 안에서 작동하도록 통제하는 AI 가드레일 시장을 겨냥해 제품과 서비스를 내놓고 있습니다. AI 가드레일은 입력·출력·행동을 기준에 맞춰 제한하는 안전장치입니다. 좁게는 입력과 출력을 판정해 차단하는 제품을 뜻하고, 넓게는 개발·운영 전 과정의 보안 체계나 조직 차원의 거버넌스까지 가리킵니다.

AI 에이전트 확산과 함께 통제 대상은 텍스트를 넘어 행동으로 넓어지고 있습니다. 에이전트가 잘못된 행동을 수행하면 더 큰 보안 위협이 될 수 있기 때문입니다. 이달 코스닥 상장을 앞둔 제논은 최근 생성 AI 플랫폼 제노스에 탑재했던 가드레일 기능을 독립 솔루션 젠가드(GenGuard)로 출시했습니다. 모델을 재학습하지 않고도 ‘개별 종목 추천은 차단한다’처럼 자연어로 정책을 설정할 수 있습니다.

AI 보안 전문 기업 에임인텔리전스는 실시간 가드레일 스타포트(Starfort)와 AI 레드팀 솔루션 스팅어(Stinger)를 함께 내세우고 있습니다. 스팅어로 AI 시스템의 취약점을 찾아 평가하고, 스타포트로 실제 서비스의 위험을 통제하는 방식입니다. 라온시큐어의 원쉴드(OneShield)는 프롬프트 인젝션과 탈옥(Jailbreak) 같은 악성 프롬프트 공격을 탐지·차단하며, AI 입력에 포함된 개인정보를 자동 식별해 익명화하거나 마스킹합니다.

셀렉트스타는 AI 신뢰성 평가 컨설팅과 자동 레드티밍, sLM 기반 가드레일 기술을 개발하고 있습니다. 기업 AI 모델과 서비스의 성능 및 안전성 평가도 지원합니다. 제논의 명대우 부사장 겸 최고기술책임자(CTO)는 기업의 AI 활용이 본격화할수록 보안이 위험 관리 수단을 넘어 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소가 될 것이라고 말했습니다. 그는 기업용 AI 플랫폼 기술과 산업별 경험을 바탕으로 변화하는 보안 요구에 대응하고, 국내 기업 환경에 맞는 AI 보안 시장을 선도하겠다고 밝혔습니다.