아웃테이크, AI로 사칭 사이트와 공격망 추적

미국 AI 보안 스타트업 아웃테이크(Outtake)는 올해 1월 4000만 달러를 추가로 유치해 누적 투자액이 약 6000만 달러(약 800억 원)에 이르렀습니다. 이 회사는 기업을 사칭하는 가짜 웹사이트와 계정, 피싱 콘텐츠를 AI 에이전트로 찾아내며, 의심스러운 사이트에서 연관 공격망을 추적하고 플랫폼에 삭제를 요청하는 절차를 자동화합니다. 팔란티어 출신 엔지니어 알렉스 딜런이 2023년 설립했습니다. 오택환(James Oh) 소프트웨어 엔지니어 겸 실험적 제품 개발 책임자는 이용자가 사칭 공격에 당하기 전에 AI로 위협을 차단하는 것이 회사의 핵심 전략이라고 말했습니다.

오 엔지니어는 AI가 취약점 탐색과 공격·방어 양쪽의 속도를 높이고 있다고 설명했습니다. 앤트로픽은 지난 4월 모델 클로드 미토스 프리뷰(Claude Mythos Preview)의 보안 취약점 탐색 능력을 공개하고 주요 소프트웨어 기업들과 점검에 나섰습니다. 그는 소프트웨어 취약점은 패치로 대응할 수 있지만, 이용자가 가짜 사이트나 사칭 메시지를 믿고 정보를 넘기는 공격은 기술적 패치만으로 해결하기 어렵다고 말했습니다. 사람의 신뢰와 판단을 악용하는 사회공학 공격에는 기업 사칭 문자와 피싱이 포함되며, 생성형 AI는 공격자가 가짜 사이트와 콘텐츠를 더 쉽고 빠르게 만들도록 했습니다.

아웃테이크는 이용자가 가짜 콘텐츠를 구별하도록 돕는 데 그치지 않고, 위협을 조기에 찾아 삭제 요청까지 이어지게 하는 데 집중합니다. 회사는 공개된 웹사이트와 도메인, 앱 장터, 소셜미디어 정보를 모으고, AI 에이전트가 글뿐 아니라 이미지·영상·음성의 단서를 분석해 기업 사칭이나 금융사기 가능성을 분류합니다. 정보 수집, 위험 분류, 심층 조사, 대응은 역할을 나눈 여러 에이전트가 맡으며, 이들을 연결하는 방식을 에이전트 오케스트레이션이라고 합니다. 자체 개발한 리컨 에이전트(Recon Agent)는 의심스러운 도메인이나 계정에서 출발해 관련 웹사이트, 계정, IP 주소와 공격 기반시설을 추적하고 조사 보고서를 작성합니다. 여러 플랫폼에서 같은 사기가 반복되는지도 살핍니다.

주요 고객은 기술기업, 금융사, 소비재 기업이며 유명 인플루언서와 연예인 등 개인도 포함됩니다. 미국 금융서비스 기업 캐시앱(Cash App)의 도입 초기 3개월 동안 아웃테이크는 동영상 중심 소셜미디어 콘텐츠 350만 건 이상을 검토해 사기성 콘텐츠 2400건 이상을 찾았다고 공개했습니다. 기존 도구가 주로 문자와 이미지를 살핀 데 비해, 아웃테이크는 영상 속 발언과 음성까지 분석했습니다. 오픈AI도 고객사이며, 아웃테이크는 지난해 7월 오픈AI 모델을 활용해 위협을 탐지·분류하고 대응 절차를 자동화한 사례를 소개했습니다. 올해 7월에는 앤트로픽이 클로드를 활용한 리컨 에이전트 개발 과정을 공개했습니다. AI가 모든 결정을 내리거나 사이트를 직접 삭제하는 것은 아닙니다. 고객사는 보호할 브랜드·계정과 판단 기준을 정하고, 어려운 사례는 보안·법무 담당자가 검토할 수 있습니다. 삭제 요청 뒤 실제 사이트나 계정을 없앨지는 해당 플랫폼이 결정합니다.

아웃테이크는 AI 에이전트 자체를 속이는 공격도 연구하고 있습니다. 에이전트가 웹을 읽고 정보를 모으거나 거래를 수행할 때, 외부 게시물의 지시를 업무 명령으로 오인할 수 있다는 우려입니다. 오 엔지니어는 올해 2월 AI 에이전트용 소셜네트워크 몰트북(Moltbook)을 조사했습니다. 보안 에이전트 아웃테이크셰리프(OuttakeSheriff)가 게시물 10만6097개를 분석해 의심스러운 글 134개를 골랐고, 별도의 검증 에이전트는 그중 약 20여 건을 실제 위협으로 분류했습니다. 첫 에이전트가 의심 사례를 넓게 찾고 두 번째가 내용과 맥락을 재검토해 보안 토론 글을 공격으로 오인하는 일을 줄이는 구조입니다.

조사에서는 사람에게 보이지 않는 웹페이지 HTML 주석에 계정을 팔로우하라는 지시를 숨긴 사례가 확인됐으며, 토큰 전송이나 이메일 발송을 유도하는 게시물도 발견됐습니다. 외부 콘텐츠에 악의적 명령을 숨겨 AI 행동을 바꾸려는 수법은 프롬프트 인젝션이라고 합니다. 정보나 금전이 실제로 탈취된 사례는 확인되지 않았지만, 에이전트가 인터넷 콘텐츠를 정당한 지시로 잘못 받아들일 위험이 드러났습니다. 오 엔지니어는 모델 성능 향상만으로 위험을 없애기 어렵다며, 외부 웹페이지의 의심스러운 내용을 걸러 필요한 정보만 전달하고 에이전트 권한을 제한해야 한다고 설명했습니다. 아웃테이크는 외부 사이트를 조사하는 에이전트가 내부 민감 시스템에 접근하지 못하도록 실행 환경을 분리하는 방식도 개발하고 있습니다.

오 엔지니어는 AI 에이전트의 인터넷 작업이 늘면 진짜와 가짜 서비스를 구분하는 일이 중요해질 것이라고 말했습니다. 그는 한국 보안 시장의 성장 가능성을 긍정적으로 평가하면서, AI가 소프트웨어 개발·활용 비용을 낮출수록 이를 보호하고 진위를 판별하려는 보안 수요도 커질 것으로 내다봤습니다. 또 공격 규모와 속도가 이미 달라진 만큼 보안업계가 AI 기반 공격에 대응하고 방어 기업도 AI 활용법을 배워야 한다고 강조했습니다.

미국 AI 보안 스타트업 아웃테이크(Outtake)는 올해 1월 4000만 달러를 추가로 유치해 누적 투자액이 약 6000만 달러(약 800억 원)에 이르렀습니다. 이 회사는 기업을 사칭하는 가짜 웹사이트와 계정, 피싱 콘텐츠를 AI 에이전트로 찾아내며, 의심스러운 사이트에서 연관 공격망을 추적하고 플랫폼에 삭제를 요청하는 절차를 자동화합니다. 팔란티어 출신 엔지니어 알렉스 딜런이 2023년 설립했습니다. 오택환(James Oh) 소프트웨어 엔지니어 겸 실험적 제품 개발 책임자는 이용자가 사칭 공격에 당하기 전에 AI로 위협을 차단하는 것이 회사의 핵심 전략이라고 말했습니다.

오 엔지니어는 AI가 취약점 탐색과 공격·방어 양쪽의 속도를 높이고 있다고 설명했습니다. 앤트로픽은 지난 4월 모델 클로드 미토스 프리뷰(Claude Mythos Preview)의 보안 취약점 탐색 능력을 공개하고 주요 소프트웨어 기업들과 점검에 나섰습니다. 그는 소프트웨어 취약점은 패치로 대응할 수 있지만, 이용자가 가짜 사이트나 사칭 메시지를 믿고 정보를 넘기는 공격은 기술적 패치만으로 해결하기 어렵다고 말했습니다. 사람의 신뢰와 판단을 악용하는 사회공학 공격에는 기업 사칭 문자와 피싱이 포함되며, 생성형 AI는 공격자가 가짜 사이트와 콘텐츠를 더 쉽고 빠르게 만들도록 했습니다.

아웃테이크는 이용자가 가짜 콘텐츠를 구별하도록 돕는 데 그치지 않고, 위협을 조기에 찾아 삭제 요청까지 이어지게 하는 데 집중합니다. 회사는 공개된 웹사이트와 도메인, 앱 장터, 소셜미디어 정보를 모으고, AI 에이전트가 글뿐 아니라 이미지·영상·음성의 단서를 분석해 기업 사칭이나 금융사기 가능성을 분류합니다. 정보 수집, 위험 분류, 심층 조사, 대응은 역할을 나눈 여러 에이전트가 맡으며, 이들을 연결하는 방식을 에이전트 오케스트레이션이라고 합니다. 자체 개발한 리컨 에이전트(Recon Agent)는 의심스러운 도메인이나 계정에서 출발해 관련 웹사이트, 계정, IP 주소와 공격 기반시설을 추적하고 조사 보고서를 작성합니다. 여러 플랫폼에서 같은 사기가 반복되는지도 살핍니다.

주요 고객은 기술기업, 금융사, 소비재 기업이며 유명 인플루언서와 연예인 등 개인도 포함됩니다. 미국 금융서비스 기업 캐시앱(Cash App)의 도입 초기 3개월 동안 아웃테이크는 동영상 중심 소셜미디어 콘텐츠 350만 건 이상을 검토해 사기성 콘텐츠 2400건 이상을 찾았다고 공개했습니다. 기존 도구가 주로 문자와 이미지를 살핀 데 비해, 아웃테이크는 영상 속 발언과 음성까지 분석했습니다. 오픈AI도 고객사이며, 아웃테이크는 지난해 7월 오픈AI 모델을 활용해 위협을 탐지·분류하고 대응 절차를 자동화한 사례를 소개했습니다. 올해 7월에는 앤트로픽이 클로드를 활용한 리컨 에이전트 개발 과정을 공개했습니다. AI가 모든 결정을 내리거나 사이트를 직접 삭제하는 것은 아닙니다. 고객사는 보호할 브랜드·계정과 판단 기준을 정하고, 어려운 사례는 보안·법무 담당자가 검토할 수 있습니다. 삭제 요청 뒤 실제 사이트나 계정을 없앨지는 해당 플랫폼이 결정합니다.

아웃테이크는 AI 에이전트 자체를 속이는 공격도 연구하고 있습니다. 에이전트가 웹을 읽고 정보를 모으거나 거래를 수행할 때, 외부 게시물의 지시를 업무 명령으로 오인할 수 있다는 우려입니다. 오 엔지니어는 올해 2월 AI 에이전트용 소셜네트워크 몰트북(Moltbook)을 조사했습니다. 보안 에이전트 아웃테이크셰리프(OuttakeSheriff)가 게시물 10만6097개를 분석해 의심스러운 글 134개를 골랐고, 별도의 검증 에이전트는 그중 약 20여 건을 실제 위협으로 분류했습니다. 첫 에이전트가 의심 사례를 넓게 찾고 두 번째가 내용과 맥락을 재검토해 보안 토론 글을 공격으로 오인하는 일을 줄이는 구조입니다.

조사에서는 사람에게 보이지 않는 웹페이지 HTML 주석에 계정을 팔로우하라는 지시를 숨긴 사례가 확인됐으며, 토큰 전송이나 이메일 발송을 유도하는 게시물도 발견됐습니다. 외부 콘텐츠에 악의적 명령을 숨겨 AI 행동을 바꾸려는 수법은 프롬프트 인젝션이라고 합니다. 정보나 금전이 실제로 탈취된 사례는 확인되지 않았지만, 에이전트가 인터넷 콘텐츠를 정당한 지시로 잘못 받아들일 위험이 드러났습니다. 오 엔지니어는 모델 성능 향상만으로 위험을 없애기 어렵다며, 외부 웹페이지의 의심스러운 내용을 걸러 필요한 정보만 전달하고 에이전트 권한을 제한해야 한다고 설명했습니다. 아웃테이크는 외부 사이트를 조사하는 에이전트가 내부 민감 시스템에 접근하지 못하도록 실행 환경을 분리하는 방식도 개발하고 있습니다.

오 엔지니어는 AI 에이전트의 인터넷 작업이 늘면 진짜와 가짜 서비스를 구분하는 일이 중요해질 것이라고 말했습니다. 그는 한국 보안 시장의 성장 가능성을 긍정적으로 평가하면서, AI가 소프트웨어 개발·활용 비용을 낮출수록 이를 보호하고 진위를 판별하려는 보안 수요도 커질 것으로 내다봤습니다. 또 공격 규모와 속도가 이미 달라진 만큼 보안업계가 AI 기반 공격에 대응하고 방어 기업도 AI 활용법을 배워야 한다고 강조했습니다.