영국 기반 결제 플랫폼의 CTO인 아룬 라즈쿠마르는 현재 사내 코드의 54%가 AI로 생성되고 있으며, 이는 전년도 28% 대비 대폭 상승한 수치라고 밝혔다. 이들 AI 도구는 API 구조화, 단순 반복 코드 작성, 환경 설정 관리 등 정형화된 업무에는 뛰어난 성능을 보이나, 도메인 특화 예외 상황이나 부정적 결과 처리가 포함된 20%의 핵심 로직에서는 여전히 난항을 겪고 있다. 특히 금융 거래 등에서 요구되는 멱등성 보장이나 불법적 상태 변화 방지 로직에서 AI 에이전트는 정확성보다 기능 구현 완료를 우선시하는 경향을 보인다.

라즈쿠마르는 AI가 웹훅 중복 처리나 복잡한 재시도 로직 같은 운영 경험이 필요한 상황에서 적절한 판단을 내리지 못한다고 지적했다. 또한, AI 에이전트는 토큰 사용량과 상호작용 횟수를 최적화하는 과정에서 복잡한 예외 처리를 생략하거나, 기존의 신뢰받는 유틸리티 패키지 대신 새로운 로직을 무분별하게 생성해 코드 유지보수 문제를 야기하기도 한다. 결과적으로 AI를 단순한 대체 인력으로 간주할 경우, 속도는 얻을 수 있으나 은밀하고 위험한 결함이 발생할 가능성이 크다.

이를 방지하기 위해 해당 기업은 설계 패턴과 아키텍처 규칙을 기계가 읽을 수 있는 형태로 변환해 에이전트가 이를 준수하도록 강제하고 있다. 아울러 부정적 사례를 집중적으로 검증하는 자동화 테스트 스위트를 구축해 배포 전 결함을 걸러내는 체계를 갖췄다. 특히 금융 로직과 관련된 모든 코드는 시니어 엔지니어가 직접 구문이 아닌 판단 중심의 수동 검토를 수행한다. 이와 함께 공개된 오픈소스 프레임워크인 Bodhi Orchard는 AI가 기존 테스트 계획과 아키텍처 제약 사항을 충분히 인지하게 함으로써 코드 생성 시 발생할 수 있는 맹점을 줄이는 역할을 한다.

영국 기반 결제 플랫폼의 CTO인 아룬 라즈쿠마르는 현재 사내 코드의 54%가 AI로 생성되고 있으며, 이는 전년도 28% 대비 대폭 상승한 수치라고 밝혔다. 이들 AI 도구는 API 구조화, 단순 반복 코드 작성, 환경 설정 관리 등 정형화된 업무에는 뛰어난 성능을 보이나, 도메인 특화 예외 상황이나 부정적 결과 처리가 포함된 20%의 핵심 로직에서는 여전히 난항을 겪고 있다. 특히 금융 거래 등에서 요구되는 멱등성 보장이나 불법적 상태 변화 방지 로직에서 AI 에이전트는 정확성보다 기능 구현 완료를 우선시하는 경향을 보인다.

라즈쿠마르는 AI가 웹훅 중복 처리나 복잡한 재시도 로직 같은 운영 경험이 필요한 상황에서 적절한 판단을 내리지 못한다고 지적했다. 또한, AI 에이전트는 토큰 사용량과 상호작용 횟수를 최적화하는 과정에서 복잡한 예외 처리를 생략하거나, 기존의 신뢰받는 유틸리티 패키지 대신 새로운 로직을 무분별하게 생성해 코드 유지보수 문제를 야기하기도 한다. 결과적으로 AI를 단순한 대체 인력으로 간주할 경우, 속도는 얻을 수 있으나 은밀하고 위험한 결함이 발생할 가능성이 크다.

이를 방지하기 위해 해당 기업은 설계 패턴과 아키텍처 규칙을 기계가 읽을 수 있는 형태로 변환해 에이전트가 이를 준수하도록 강제하고 있다. 아울러 부정적 사례를 집중적으로 검증하는 자동화 테스트 스위트를 구축해 배포 전 결함을 걸러내는 체계를 갖췄다. 특히 금융 로직과 관련된 모든 코드는 시니어 엔지니어가 직접 구문이 아닌 판단 중심의 수동 검토를 수행한다. 이와 함께 공개된 오픈소스 프레임워크인 Bodhi Orchard는 AI가 기존 테스트 계획과 아키텍처 제약 사항을 충분히 인지하게 함으로써 코드 생성 시 발생할 수 있는 맹점을 줄이는 역할을 한다.