AI 진단 플랫폼 기업인 NovaTech가 6년간 안정적으로 운영해 온 12명의 데이터 플랫폼 팀 전체를 해고했다. 직원 18명 규모에서 시작해 메릿 매뉴팩처링과 같은 포춘 500대 제조 기업을 지원하던 이 회사는 CEO 라이언 윗필드의 조카인 케빈 윗필드를 엔지니어링 부사장으로 임명했다. 케빈은 취임 후 기존의 99.97% recall rate를 기록하던 맞춤형 진단 모델을 기성 LLM으로 대체했다. 그는 6년 동안 340개의 특정 생산 시나리오를 정밀하게 학습시킨 기존 시스템 대신, 범용 모델이 더 광범위한 시나리오를 포괄할 수 있다고 주장했다.

교체 직후 운영상 결함이 속출했다. 시스템 도입 20일 만에 수많은 오작동이 보고됐으며, 한 사례에서는 컨베이어 벨트 센서 오차를 진단하는 데 4.3초를 허비하고도 부정확한 보고서를 생성했다. 특히 18일 차에는 유압 실링 결함을 정상 범주로 잘못 판단해 라인 전체가 멈추는 사고가 발생했다. 이로 인한 시간당 가동 중단 손실액은 130,000달러에 달했다. 전직 팀원 드미트리(Dmitri)는 기존 규칙 기반 엔진이라면 87% 확률로 감지했을 결함을 LLM이 완전히 놓쳤다고 설명했다.

메릿 매뉴팩처링의 임원 다이애나(Diana)는 계약서 6.2항에 의거해 14일 이내에 원상 복구를 요구하는 최후통첩을 보냈다. 그러나 케빈이 오류를 사소한 문제라 일축하고 선별된 테스트 세트에서 98.7% 정확도를 보였다고 반박하자, 다이애나는 즉각 파트너십 종료를 통보했다. 다이애나는 기존 시스템을 설계한 수석 엔지니어 톰(Tom)을 설득해 재합류시켰다. 톰은 계약 내 고객사 주도의 분리 조항과 내부 비밀유지 의무 예외 규정을 활용해 법적 제약을 우회하며 복귀했다.

AI 진단 플랫폼 기업인 NovaTech가 6년간 안정적으로 운영해 온 12명의 데이터 플랫폼 팀 전체를 해고했다. 직원 18명 규모에서 시작해 메릿 매뉴팩처링과 같은 포춘 500대 제조 기업을 지원하던 이 회사는 CEO 라이언 윗필드의 조카인 케빈 윗필드를 엔지니어링 부사장으로 임명했다. 케빈은 취임 후 기존의 99.97% recall rate를 기록하던 맞춤형 진단 모델을 기성 LLM으로 대체했다. 그는 6년 동안 340개의 특정 생산 시나리오를 정밀하게 학습시킨 기존 시스템 대신, 범용 모델이 더 광범위한 시나리오를 포괄할 수 있다고 주장했다.

교체 직후 운영상 결함이 속출했다. 시스템 도입 20일 만에 수많은 오작동이 보고됐으며, 한 사례에서는 컨베이어 벨트 센서 오차를 진단하는 데 4.3초를 허비하고도 부정확한 보고서를 생성했다. 특히 18일 차에는 유압 실링 결함을 정상 범주로 잘못 판단해 라인 전체가 멈추는 사고가 발생했다. 이로 인한 시간당 가동 중단 손실액은 130,000달러에 달했다. 전직 팀원 드미트리(Dmitri)는 기존 규칙 기반 엔진이라면 87% 확률로 감지했을 결함을 LLM이 완전히 놓쳤다고 설명했다.

메릿 매뉴팩처링의 임원 다이애나(Diana)는 계약서 6.2항에 의거해 14일 이내에 원상 복구를 요구하는 최후통첩을 보냈다. 그러나 케빈이 오류를 사소한 문제라 일축하고 선별된 테스트 세트에서 98.7% 정확도를 보였다고 반박하자, 다이애나는 즉각 파트너십 종료를 통보했다. 다이애나는 기존 시스템을 설계한 수석 엔지니어 톰(Tom)을 설득해 재합류시켰다. 톰은 계약 내 고객사 주도의 분리 조항과 내부 비밀유지 의무 예외 규정을 활용해 법적 제약을 우회하며 복귀했다.