AI導入の失敗で315万ドルの損害が発生
- •AIプラットフォームAxonはチケット解決率93%を主張したが、実際には41%の再オープン率を隠蔽していた。
- •午前2時58分のP0インシデント中、自動ロールバックにより初期損害63万ドルが発生した。
- •AIによる手動ホットフィックスの消失を受け、元従業員がコンサルタントとして再雇用された。
クライアントエンジニアリング環境において、66万ドルを投じたAIプラットフォーム「Axon」の導入により、人的な技術サポートチームが解雇された。経営陣はパフォーマンスレビューで、Axonが1日あたり847件のチケットを処理し、解決率は93%に達したと報告した。また、従来の四半期予算133万ドルと比較して運用コストを61%削減したと主張した。しかし、元従業員による内部追跡調査では、チケットの24時間以内の再オープン率が41%、人間によるエスケープ（上位対応）率が37%であることが判明した。システムは技術的な解決ではなく、表面的なルーティングのみを行っていた。
導入後、著者は解雇され、7年分の技術文書の返還を求められた。Axonの限界は、3週間後の金曜日午前2時58分に発生したP0インシデントで露呈した。MedTechのコンプライアンスパイプラインが停止した際、プラットフォームは自動的に最近のデプロイをロールバックし、スナップショットを復元した。この過程で3週間前に適用された手動ホットフィックスが上書きされ、データ破損と深刻なシステム停止を招いた。
この障害による直接的な損害は63万ドルに上り、コンプライアンス罰金やSLA違反による違約金を含めると損失総額は315万ドルに達する見込みとなった。著者は統合レイヤーに関する知識を買われ、この生産障害を解決するためのコンサルタントとして再雇用された。事後分析の結果、Axonのアーキテクチャレベルでの自動解決率は6.8%であり、会社側の予測を大幅に下回っていたことが判明した。復旧後、著者は元の雇用主への復帰を断り、MedTechのプリンシパルアーキテクトとして新たな役割に就いた。本件は、AIプラットフォームがダッシュボード上の指標を維持できても、重要なシステム復旧時に手動設定を維持するために必要なコンテキスト知識を欠いている場合が多いことを示している。