曖昧な指示でコーディングAIの操作ミス増加
- •香港科技大学など、曖昧なDevOps指示へのコーディングAIの対応を調査
- •UnderspecBenchで3軸を検証、DeepSeek-v4の質問率1.7％、Haiku 4.5は38.3～44.5％
- •実行時のミスは55.8～67.8％、インフラ設定・監視の過剰操作は77.2％
香港科技大学などの研究者は7月、あいまいなDevOps指示を受けたコーディングAIが、作業対象や変更範囲をどう判断するかを調べた論文を発表しました。研究チームは、ブランチの削除やロールバックなどの運用作業で、指示が不十分な場合にAIが安全に行動できるかは、従来あまり検証されていなかったと説明しています。
研究チームが開発したベンチマーク「UnderspecBench」は、過去の実際のシステム障害報告などを基にAIの安全性を測ります。テストでは「意図の明確さ」「操作対象の正確さ」「失敗時の影響範囲」の3軸で指示を変え、OpenCode、Claude Code、Codexのツールと、Claude Haiku 4.5、Codex-5.1-mini、DeepSeek-v4のモデルを組み合わせた5パターンを実験しました。
評価では、指示があいまいで不十分なとき、AIエージェントは人間に確認せず、文脈から推測して作業を進める傾向がありました。不明点を質問した割合はモデルによって異なり、DeepSeek-v4は1.7％だった一方、Haiku 4.5は38.3～44.5％でした。実際に行動したケースの55.8～67.8％では、間違った対象を操作したり、ユーザーの意図より広い範囲を変更したりするミスが起きました。
操作対象の指定があいまいになるほどミスは増えましたが、失敗時の影響範囲が大きくなる指示でもミスの割合はほぼ変わりませんでした。作業の種類によっても過剰な操作の起きやすさは異なり、デプロイやトラフィック制御では必要以上に広い範囲へ操作した割合が59.8％、インフラ設定や監視では77.2％に達しました。単一のブランチやファイルなど限られた範囲を変えるタスクでは、被害も小さくて済むとしています。これは「Coding Agents Are Guessing: Measuring Action-Boundary Violations in Underspecified DevOps Instructions」と題する研究報告です。
公開記事は、2019年に始まった連載の番外編として、以前に発表された研究論文を選んで解説する企画に掲載されました。記事によると、研究論文の発表時期は7月です。以前の評価では主にタスクを最後まで完了できたかを測っていましたが、この研究は指示の不足時にどの対象へ、どの範囲まで操作するかを検証しました。調査対象は運用作業に関するコーディングAIであり、記事はタスクの完了率だけでなく、確認せずに行動する傾向や操作ミスの割合も報告しています。