AIエージェントに人間による検証プロセスを導入
- •自動化エンジニアのコンドラチュクは、プロジェクト管理エージェントによるSlackへの誤ったステータス投稿を防ぐため、人間による検証ゲートを導入した。
- •当初の「ボタンを押すだけ」の承認行為が形骸化したため、レビューの確実性を高める目的で、手動入力による摩擦を加える仕様に変更した。
- •ワークフローを精査し、取り返しのつかない操作にのみ人間が介入する重大度ベースの分類システムを構築し、効率化を図った。
自動化エンジニアのミコラ・コンドラチュク(Mykola Kondratiuk)は、3ヶ月間で2度の不手際を経験したことを受け、プロジェクト管理エージェントに必須の検証ゲートを実装した。Jiraからデータを抽出し、週次の進捗をSlackに投稿する同エージェントは、以前は古い情報を掲載したり、期限切れのタスクを誤認したりする問題があった。コンドラチュクは、エージェントのロジック改善を試みるのではなく、ワークフローの中に人間が承認するステップを構造的に組み込んだ。これにより、チーム全体への投稿には必ず手動での絵文字承認が必要となった。この設計は、人間による介入を安全機能ではなくデフォルトの要件として扱うマイクロソフト・コンダクター(Microsoft Conductor)の原則に準拠している。
導入から3週間後、単なる承認ボタンではユーザーが内容を詳しく確認せずに追認する「ラバースタンプ（形式的な承認）」が発生することが判明した。コンドラチュクはこの課題に対し、物理的な摩擦を導入することで対処した。具体的には、絵文字をクリックする代わりに、確認のために必ず一語以上を入力させる仕様に変更し、意思決定プロセスへの能動的な関与を強制した。
ワークフローのさらなる改善として、意思決定を3段階に分類する重大度フィルターを実装した。影響の小さい操作は自動承認とし、中程度は簡易的なレビュー、影響の大きい操作には厳格なゲートを設けている。また、承認のタイムアウトを2時間から30分に短縮し、未対応の場合はSlackで通知を繰り返す仕組みにした。「金曜日の午後11時に取り消しが困難な操作」であれば、必ず人間のゲートを通すという基準を明確化した。6週間の運用で、システムは2件の誤りを阻止し、ドラフトの品質を向上させつつ、1日わずか3分程度の追加工数で運用を実現している。