AIがインシデント対応、エンジニアがシステム感覚を喪失
原題: AI handles incidents, engineers lose touch with their systems
なぜ重要か
AIによる自動化が進む中でエンジニアの実践的スキル維持が業界課題として浮上しており、インシデント対応訓練市場の新たな需要を示している。
AI支援インシデント対応ツール（通称「AI SRE」）の普及により、エンジニアが日常的な障害対応の実践機会を失いつつある。元LinkedInのSREであるSylvain Kalache氏は自身のブログで、AIが軽微なインシデントを処理することで人間の対応者がシステムへの感覚を失い、複雑な障害発生時に対処できなくなるリスクを指摘した。
元LinkedInのSREで現在はRootlyに勤務するSylvain Kalache氏が、AIによるインシデント対応自動化の普及が引き起こす新たなリスクについて考察を発表した。
現在のAI支援インシデント対応ツールは、アラートの確認・仮説の立案・テレメトリのクエリ・直近のデプロイとの相関分析・修正の実装まで一貫して行う能力を持つ。深夜の障害に対処する際など利便性は高いが、Kalache氏は「日常的なインシデントへの対応こそ、エンジニアがシステムの挙動や障害パターンを安全に体得できる機会だ」と指摘する。
この問題は新しい概念ではない。人的要因研究者のLisanne Bainbridge氏が1983年に発表した論文「The Ironies of Automation（自動化の逆説）」において、自動化はオペレーターの日常業務の実践機会を減らす一方で、新たな異常事態への対処責任は人間に残るという矛盾を指摘している。Bainbridge氏は、自動化が進むほどオペレーターにはより高度なスキルと訓練が必要になると論じている。
Kalache氏はこれを踏まえ、「今後はAI支援により多くのインシデントのMTTR（平均復旧時間）は短縮されるが、エンジニアがシステム感覚を失うことで、複雑なインシデントの解決時間は逆に長くなる」と予測する。
同氏が参考例として挙げるのが航空業界だ。現代の旅客機はほとんどを自動化が操縦するが、パイロットは自動化が対処できない緊急事態に備えて定期的にシミュレーター訓練を受ける。米国FAAの規定では、機長は6カ月ごとに離陸中のエンジン故障などのシナリオを含む習熟訓練を義務付けられている。現代の航空エンジンは10万飛行時間あたりの飛行中エンジン停止が1件未満と極めて稀だが、それでも定期的な訓練は欠かされていない。
この課題への解決策として、Kalache氏が勤務するRootlyはUptime Labsと提携し、リアルなインシデントシミュレーションを提供している。エンジニアはSlack上でLLMが演じるステークホルダーと連携しながら、模擬的なeコマース障害においてインシデントコマンダーの役割を担い、実際のオブザーバビリティツールを使って調査・対応を行う。