AI がインシデント対応、エンジニアがシステム感覚を失う
मूल शीर्षक: AI handles incidents, engineers lose touch with their systems
यह क्यों महत्वपूर्ण है
AI 自動化が進む中、エンジニアの実践力維持という新たな課題がSRE・DevOps 業界で浮上しており、訓練手法の再設計が求められている。
AI によるインシデント自動対応ツール（通称「AI SRE」）の普及により、エンジニアが日常的な障害対応の実践機会を失いつつある。自動化が解決できない複雑な障害発生時に、人間の対応者が対処困難になるリスクが指摘されている。
Rootly のエンジニアである Sylvain Kalache 氏は、AI によるインシデント自動対応の普及が、エンジニアのシステム理解力を低下させるという懸念を提起した。
現在の AI インシデント対応ツールは、アラートの確認・仮説立案・テレメトリ照会・デプロイ相関分析・修正実施までを自動で行う。夜間の障害対応をエンジニアが起床せずに済む点は利便性が高い。しかし、日常的な障害こそエンジニアがシステムの挙動や故障パターンの直感を「安全に」習得する場でもある。
この問題は、人間工学研究者 Lisanne Bainbridge が1983年の論文「The Ironies of Automation」で指摘した「自動化の逆説」と一致する。自動化は日常作業の実践機会を奪う一方で、異常事態への対応責任は人間に残ると同氏は述べた。
Kalache 氏は、AI 支援により多くの障害の平均 MTTR は低下する一方、複雑な障害の解決時間は増加すると予測する。
参考事例として航空業界を挙げる。現代のタービンエンジンは10万飛行時間あたり1回未満の飛行中停止しか発生しないが、パイロットは半年ごとにシミュレーター訓練を義務付けられている。2015年の TransAsia Airways 235便墜落事故では、エンジン異常の誤判断により最初の警告から117秒で墜落した。
これを受け、Kalache 氏が所属する Rootly は Uptime Labs と提携し、リアルなインシデントシミュレーション環境を構築。エンジニアが模擬 EC サイト障害で指揮官役を担い、LLM 駆動のステークホルダーと Slack 上で連携しながら対応訓練を行う取り組みを進めている。