AI障害対応で人間のシステム感覚が失われる
원제: AI handles incidents, engineers lose touch with their systems
왜 중요한가
AI自動化が進む中、人間のスキル維持をどう担保するかはSRE・DevOps領域全体の構造的課題となっており、業界の訓練手法の再設計が求められる。
AIがインシデント対応を自動化することで、エンジニアがシステムへの直感を失うリスクが高まっている。SREプラットフォームRootlyのSylvain Kalache氏が2025年、自身のブログで警鐘を鳴らした。AI SREツールはアラート検査から修正実装まで行うが、ルーティン対応の経験を奪い、複雑インシデント時の対応力低下につながると指摘。
AI支援型インシデント対応ツール（通称「AI SRE」）は、アラート検査・仮説形成・テレメトリクエリ・デプロイ相関分析・修正実装までを自動で実行できるようになった。RootlyのSylvain Kalache氏は、このツールが夜間のキャパシティ問題を人間を起こさずに解決できる点を評価しつつ、重大な懸念を表明した。
Kalache氏が指摘する問題の本質は、1983年に人間工学研究者Lisanne Bainbridgeが「オートメーションの皮肉（The Ironies of Automation）」と呼んだ現象だ。自動化はオペレーターがルーティン作業を練習する機会を減らす一方、新規・異常事態への対応責任は人間に残り続けるというパラドックスである。Kalache氏は今後、AIによってほとんどのインシデントのMTTR（平均復旧時間）は短縮されるが、複雑なインシデントの解決時間は逆に長くなると予測する。
同氏は航空業界を参考例として挙げる。航空機の自動操縦は高度に発達しているが、パイロットは6ヶ月ごとにシミュレーター訓練を義務づけられ、エンジン故障などの稀なシナリオを繰り返し練習する。現代のタービンエンジンは10万飛行時間に1回未満しかシャットダウンしないほど信頼性が高いが、2015年のトランスアジア航空235便墜落事故では、最初の警告からわずか117秒で墜落した。
この課題への対応として、Kalache氏が勤めるRootlyはUptime Labsと提携し、リアルなインシデントシミュレーション環境を構築。エンジニアがeコマース障害のシミュレーション中にインシデントコマンダーを務め、オブザーバビリティツールを使いながらLLM駆動の関係者とSlack上で連携する訓練を提供している。