「本当に頭が良くて真剣な人」が消えると社会インフラが崩壊する
原題: We need smart people who give a shit
なぜ重要か
生成AIによる人員削減が社会インフラの信頼性低下に直結するという具体的な論点は、企業のAI投資戦略と技術リスク管理の両面で無視できない問いを提示している。
violetpixel.comのJustin Michaelは2026年11月17日、Microsoft 365、航空管制システム、United Airlines、NSAのネットワーク、主要銀行、Appleのシステムなど同週に相次いだ障害群を例に挙げ、複雑なインフラを支えてきた「知識と使命感を持つ優秀な人材」が生成AIへの置き換えで失われつつあるという見解をブログに投稿した。
元Stripeエンジニアのユーザーが記した同記事は、ACH(自動決済機関)を具体例として取り上げる。ACHは古くて欠陥だらけのシステムだが、実際には「安全・安価・信頼性が高い」と評価されている。その理由はただ一つ——システムを熟知し、何としても動かそうとする人間が存在するからだ、と筆者は主張する。複雑なシステムへの深い理解と使命感は相互に強化し合い、知れば知るほど守ろうとする意志が生まれる。その連鎖を担う人材を「smart people who give a shit(頭が良くて真剣な人)」と定義する。
問題は、その人材が今まさに組織から消え始めているという指摘だ。生成AIの登場により、マネジメント層は「AIでも同等のアウトプットが得られる」と判断し始めた。機械はコストが低く、休暇も取らず、悪いアイデアに反論もしない。実務から離れたリーダーたちには、使命感を持つ人間が必死に支えるシステムと生成AIが吐き出すアウトプットの質の差が見えない——「どちらも読める文章、動くコード、見栄えのするUIだ」と筆者は皮肉を込めて述べる。
記事は「生成AIは賢くないし、何も気にしない」と断言する。知性のように見えるものは膨大なデータから搾取された幻想に過ぎない。複雑な社会インフラを維持するには、それを誰よりも深く理解し、問題が起きたときに自ら動こうとする人間のコミットメントが不可欠だという。最近の一連の障害群は、その層が削られ始めた結果だと筆者は見る。ただし記事内で明言されているとおり、筆者は各障害の内部情報を持っているわけではなく、あくまで経験則からの見立てだ。