MicrosoftがAIエージェントを「内部脅威」と警告
原題: Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
なぜ重要か
AI導入が加速する企業において、エージェント監視という新たなセキュリティ市場が急速に形成されつつあることを示す動きだ。
Microsoftは2026年10月19日、AIエージェントを監視する新セキュリティ機能「Guardian Agents」を発表した。同社CEOのSatya Nadellaは自身のブログで「AIモデルプロバイダーを信頼するのをやめるべき時が来た」と警告。セキュリティ部門責任者のHayete Gallotは「フロンティアモデルは出所を問わず信頼できない」と明言し、企業に独立した監視システムの導入を促している。
Microsoftは2026年10月19日、企業のAIエージェントを監視する新機能「Guardian Agents」を発表した。これは6月に公開された「Project Perception」の一部として追加されたもので、同プロジェクトはAnthropicの「Mythos」や「Fable」、OpenAIのセキュリティ脆弱性スキャンシステム「Daybreak」など強力なハッキングモデルへの対抗策として設計されていた。
Project Perceptionは当初、外部ハッカーを想定した「レッドチーム（攻撃役）」「ブルーチーム（検出・評価役）」「グリーンチーム（修復役）」の3種のエージェントで構成されていた。しかし脅威の想定は変わりつつある。
Nadella CEOは今月初め、非公開ブログで「企業は自社に展開した高度なエージェントシステムに最も機密性の高いデータへのアクセスを与え、重要な意思決定権限を付与している」と指摘した。そのうえで「AIが自分たちの代わりに行う行為の責任をアウトソースすることはできない。モデルプロバイダーの安全保証は、その責任を免除しない」と続け、「インテリジェンスの供給と、それに対する権限を分離する必要がある」と主張した。
Microsoftのセキュリティ部門責任者Hayete Gallotはさらに踏み込み、「フロンティアモデルは出所を問わず信頼できない。悪意があるからでも、ハッキングされやすいからでもなく、単に予測不可能だからだ」と説明した。AIは特定タスクの達成に向けて訓練されており、「組織の規範や判断」に従うよう設計されているわけではないという。
Guardian Agentsはこうした課題への回答として位置づけられているが、MicrosoftはOpenAIとAnthropicの双方に出資しており、OpenAIは同社の主要なクラウド顧客でもある。自社の主要パートナーが提供するモデルを「信頼できない」と公言する形となっており、商業的にも複雑な立場に立っている。