Microsoft、開発者向けAIエージェント制御の新標準を発表
原題: Microsoft offers devs a better way to control AI agent behavior
なぜ重要か
AIエージェントの企業導入における安全性と制御性の標準化により、AI活用の信頼性向上と普及加速が期待される
Microsoftは6月2日、AIエージェントの行動をより詳細に制御できるオープンソース標準「Agent Control Specification（ACS）」を発表した。開発者、コンプライアンス、セキュリティチームがエージェントに従わせるポリシーを定義でき、複数の監視ポイントで動作をチェックする仕組みを提供する。
AIエージェントの機能向上に伴い、企業がアプリケーションやワークフローに導入する際の新たな課題として、エージェントが意図通りに動作することを保証する必要性が高まっている。Microsoftが発表したACSは、この問題を解決するためのオープンソース標準だ。この仕様により、開発者は一貫性があり詳細なエージェント制御が可能になる。ACSでは、ポリシーファイルでエージェントが実行できること、してはいけないこと、人間の承認が必要な場面、ログに記録すべき証拠を定義できる。これらのポリシーは、エージェントがタスクを実行する際の複数の「インターセプションポイント」でチェックされ、ガードレールを維持する。従来の開発者は、システムプロンプトでの指示、アプリケーションコードでの独自チェック、分類器による問題のある入出力の検出などを行っていたが、これらの手法は断片的で監査が困難だった。ACSは共通のガバナンス層にこれらの制御を統合することを目指している。MicrosoftによるとACSは、入力受信前、ツール呼び出し前、ツール結果受信後、最終回答送信前の複数ポイントでガードレールの遵守をチェックできる。ポリシーは行動の許可、ブロック、機密情報の編集、人間の承認要求が可能だ。これらのポリシーは単一ファイルとして記述でき、エージェントにバンドルして異なるフレームワークや環境間でのセキュリティポリシーの移行を可能にする。ACSはLangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCPツールなどのプラグインを備えたSDKとして提供される。