마이크로소프트, AI 에이전트 행동 제어를 위한 새로운 오픈소스 표준 발표
원제: Microsoft offers devs a better way to control AI agent behavior
왜 중요한가
AI 에이전트의 안전하고 일관된 제어를 위한 업계 표준 확립으로 기업 AI 도입 가속화에 기여할 전망
마이크로소프트가 AI 에이전트의 행동을 일관성 있게 제어할 수 있는 오픈소스 표준 Agent Control Specification(ACS)을 6월 2일 공개했다. 개발자와 보안팀이 에이전트의 허용 행동과 금지 행동을 정의할 수 있는 정책 파일을 제공한다.
마이크로소프트는 기업들이 AI 에이전트를 다양한 환경에서 배포할 때 예상대로 작동하도록 보장하는 문제를 해결하기 위해 Agent Control Specification(ACS)를 발표했다. 이 오픈소스 표준은 개발자, 컴플라이언스, 보안팀이 에이전트가 따라야 할 정책을 정의할 수 있게 해준다. 정책 파일은 에이전트가 수행할 수 있는 작업, 금지된 작업, 인간 승인이 필요한 경우, 검토를 위해 기록해야 할 증거 등을 규정한다. 이러한 정책은 에이전트가 작업을 수행하는 여러 '차단 지점'에서 확인되어 가이드라인을 벗어나지 않도록 한다. ACS는 입력 수신 전, 도구 호출 전, 도구 결과 반환 후, 최종 응답 전송 전 등 에이전트 워크플로의 여러 지점에서 가이드라인 준수를 확인할 수 있다. 정책은 작업을 허용하거나 차단하거나, 민감한 정보를 삭제하거나, 인간의 승인을 요청할 수 있다. ACS는 LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI 등을 위한 플러그인과 함께 SDK로 제공된다.