Amazon, Strands Decider로 수백만 달러 절감
원제: Amazon saves millions by replacing Sonnet 4.6 with Strands Decider
왜 중요한가
대형 모델 의존 비용 문제를 아키텍처 최적화로 해결한 사례로, 기업 AI 에이전트 도입의 경제성 논의에 직접적인 영향을 준다.
Amazon이 AI 에이전트 프레임워크 Strands Agents의 'Strands Decider'를 도입해 Anthropic의 Claude Sonnet 4.6 대비 수백만 달러의 비용을 절감했다고 Strands Agents 공식 블로그가 밝혔다. Strands Decider는 에이전트 루프의 의사결정 단계에서 고비용 대형 모델 호출을 최적화하는 컴포넌트다.
Strands Agents 공식 블로그에 따르면, Amazon은 AI 에이전트 운영 과정에서 Anthropic Claude Sonnet 4.6을 Strands Decider로 교체함으로써 대규모 비용 절감을 달성했다. Strands Decider는 Strands Agents 프레임워크 내에서 에이전트의 도구 호출 여부와 다음 행동을 결정하는 '의사결정 레이어'에 해당한다. 기존에는 매 결정 단계마다 Sonnet 4.6과 같은 대형 언어 모델을 풀로 호출했지만, Strands Decider는 더 경량화된 판단 로직을 적용해 불필요한 고비용 모델 호출을 줄이는 방식이다. Amazon은 이를 프로덕션 에이전트에 적용해 비용을 수백만 달러 수준으로 절감했다고 밝혔다. Strands Agents는 Amazon이 지원하는 오픈소스 에이전트 프레임워크로, AWS Bedrock 및 다양한 모델·툴 통합을 지원한다. 이번 사례는 대형 모델을 무조건 전 단계에 투입하는 방식보다, 에이전트 파이프라인 내 적재적소에 경량 의사결정 컴포넌트를 배치하는 아키텍처가 실질적인 비용 효율로 이어질 수 있음을 보여준다.