AI 에이전트에는 프롬프트가 아닌 제어 흐름이 필요
원제: Agents need control flow, not more prompts
왜 중요한가
AI 에이전트의 실용성과 신뢰성 향상을 위한 핵심 설계 원칙을 제시하여 에이전트 개발 방향성에 중요한 시사점을 제공한다.
브라이언 수(Brian Suh)는 복잡한 작업을 수행하는 신뢰할 수 있는 AI 에이전트에는 정교한 프롬프트 체인이 아닌 소프트웨어로 인코딩된 결정적 제어 흐름이 필요하다고 주장했다. 프롬프트 체인은 비결정적이고 검증이 어려워 확장성에 한계가 있다고 분석했다.
개발자 브라이언 수는 개인 블로그를 통해 AI 에이전트의 신뢰성 향상 방안을 제시했다. 그는 'MANDATORY'나 'DO NOT SKIP'과 같은 강제 키워드를 사용해본 경험이 있다면 이미 프롬프트의 한계에 도달한 것이라고 지적했다. 함수가 '성공'을 반환하면서 동시에 환각을 일으키는 프로그래밍 언어를 상상해보라며, 이런 상황에서는 추론이 불가능하고 복잡성이 증가할수록 신뢰성이 붕괴된다고 설명했다. 소프트웨어는 라이브러리, 모듈, 함수로 구성된 시스템을 통해 재귀적 구성 가능성으로 확장되는데, 코드는 예측 가능한 동작을 노출시켜 지역적 추론을 가능하게 한다. 반면 프롬프트 체인은 이런 특성이 없어 좁은 작업에는 유용하지만 비결정적이고 명세가 약하며 검증이 어렵다고 분석했다. 신뢰성을 위해서는 논리를 산문에서 런타임으로 옮기고, LLM을 시스템이 아닌 구성 요소로 취급하는 명시적 상태 전환과 검증 체크포인트를 갖춘 결정적 스캐폴드가 필요하다고 주장했다. 또한 자동 오류 감지 없는 에이전트는 잘못된 결론에 빠르게 도달하는 방법일 뿐이라며, 프로그래밍 방식의 검증 없이는 인간 감시자, 사후 검증, 또는 결과 수용이라는 세 가지 선택지만 남는다고 경고했다.