AI 에이전트 시간당 비용도 지수적 증가하는가

원제: Are the costs of AI agents also rising exponentially? (2025)

왜 중요한가

AI 성능 향상과 운영 비용의 상관관계 파악은 AI 상용화와 경제성 평가에 필수적

옥스퍼드대 토비 오드 연구원이 AI 에이전트의 작업 성능 향상과 함께 운영 비용도 지수적으로 증가하고 있는지에 대한 중요한 질문을 제기했다. METR 데이터에 따르면 AI가 수행할 수 있는 작업 시간이 7년간 지수적으로 늘었지만, 이에 따른 비용 증가율은 명확하지 않다고 지적했다.

토비 오드는 AI 에이전트의 성능 향상에 대한 널리 알려진 METR 데이터를 인용하며, GPT-2가 몇 초 분량의 소프트웨어 엔지니어링 작업만 수행할 수 있었던 반면 최신 모델은 몇 시간 분량의 작업을 50% 확률로 완료할 수 있다고 설명했다. 지난 7년간 AI 모델의 매개변수 수는 4,000배, 토큰 생성량은 약 100,000배 증가했다고 밝혔다. 그는 AI 시스템의 성능이 지수적으로 향상되고 있지만, 이러한 성능을 달성하는 데 필요한 비용도 지수적으로 증가하고 있을 가능성을 제기했다. 만약 비용 증가율이 작업 시간 연장율보다 빠르다면, 최첨단 AI 시스템이 인간 대비 비용 경쟁력을 잃을 수 있다고 경고했다. 그는 이를 '포뮬러 1과 같은 AI 성능'이라고 표현하며, 가능한 것과 실용적인 것 사이의 차이를 강조했다. 이에 따라 AI 에이전트의 '시간당' 비용 변화를 추적하는 것이 핵심 질문이라고 주장했다.

출처

tobyord.com — 원문 읽기 →