AI가 스스로를 개발하는 시대: 재귀적 자기개선 진전
원제: When AI Builds Itself: Our progress toward recursive self-improvement
왜 중요한가
AI 자체 개발 능력은 과학·의료 분야 혁신을 가져올 수 있지만 인간의 통제력 상실 위험도 증가시킨다.
Anthropic이 AI 시스템이 자체적으로 AI 개발을 가속화하고 있다는 연구 결과를 발표했다. 엔지니어들의 코드 생산량이 2021-2025년 대비 8배 증가했으며, AI가 완전 자율적으로 후속 시스템을 설계·개발하는 재귀적 자기개선 단계에 근접하고 있다고 밝혔다.
Anthropic Institute는 AI 시스템이 스스로를 개발하는 재귀적 자기개선(recursive self-improvement) 연구 결과를 공개했다. 초기에는 인간이 모든 AI 개발 과정을 주도했지만, 현재는 AI 시스템 자체가 개발 작업의 상당 부분을 담당하고 있다.
AI 모델의 개선 속도가 가속화되고 있다. AI가 독립적으로 완료할 수 있는 작업의 길이가 이전 7개월마다 2배씩 증가하던 것에서 현재는 4개월마다 2배로 단축되었다. Claude Opus 3는 2024년 3월 4분 분량의 소프트웨어 작업을 처리했으나, 1년 후 Claude Sonnet 3.7은 1시간 30분, 그 다음 해 Claude Opus 4.6은 12시간 분량의 작업을 수행했다. 이 추세가 지속된다면 올해 며칠이 걸리는 작업, 2027년에는 몇 주가 걸리는 작업도 AI가 처리할 수 있을 것으로 예상된다.
코딩 및 연구 벤치마크에서도 동일한 패턴이 나타났다. SWE-bench는 실제 오픈소스 코드베이스와 버그 리포트를 제공해 수정 코드 작성을 테스트하는데, AI 모델이 2년 만에 한 자릿수 점수에서 거의 100% 성능으로 향상되었다. CORE-Bench는 기존 연구 재현 능력을 측정하며, 2024년 20% 성공률에서 15개월 만에 벤치마크를 포화시켰다.