Databricks 전 AI 책임자, AI 전력비 1000배 절감 추진
원제: Databricks’ former AI chief thinks he can cut AI’s power bill by 1,000x
왜 중요한가
AI 인프라의 전력 소비가 급증하면서 에너지 효율은 산업의 핵심 과제가 되었으며, 근본적 아키텍처 혁신을 통한 전력 절감 기술은 AI 산업 발전의 중요한 기초가 될 수 있다.
Databricks 전 AI 책임자 Naveen Rao가 이끄는 Unconventional AI가 진동자 기반 컴퓨터 아키텍처를 통해 AI 추론 처리의 전력 효율을 획기적으로 개선할 수 있다고 주장했다. 6월 25일 첫 AI 모델 Un-0을 공개했으며, 이는 기존 확산 모델 수준의 이미지 생성 성능을 보였다.
Unconventional AI는 기존 컴퓨팅 아키텍처를 근본적으로 재설계하는 프로젝트다. Naveen Rao 회장은 기존 칩과 완전히 다른 진동자 기반 아키텍처가 AI 추론 전력 소비를 최대 1000배 줄일 수 있다고 밝혔다.
회사가 공개한 Un-0은 소프트웨어 시뮬레이션으로 구현된 이미지 생성 모델로, Stable Diffusion이나 OpenAI의 GPT Image 1과 유사한 성능을 보였다. 현재 버전은 아직 소프트웨어 시뮬레이션 상에서 작동하지만, 회사는 실제 칩 설계도를 곧 공개할 계획이다.
Rao는 "우리는 우리의 칩으로 구성된 새로운 종류의 시스템을 구축할 것이고, 그곳에서 AI 모델을 실행하며, 프롬프트가 들어오고 추론 결과가 나가는 네트워크 케이블을 갖춘 시스템을 만들 것이다. 다만 전력은 1/1000으로 줄어들 것"이라고 설명했다.
현재 50명 미만의 직원을 가진 소규모 회사지만, Rao는 에너지 부족이 향후 AI 확장의 근본적 한계가 될 것으로 전망했다. "AI 스케일링은 에너지 때문에 어렵다. 에너지는 향후 몇 년간 근본적 한계가 될 것이다. 결국 에너지 제한 문제가 될 것"이라고 말했다.