Mantan Kepala AI Databricks Targetkan Hemat Daya AI 1.000x
Judul asli: Databricks’ former AI chief thinks he can cut AI’s power bill by 1,000x
Mengapa Ini Penting
Efisiensi daya kritis untuk sustainability dan ekonomi AI; mengatasi hambatan energi yang akan membatasi ekspansi infrastruktur AI.
Naveen Rao, mantan kepala AI Databricks, memimpin Unconventional AI yang menjanjikan mengurangi konsumsi daya pemrosesan inferensi AI hingga 1.000 kali lipat menggunakan arsitektur komputer berbasis osilator baru.
Unconventional AI, dipimpin Naveen Rao, meluncurkan model generasi gambar Un-0 pada Kamis untuk mendemonstrasikan teknologi arsitektur berbasis osilator mereka. Model tersebut menunjukkan performa setara dengan model difusi canggih seperti Stable Diffusion dan GPT Image 1. Un-0 dibangun berdasarkan arsitektur berbasis osilator yang sepenuhnya berbeda dari chip yang menggerakkan komputasi konvensional dan LLM tradisional. Rao percaya teknologi ini dapat mengurangi penggunaan daya hingga 1.000 kali lipat. Perusahaan dengan kurang dari 50 karyawan ini masih dalam tahap pengembangan infrastruktur. Versi saat ini Un-0 berjalan pada simulasi perangkat lunak dari chip osilator Unconventional, namun perusahaan berencana merilis skema chip aktual segera. Rencana jangka panjang mencakup membangun seluruh stack inferensi dari nol, dengan Unconventional AI akhirnya menyediakan kapasitas komputasi layaknya penyedia lainnya. Rao menyatakan akan membangun sistem komposit baru dari chip mereka yang menjalankan model AI dengan penggunaan daya 1/1.000 dari konvensional. Rao menekankan bahwa ketersediaan daya akan menjadi pembatas utama AI di tahun-tahun mendatang, dan Unconventional adalah salah satu dari sedikit proyek yang mampu mengatasi skala masalah tersebut.