CEO IBM: Model Open Weight Kini Layak untuk On-Prem
Judul asli: IBM CEO says open weight models are now good and cheap on-prem
Mengapa Ini Penting
Tren open weight on-prem menekan dominasi cloud AI dan model frontier berbayar tinggi.
Arvind Krishna, CEO IBM, menyebut model AI open weight kini 90% seefektif frontier model dengan biaya token hanya 10%, berdasarkan pernyataan di earnings call Q3 2026.
Dalam sesi earnings call Q3 2026, Arvind Krishna menjelaskan pergeseran signifikan dalam kualitas model AI open weight. Pada 2024, menurutnya, frontier model tertutup bisa mencapai skor benchmark 70, sementara model terbuka hanya sekitar 20–30. Akhir 2025, kesenjangan itu menyempit ke kisaran 70 berbanding 50. Kini, biaya token model open weight hanya 10–25 persen dibanding frontier model. 'Apakah Anda ingin sesuatu yang 10 persen dari harga jika kualitasnya 90 persen dari yang terbaik?' kata Krishna kepada investor. Ia menyebut sebagian besar tugas enterprise — merangkum email, menganalisis kontrak, menjawab panggilan pelanggan — bisa ditangani model yang lebih murah ini. IBM pun melihat lonjakan minat terhadap infrastruktur AI on-prem. Krishna menyebut dua hingga tiga rak server sudah cukup untuk sebagian besar kebutuhan, namun ia mengakui banyak perusahaan kesulitan menjalankannya: siapa yang punya kernel engineer, siapa yang mengurus proximity GPU dan caching? IBM berencana menjawab kebutuhan itu lewat perangkat lunak deployment AI.