Perusahaan Teknologi Mulai Beralih ke Model AI yang Lebih Murah
Judul asli: Can tech companies learn to love cheaper AI models?
Mengapa Ini Penting
Pergeseran ke model AI murah dapat mengubah ekonomi industri dan mengancam revenue lab besar
Perusahaan mulai menguji model AI yang lebih murah untuk mengurangi biaya operasional. Harvey berhasil memangkas biaya inference 3x lipat tanpa mengurangi kualitas dengan mengombinasikan Claude Opus dan GLM 5.1 dari Fireworks AI.
Brian Armstrong, co-founder Coinbase, memprediksi 80% beban kerja AI akan beralih ke model 99% lebih murah dalam 12-18 bulan mendatang, sementara 20% tetap menggunakan model terbaru. Perubahan ini dapat mengubah ekonomi industri AI secara signifikan. Harvey, startup layanan hukum AI, berhasil mengurangi biaya inference 3x lipat tanpa mengurangi kualitas melalui kemitraan dengan Fireworks AI. "Kualitas tetap utama dalam bidang hukum, namun definisi kualitas berkembang dari menggunakan model paling kuat untuk segalanya, menjadi menggunakan model terbaik yang memberikan jawaban tepat dengan cara paling efisien," kata Gabe Pereyra, co-founder Harvey. Tren ini bukan tentang model proprietary vs open-source, melainkan model besar vs kecil.