Nvidia RTX Spark: Linux hanya capai 35% kecepatan Windows
Judul asli: Nvidia RTX Spark encrypted firmware slows inference speed to 35% on Linux
Mengapa Ini Penting
Keterbatasan ini mempengaruhi seluruh ekosistem developer AI yang mengandalkan Linux native di hardware ARM terbaru Nvidia.
Firmware terenkripsi Nvidia RTX Spark mengunci clock GPU di 780 MHz pada Linux, menurunkan inferensi dari 65,4 menjadi 13,9 token/detik dibanding Windows.
Pengujian MindStudio pada laptop MSI Prestige N16 Flip AI Plus dengan chip Nvidia RTX Spark mengungkap perbedaan kinerja yang tajam antara Linux dan Windows. Di Windows, GPU berjalan di sekitar 2,2 GHz dan menghasilkan 65,4 token per detik pada model GPT-OSS-120B berparameter 120 miliar. Di Linux native, clock GPU anjlok ke sekitar 780 MHz saat laptop terhubung ke listrik, sehingga kecepatan inferensi hanya mencapai 13,9 token per detik — sekitar 21% dari performa Windows.
Akar masalahnya ada pada komponen bernama Nvidia Platform Controllers and Framework, sebuah lapisan manajemen daya yang mengatur distribusi listrik antara CPU dan GPU. Firmware tabel daya komponen ini dienkripsi dan hanya bisa didekripsi oleh driver Windows. Linux tidak memiliki padanannya, sehingga GPU terkunci di clock rendah.
Benchmark lengkap: Windows (65,4 tok/dtk), WSL (65,1 tok/dtk), Nvidia DGX Spark (61 tok/dtk), dan Linux native (13,9 tok/dtk). Selain itu, laptop secara default mengalokasikan 96 GB unified memory untuk GPU, dan pengaturan pembagian memori tersebut hanya bisa diubah melalui Windows sebelum booting ke Linux.
WSL saat ini menjadi jalan tengah praktis karena tetap menggunakan driver stack Windows dan mempertahankan clock GPU penuh, sambil tetap menjalankan tooling AI berbasis Linux seperti vLLM. Solusi permanen bergantung pada Nvidia untuk memindahkan logika manajemen daya platform controller ke dalam driver Linux.