SemIf: Browser-only AI keputusan tanpa backend

Judul asli: OpenJev

Mengapa Ini Penting

Inferensi AI lokal di browser tanpa backend membuka peluang privasi penuh untuk aplikasi keputusan sensitif.

Proyek riset independen SemIf (sebelumnya OpenJev) menjalankan model AI lokal langsung di browser untuk membaca probabilitas keputusan, tanpa server atau pengiriman data.

SemIf adalah eksperimen browser lokal yang memungkinkan pengguna menguji dua metode inferensi model bahasa untuk pengambilan keputusan: membaca logit secara langsung (direct readout) atau meminta model menulis distribusi probabilitas dalam format JSON token per token. Semua proses berjalan di GPU pengguna, tanpa backend.

Tiga model tersedia: Qwen3 0.6B (639 MB, direkomendasikan untuk ponsel), MiniCPIM5 2B (1,56 GB, default desktop dengan akurasi 68,6%), dan Qwen3.5 4B (3,01 GB, akurasi 81,3%). Benchmark internal menggunakan metrik "balanced accuracy" pada subset publik 102 baris. Model Jev versi hosted mencatat 88,3%, jauh di atas opsi lokal.

Bobot model diunduh dari Hugging Face dan disimpan di cache browser. Input pengguna tidak pernah meninggalkan halaman. Pengukuran waktu menggunakan performance.now() mencakup setup, warmup, eksekusi direct, hingga token pertama yang dihasilkan. Proyek ini tidak terafiliasi dengan TypeSafe.

Sumber

openjev.com — Baca artikel asli →