Kolibri: LLM Jerman 78 Miliar Parameter dari Aleph Alpha
Judul asli: Aleph Alpha Kolibri: How the sovereign German LLM works
Mengapa Ini Penting
Kolibri jadi tolok ukur nyata LLM Eropa yang patuh regulasi tanpa mengorbankan performa.
Aleph Alpha meluncurkan Kolibri pada 3 Oktober 2026, LLM open-weight 78,1 miliar parameter berlisensi Apache 2.0, dilatih di infrastruktur Jerman dan Finlandia pada 24 triliun token.
Kolibri adalah model bahasa besar (LLM) dengan arsitektur mixture of experts (MoE) yang dikembangkan Aleph Alpha untuk bahasa Jerman dan Inggris. Meski memiliki 78,1 miliar parameter total, model ini hanya mengaktifkan sekitar 3,46 miliar parameter (4,4%) per token — efisiensi khas MoE. Dilatih menggunakan 768 GPU NVIDIA B200 dengan lebih dari seperlima data berbahasa Jerman, Kolibri mendukung konteks hingga 262.144 token secara native dan telah diuji hingga 1.048.576 token. Bobotnya tersedia di Hugging Face dan membutuhkan sekitar 78 GB memori dalam format FP8.
Aleph Alpha menyebut Kolibri sebagai model "sovereign": dibangun di Eropa, di bawah hukum Jerman dan Uni Eropa, tanpa kendali pihak asing. Pengguna — seperti kementerian atau pemasok otomotif — dapat menjalankannya di server sendiri tanpa data meninggalkan gedung. Aleph Alpha juga telah menandatangani GPAI Code of Practice milik Uni Eropa.
Meski demikian, model card secara jujur mengakui keterlibatan model luar Eropa: teks web Inggris diparafrase menggunakan Gemma 4 dari Google, teks Jerman menggunakan Mistral-NeMo, dan Qwen3-32B dipakai untuk pelabelan filter kualitas data. Data pelatihan juga disaring untuk bias politik. Dalam evaluasi internal Aleph Alpha, Kolibri mengklaim skor di atas semua model seukurannya dalam kedua bahasa.