Fermion Research、8B軽量モデル「Neutrino-1 8B」公開
原題: Neutrino-1 8B
なぜ重要か
独自三値系圧縮フォーマットによりfp16比8分の1サイズを実現し、エッジ端末や低VRAM環境での大規模モデル活用の経済性と実用性を示す重要な事例となる。
Fermion Researchは2025年7月27日、独自の三値系重みフォーマットを採用した8.19Bパラメータの言語モデル「Neutrino-1 8B」を公開した。ファイルサイズは3.88GBと、fp16換算の8分の1に圧縮されており、8GB GPUやラップトップ、デスクトップCPUなど複数のプラットフォームで変換不要の単一ファイルから動作する。MMLU評価スコアは72.1、H100でのスペキュレイティブデコード速度は763トークン/秒を達成している。
Fermion Researchが公開した「Neutrino-1 8B」は、8.19Bパラメータのデコーダーオンリー型Transformerモデルで、Alibaba CloudのQwen3-8Bをベースモデルとして採用し、Apache-2.0ライセンスで提供される。
最大の特徴は、同社独自の「ternary-family（三値系）」重みフォーマットの採用だ。252本のTransformer線形層がこのフォーマットで格納され、fp16比で8分の1のサイズを実現している。重みはビットパック状態のままメモリに置かれ、行列演算カーネル内でデコードされるため、デコードパスにfp16やfp32の重みデータが展開されることはない。結果として、同一メモリシステム上では16GBのfp16モデルでは到達できない速度でのデコードが可能となる。
アーキテクチャの詳細は、デコーダー層36層、隠れ次元4,096、フィードフォワード幅12,288（SwiGLU）、注意機構はグループクエリアテンション（4:1、32クエリヘッド・8KVヘッド）、コンテキスト長は40,960トークン、語彙数は151,936となっている。KVキャッシュは4kコンテキストで1.21GB、32kコンテキストで9.66GBを必要とする。
コンテナファイルの内訳では、Transformerの線形層がファイル全体の67.2%（2,605MB）を占め、トークン埋め込みが32.1%（1,245MB）、行単位メタデータが0.6%（25MB）などとなっている。
コード化済み重み6.95Bのうち62.63%がゼロ値であり、残りはプラス18.68%・マイナス18.69%と高い符号バランスを示している。層ごとの分析では、1〜3層目のゲートおよびダウンフィードフォワード投影でゼロ値が70〜72%に達する一方、注意機構の4種投影は全36層を通じて約62%で安定している。
単一のコンテナファイルはデータセンターGPU、MacBook、デスクトップCPUのいずれでも変換不要で動作し、2026年7月27日より利用可能となっている。