スマホで動く27Bモデル「Bonsai 27B」登場
原題: Bonsai 27B: A 27B-Class model that runs on a phone
なぜ重要か
27Bクラスの推論・エージェント能力をスマートフォン上で完全ローカル動作させる技術的な突破口となり、プライバシー重視のエッジAIアプリケーション市場に新たな可能性をもたらす。
PrismMLは2026年7月14日、Qwen3.6 27Bをベースとした「Bonsai 27B」を発表した。1ビット版は3.9GBのフットプリントでiPhone 17 Proのメモリ内で動作する世界初の27Bクラスモデルであり、テルナリー版は5.9GBでラップトップでも利用可能。両バリアントともApache 2.0ライセンスで本日より公開された。
PrismMLは、マルチモーダル対応の大規模オンデバイスモデル「Bonsai 27B」を発表した。同モデルはQwen3.6 27Bをベースとし、Bonsaiファミリーの新たなフラッグシップとして位置づけられる。
従来、27Bパラメータモデルは16ビット精度で約54GB、4ビット量子化でも約18GBを要するため、スマートフォンはもちろん多くのノートPCでの動作も現実的ではなかった。Bonsai 27Bはこの課題を、1ビット・テルナリー重みの独自手法で解決した。
モデルには2つのバリアントが存在する。「Ternary Bonsai 27B」は{−1, 0, +1}のテルナリー重みとFP16グループスケーリングを採用し、実効ビット数1.71 bpw、ファイルサイズ5.9GBで、ノートPCでの動作を想定した品質重視モデルだ。一方「1-bit Bonsai 27B」は{−1, +1}のバイナリ重みを用い、実効1.125 bpw・3.9GBを実現し、iPhone 17 Proのメモリ予算内で動作する。同社によれば、27Bクラスのモデルがスマートフォンで動作するのはこれが初めてという。
両バリアントとも低ビット表現は言語ネットワーク全体（埋め込み、アテンション、MLP、LMヘッド）に適用され、高精度な「逃げ道」は設けていない。ビジョンタワーは4ビット形式で搭載され、スクリーンショット・文書・カメラ入力にも対応。コンテキスト長は262Kトークンで、Speculative Decodingによる高速化もサポートする。
ベンチマーク結果（15項目、Thinkingモード）では、Ternary版がフルprecisionベースラインの95%、1ビット版が90%のスコアを保持。数学（GSM8K、MATH-500など）ではTernary版93.4、1ビット版91.7と、ベースライン95.3とほぼ同等の精度を維持した。コーディング系もTernary版86.0、1ビット版81.9と高水準を保つ。
同社はインテリジェンス密度（Intelligence Density）という指標を導入し、1ビット版は0.53/GBを達成。これはフルprecisionベースラインの10倍以上、既存の最良低ビット代替手法の約2.7倍に相当すると説明している。また、同ベースモデルの最も積極的な従来型低ビットビルドと比較して、1ビット版はメモリ使用量が2.5分の1でありながら精度で上回るとしている。