Bonsai 27B: スマホで動く初の27Bクラスモデル
Judul asli: Bonsai 27B: A 27B-Class model that runs on a phone
Mengapa Ini Penting
27Bクラスの高性能AIがスマートフォン上で完全ローカル動作可能となり、エッジAI展開の実用範囲が大幅に拡大する。
PrismMLは2026年7月14日、Qwen3.6 27Bベースのマルチモーダルモデル「Bonsai 27B」を発表。1ビット版はわずか3.9GBでiPhone 17 Proでの動作を実現した。
PrismMLは、スマートフォン上で動作する初の27Bクラスモデル「Bonsai 27B」を発表した。Qwen3.6 27Bをベースとし、多段階推論・ツール呼び出し・ビジョンタスク・エージェンティックループに対応する。
通常、27Bモデルは16ビット精度で約54GB、4ビット量子化でも約18GBを必要とするため、スマートフォンや多くのノートPCへの展開は現実的ではなかった。Bonsai 27Bはこの課題を2つのバリアントで解決する。
「Ternary Bonsai 27B」は三値重み（−1, 0, +1）を採用し、有効ビット数1.71bpwで容量5.9GB。ノートPC向けの品質重視モデル。「1-bit Bonsai 27B」は二値重み（−1, +1）で1.125bpw・3.9GBを実現し、iPhone 17 Proのメモリ内に収まる。
15項目のベンチマーク（数学・コーディング・ツール呼び出し・視覚理解など）では、Ternary版がフル精度の95%、1ビット版が90%のスコアを保持。1ビット版の「知能密度」は1GBあたり0.53で、フル精度比10倍以上、最良の低ビット代替手段比約2.7倍に達する。両バリアントは262Kトークンのコンテキストをサポートし、Apache 2.0ライセンスで公開されている。