PrismMLの超小型LLMがAI利用を変えるか
原題: PrismML hopes its tiny LLM will change how we all use AI
なぜ重要か
LLMのオンデバイス化が進めば、クラウド依存を減らしてプライバシーとコストの両面を改善でき、エッジAI市場の拡大を加速させる可能性がある。
AIスタートアップPrismMLは2026年9月17日、Alibaba製オープンソースモデルQwen3.8 27Bを5.9GBまで圧縮した「Bonsai 2 27B」をリリースした。元モデル比でメモリ使用量を9〜10分の1に削減しながら、ベンチマーク性能の98%を維持。シード調達額は2,225万ドルで、PC・高性能スマートフォンへの搭載を見込む。Appleとの交渉も噂されている。
PrismMLはCaltech（カリフォルニア工科大学）の研究者グループが創業したスタートアップで、CEOはCaltech教授で圧縮技術の専門家であるBabak Hassibi氏が務める。顧問にはDatabricksの共同創業者でありUC BerkeleyのSky Computing Lab所長のIon Stoica氏が名を連ねる。出資者はKhosla Ventures、Cerberus Capital、Caltechで、調達済みの資金はシードラウンドの2,225万ドルにとどまる。
今回リリースされた「Bonsai 2 27B」は、AlibaibaのオープンソースモデルQwen3.8 27Bの重み（weights）を圧縮し、ファイルサイズを5.9GBまで抑えた。通常、各重みは16ビットで格納されるが、PrismMLはこれを独自手法で大幅に削減する。元モデルと比べたメモリ削減率は9〜10倍。PC搭載は現実的で、高性能スマートフォンへの展開も視野に入る。
ベンチマーク性能は総合スコアで元モデルの98%を達成。数カ月前の2026年3月にリリースされた初代Bonsaiの95%から改善した。初代モデルはすでに1,100万回以上ダウンロードされ、さらに小型のモデルも合わせて260万回ダウンロードされているとPrismMLは説明する。
Hassibi氏は、LLMの圧縮が性能にまったく影響を与えないことはないと認めつつも、2%の劣化は実用上ほぼ問題にならないと主張する。そもそも非圧縮モデルも完全に正確ではなく、ベンチマークが実際のタスクを完璧に反映しているわけでもないためだ。モデルを動かすソフトウェア環境も精度に大きく影響する。
Appleとの交渉の噂についてはHassibi氏はコメントを拒否。競合にはスペインのDonostia International Physics Centerの著名教授が創業したMultiverse Computingがあるが、同社は大型調達を済ませており資金規模で差がある。