Qwen 3.8 27Bは優秀だがデフォルトで過剰思考
原題: Qwen 3.8 27B is excellent, but it defaults to overthinking things
なぜ重要か
27BクラスのオープンソースLLMが高品質な推論能力を持ちつつも、デフォルト設定が消費者向けハードウェアに不適合である点は、ローカルLLM運用の設定最適化の重要性を示す事例として業界全体に示唆を与える。
Alibabaのオープンソースモデル「Qwen 3.8 27B」（Apache 2ライセンス、270億パラメータ）が2026年8月15日にリリースされた。開発者Simon Willison氏がM5 Max MacBook ProとNVIDIA DGX Sparkで検証した結果、デフォルト推論設定「xhigh」が過剰なトークン消費を引き起こし、シンプルなSVG生成に21分・2万2276推論トークンを要することが確認された。
Alibabaのオープンソースモデル「Qwen 3.8 27B」は、Apache 2ライセンスで公開されたビジョン対応の270億パラメータLLMである。前作「Qwen 3.6 27B」の後継にあたり、Qwen公式のベンチマークでは同モデルおよびクローズドウェイトの「Qwen 3.7-Plus」を上回る結果が示されている。
Simon Willison氏は128GB M5 Max MacBook ProおよびNVIDIA DGX Sparkの2台でLM Studioを用い、17GBのQ4_K_M量子化ビルドを実行して検証を行った。
最大の問題点として挙げられたのが、デフォルトの推論設定「xhigh」である。Qwenのドキュメントでは推論深度を「xhigh（デフォルト）」「medium」「low」の3段階に設定できると説明しており、xhighは「徹底的な分析が必要な複雑なタスク向け」と位置づけられている。しかし実際には、ペリカンが自転車に乗るSVG生成という課題に対し、2万2276推論トークンを費やして3223トークンの出力を生成するのに21分を要した。
LM Studioのデフォルトコンテキスト上限8192トークンでは推論トークンがすぐに枯渇するため、Willison氏は最大の26万2144トークンに拡張して再試行した。推論をオフにした場合、同じプロンプトで3715トークン・約137秒（2分超）で完了し、実用的なSVGが生成された。
「draw an svg of a circle（円のSVGを描いて）」という極めて単純なプロンプトでも、xhighモードでは同心円・目盛・グラデーション・アニメーションなど過剰な装飾を検討し始めることがトレースから確認された。
一方で品質面では、推論オンで生成されたペリカンSVGは「自転車フレームの形状が正確」「両側に脚がある（非常に稀）」「翼がハンドルバーに接触している」など、ローカルモデルとしては高い描画精度を示した。Willison氏は27Bサイズが一般的なスペックのラップトップで実行可能な優れたサイズであると評価しつつ、xhighをデフォルトにする設定判断を「hilarious（笑える）」と表現している。