Alibaba、Qwen3.8-27B-FP8モデルを公開

原題: Qwen 3.8 27B

なぜ重要か

中国発の大規模OSSモデルがFP8量子化と推論制御機能を組み合わせて公開され、商用・研究用途でのコスト効率の高い選択肢が広がる。

AlibabaのQwenチームが270億パラメータのFP8量子化モデル「Qwen3.8-27B-FP8」をHugging Face上で公開した。推論時の思考努力レベルをxhigh・medium・lowの3段階で制御でき、画像・動画を含むマルチモーダル入力、およびツール呼び出し機能にも対応している。

AlibabaのQwenチームは、新たなAI言語モデル「Qwen3.8-27B-FP8」をHugging Face上で公開した。本モデルは270億(27B)パラメータを持ち、メモリ効率と推論速度を向上させるFP8(8ビット浮動小数点)量子化フォーマットで提供されている。

主な特徴として、推論時の思考努力レベルを「xhigh」「medium」「low」の3段階で切り替えられる設計が採用されている。xhighモードでは、タスクを慎重に検討し、主要な仮定を検証したうえで回答の正確性・一貫性・明確さを優先する。lowモードでは、不要な説明を省いた簡潔な回答を生成する。

また、テキストに加えて画像・動画といったマルチモーダルコンテンツの入力に対応しており、複数の外部ツールを呼び出すfunction calling機能も備える。ツール呼び出しは専用の構造化フォーマットで記述される設計となっている。

モデルのチャットテンプレートには、システムメッセージへの動画入力を制限するなど、コンテンツタイプごとの処理ルールが細かく定義されており、開発者が柔軟に利用できる構造となっている。Hugging Face上では重みファイルおよびトークナイザーが公開されており、ローカル環境や推論エンドポイントでの利用が可能。

出典

huggingface.co — 元記事を読む →