Qwen3.8-2.4TがHugging Faceで公開
原題: Qwen3.8-2.4T
なぜ重要か
2.4兆パラメータ規模のMoEモデルのオープン公開は、クローズドモデルに対抗するオープンソースLLMの大規模化トレンドを加速させる重要な事例となる。
Alibaba傘下のQwenチームが、Mixture-of-Experts（MoE）構造を採用した大規模言語モデル「Qwen3.8-2.4T-A95B」をHugging Face上で公開した。総パラメータ数は2.4兆（2.4T）で、そのうちアクティブパラメータは約950億（A95B）となっている。推論時の思考（Thinking）モードと通常応答モードの切り替えにも対応する。
Qwenチームは、最新のMoEアーキテクチャを採用した言語モデル「Qwen3.8-2.4T-A95B」をHugging Faceのモデルハブで公開した。モデル名が示す通り、総パラメータ数は2.4兆規模であり、推論時に実際に使用されるアクティブパラメータは約950億に絞られる設計となっている。これにより、大規模な表現力を保ちながら推論コストを抑えることが可能となっている。
公開されたモデルカードによると、Qwen3.8-2.4Tはツール呼び出し（Function Calling）機能を備えており、専用のチャットテンプレートによってJSON形式でのツール定義と応答フォーマットを制御する。また、`reasoning_instructions`パラメータを通じた思考プロセスの制御や、`preserve_thinking`フラグによる思考内容の出力管理など、推論フローを細かく設定できる仕組みが組み込まれている。
チャットテンプレートはJinja2ベースで実装されており、systemメッセージ、userメッセージ、assistantメッセージの順序管理、マルチターン対話、ツール応答（`<tool_response>`）の処理にも対応する。systemメッセージは会話の先頭にのみ配置可能という制約も明示されている。
モデルはHugging Faceのリポジトリ「Qwen/Qwen3.8-2.4T-A95B」から利用可能で、Transformersライブラリを通じたローカル推論や各種推論プロバイダーとの連携が想定されている。Qwen3シリーズはQwenチームが継続的に開発・公開しているオープンモデル群の一つであり、今回の2.4Tモデルはシリーズ最大規模のMoEモデルに位置づけられる。