Qwen3.5ベースの小型意思決定モデル「Kev」公開
原題: Kev: Tiny Jev-like family of decision models built on top of Qwen3.5
なぜ重要か
クラウド依存なしでローカル実行できる意思決定特化型の小型モデルは、プライバシー重視の業務用途や低コスト推論ニーズに直接応える動きとして注目される。
開発者Jared Palmerが、Qwen3.5をベースにした小型意思決定モデルファミリー「Kev」をGitHubでオープンソース公開した。0.8B・4B・9BパラメーターのモデルをCUDAおよびApple Siliconで動作させられ、TypeSafeのSystem One APIと互換性を持つ。2024年時点でスターは2,100件を超えている。
「Kev」はJared Palmerが開発した、Qwen3.5ベースの軽量意思決定モデルファミリーだ。「Jev」の論文「Jev's Architecture Unmasked」で提示されたアーキテクチャを参考に設計されており、ユーザーが自身でトレーニングして自前のサーバーで動かすことを前提としている。
モデルサイズは0.8B・4B・9Bの3種類。4Bと9BはApple Silicon搭載Macでbf16精度のまま32GBメモリに収まるよう最適化されており、CUDAでも動作する。
機能面では、Yes/No（noul）・多択（choice）・評価（score）の3種類の問いを1リクエスト内で処理できる。各質問は同じ入力テキストを参照するが、相互に回答内容を参照することはできない設計だ。APIはTypeSafeのSystem One仕様に合わせてあり、Python SDKをそのまま向けるだけでローカルサーバーとして使える。
リポジトリにはトレーニングコード・評価データ・Webプレイグラウンドが含まれ、オプション順序が回答に与える影響も確認できる。Kev-4BとKev-0.8BはHugging Face上でブラウザから直接試せる。GitHubのスター数は公開後に2,100件を超え、フォークも109件に達している。