Kev:Qwen3.5ベースの小型意思決定モデル群
Judul asli: Kev: Tiny Jev-like family of decision models built on top of Qwen3.5
Mengapa Ini Penting
自己ホスト可能な意思決定特化モデルは、プライバシー重視の企業向け推論パイプラインの選択肢を広げる。
開発者Jared PalmerがQwen3.5を基盤とした小型意思決定モデルファミリー「Kev」をGitHubで公開。0.8B、4B、9Bの3サイズを提供し、自己学習・自己ホスティングが可能。
「Kev」はJaredpalmerがGitHubで公開したオープンソースの小型意思決定モデルファミリーで、Alibaba製言語モデル「Qwen3.5」を基盤とする。設計思想はJevのアーキテクチャ解説記事に基づいており、TypeSafeの「System One」と同じAPIを実装しているため、既存のPython SDKをそのままローカルサーバーに向けるだけで利用できる。
モデルサイズは0.8B・4B・9Bの3種類。対応する質問タイプはYes/No(noul)、多肢選択(choice)、評点(score)の3種で、1リクエスト内に混在させることも可能。各質問は同じ入力テキストを共有しつつも互いの回答を参照しない設計だ。
CUDAおよびApple Siliconの両方で動作し、4Bと9BモデルはRAM 32GBのMacでbf16精度のまま実行できる。HuggingFaceブラウザ上でKev-4BとKev-0.8Bを試せるほか、オプション順序が回答に与える影響を確認できるWebプレイグラウンドも用意されている。GitHubではすでに2,100スターを獲得している。