Jevを25行のPythonで再現
原題: Jev in 25 Lines of Python
なぜ重要か
LLMをAPI非依存でローカル分類器として使う手法の敷居の低さを示し、エッジ推論やプライバシー重視ユースケースの可能性を具体的に提示した点が注目される。
NobodyWhoのエンジニアDuarte O.Carmoは、AI業界で話題の「Jev」と呼ばれる分類手法を25行のPythonコードで再現するデモを公開した。Qwen3-0.6BのGGUFモデルとllama-cpp-pythonを使い、メール文をAPI呼び出しなしでローカル実行し、「Legitimate／Spam／Phishing」の各カテゴリに対する確率を出力する仕組みだ。
NobodyWhoが公開したパロディ的なブログ記事は、LLM業界で注目を集める「Jev」という手法の本質を25行のPythonコードで示してみせた。
実装の核心はシンプルだ。huggingface-hub、llama-cpp-python、numpyの3ライブラリだけを使い、Qwen/Qwen3-0.6B-GGUFモデルをローカルにロードする。次に選択肢ラベル（A/B/C）付きのプロンプトをモデルに渡してevalし、最後のトークン位置のlogitsを取得。該当ラベルのtoken IDに対するlogitsをsoftmaxで確率に変換するだけだ。
サンプルとして使ったメール文「Payroll asks for your password on a non-company sign-in page.」に対し、出力された確率はLegitimate: 3.1%、Spam: 8.4%、Phishing: 88.5%と、直感に合致する結果が得られた。
記事は「System One decision model」などの業界用語や、合成データ生成・Reinforcement Learning for Calibrated Decisions（RLCD）によるキャリブレーションといった大掛かりなアプローチを皮肉りつつ、「結局のところJevはプロンプトと選択肢を受け取り確率を出す分類器だ」と主張する。ローカル実行のため外部へのデータ送信が不要な点も強調している。
著者は末尾でこれがパロディ記事であると明示した上で、より完全なオープン実装としてOpenJev、openjev-sglang、OpenJev on DiffusionGemmaへのリンクを案内している。NobodyWhoのコードは全てオープンソースで提供されている。