SemIf: ブラウザ内でローカルAI判断実験

मूल शीर्षक: OpenJev

यह क्यों महत्वपूर्ण है

バックエンド不要のブラウザ内AI判断ツールは、プライバシーと低コストを両立する新しい実装パターンを示している。

独立研究プロジェクト「SemIf」(旧称OpenJev)は、Qwen3 0.6B、MiniCPM5 2B、Qwen3.5 4Bの3モデルをブラウザ内で完全ローカル実行し、選択肢の確率を直接読み取る方式とJSON生成方式を比較できるツールを無償公開した。バックエンド不要で、入力データは外部に送信されない。

SemIfは「意味的条件分岐(Semantic Ifs)」をブラウザ上のオープンモデルで実現する実験的ツールだ。TypeSafeとは無関係の独立プロジェクトで、ウェイトリストなしで即試用可能。

利用できるモデルは3種類。スマートフォン向けのQwen3 0.6B(639MB)、デスクトップ標準のMiniCPM5 2B(1.56GB)、高メモリ向けのQwen3.5 4B(3.01GB)。重みはHugging Faceから取得し、ブラウザキャッシュに保存される。

核心機能は2つの推論手法の比較だ。「直接読み出し(Direct Readout)」は、ユーザーが指定した選択肢のトークンに対するlogitsをsoftmaxで正規化して確率を算出する。「生成方式(Generation)」は、同じモデルに選択肢と確率をJSONとして出力させ、トークン生成を逐次表示する。両手法は同一モデル上で順番に実行されGPUを競合しない。

精度(バランス精度)では、MiniCPM5 2Bが「Authored」68.6%、「Perturbed」69.3%、「TypeSafe」63.7%を記録。Qwen3.5 4Bは81.3%/76.6%/84.5%と最高値だが、有料サービス「Jev」の公表値88.3%には及ばない。実装にはwllamaとGGUF量子化モデルを使用しており、量子化が精度・速度に影響する点は明記されている。タイミング計測にはperformance.now()を使用し、結果は実機GPUで実測される。

स्रोत

openjev.com — मूल लेख पढ़ें →