ブラウザ完結型AI意思決定ツール「SemIf」公開
원제: OpenJev
왜 중요한가
バックエンド不要でブラウザ完結のローカルLLM意思決定比較実験は、エッジAIとプライバシー重視設計の実用的な検証手法として注目される。
旧称OpenJevとして開発されていた独立研究プロジェクト「SemIf」が公開された。バックエンド不要でブラウザ上のローカルモデル(Qwen3 0.6B〜Qwen3.5 4Bなど)を用い、選択肢の確率を直接読み取る方式とJSON生成方式の2手法を同一GPUで比較実行できる。入力データは外部に送信されない。
SemIfは「Semantic ifs from open models, in your browser」を掲げる個人開発の実験的ツールだ。TypeSafeとは無関係の独立プロジェクトで、ウェイトリストなしで即時利用できる点が特徴。
対応モデルはQwen3 0.6B(639MB)、MiniCPM5 2B(1.56GB)、Qwen3.5 4B(3.01GB)の3種類で、スマートフォンには0.6B、デスクトップには2Bがデフォルト推奨。ウェイトはHugging Faceから取得しブラウザキャッシュに保持されるため、初回ロードには数分かかる場合がある。
比較される2手法は「Direct readout」と「Generation」。Directはユーザーが指定した選択肢トークンのlogitsをsoftmaxで正規化して確率を算出。GenerationはモデルにJSON形式で確率分布を出力させ、トークン生成をリアルタイム表示する。両手法は同一モデル上で逐次実行し、GPUの競合を避けた設計になっている。
精度指標(Balanced Accuracy)ではMiniCPM5 2Bが69.3%(Perturbed)、Qwen3.5 4Bが84.5%(TypeSafe)。比較対象として掲載されている「Jev」のホスト版は88.3%。ブラウザ上のquantization(wllama経由のGGUF)により実際の精度や速度は変動するとの注釈がある。計測にはperformance.now()を使用し、ダウンロード・ウォームアップ・推論の各フェーズを個別に計測する。