Forge - 8Bモデルの成功率を53%から99%に向上
मूल शीर्षक: Show HN: Forge – Guardrails take an 8B model from 53% to 99% on agentic tasks
यह क्यों महत्वपूर्ण है
ローカルLLMの実用性向上により企業のAI導入コストと依存度削減に貢献
GitHubでForgeというPythonフレームワークが公開された。セルフホスト型LLMのツール呼び出しと多段階エージェントワークフローを支援。ガードレールにより8Bモデルの成功率を53%から99%まで改善すると発表。
antoinezambelliによって開発されたForgeは、セルフホスト型LLMの信頼性を向上させるPythonフレームワークです。このツールは、ガードレール機能（レスキュー解析、再試行ナッジ、ステップ強制）とコンテキスト管理（VRAM対応予算、階層化圧縮）を通じて、8Bローカルモデルをマルチステップエージェントワークフローのトップクラスまで押し上げます。現在のトップセルフホスト設定であるMinistral-3 8B Instruct Q8（llama-server上）は、Forgeの26シナリオ評価スイートで86.5%のスコアを記録し、最難関層でも76%を達成しています。MITライセンスの下でオープンソースとして提供されており、GitHubで609個のスターを獲得しています。