Apple Silicon向けMiniMax-H3推論エンジン「h3.c」公開

मूल शीर्षक: H3-metal – Native MiniMax-H3 inference for Apple Silicon

यह क्यों महत्वपूर्ण है

Apple Silicon向けネイティブ実装により、クラウド不要でMiniMax-H3のマルチモーダル推論をMac上でローカル実行できる可能性が開かれる。

開発者antirezがGitHubにApple Silicon向けのネイティブMiniMax-H3推論エンジン「h3-metal」をオープンソースとして公開した。Metal APIを活用し、Macコンピュータ上でのローカル推論を実現するC言語実装プロジェクトである。

GitHubユーザーantirezが、Apple SiliconチップをターゲットにしたMiniMax-H3モデルのネイティブ推論エンジン「h3-metal」をオープンソース(MITライセンス)で公開した。リポジトリ名は「h3.c」で、C言語およびObjective-Cで実装されており、AppleのGPUプログラミングフレームワークであるMetalを利用してMacコンピュータ上でローカル推論を行う設計となっている。

プロジェクトは「動作する垂直スライスの連続」として段階的に構築されており、まず決定論的なホスト・モデルメタデータ処理から始まり、順次機能を拡張する方針が示されている。コードベースにはテキストエンコーダー、ビジョンエンコーダー、ビデオエンコーダー、音声VAE、ビデオVAE、トークナイザー、Safetensors形式のウェイト読み込み、Metal GPU シェーダーなど多岐にわたるコンポーネントが含まれており、マルチモーダル対応を見据えた構成となっている。

MiniMax-H3はMiniMaxが開発したState Space Model(SSM)ベースの大規模言語モデルであり、Transformerアーキテクチャとは異なるアプローチを採用している。公開から短期間で570以上のStarを獲得しており、Apple Silicon上でのローカルAI推論への関心の高さが伺える。FFmpegとの連携コードも含まれており、動画・音声処理機能の統合も想定されている。

स्रोत

github.com — मूल लेख पढ़ें →