Apple Silicon向けMiniMax-H3推論エンジン「h3.c」公開

原題: H3-metal – Native MiniMax-H3 inference for Apple Silicon

なぜ重要か

クラウド非依存でマルチモーダルLLMをApple Silicon上でローカル実行できる環境が広がることで、プライバシー重視のエッジAI活用が加速する可能性がある。

RedisやValkey開発者として知られるAntirezが、Apple Silicon向けにMiniMax-H3モデルをネイティブ実行するオープンソース推論エンジン「h3.c」をGitHubで公開した。Metal APIを活用してGPUアクセラレーションを実現し、テキスト・画像・動画・音声のマルチモーダル推論をMac上でローカル実行できる。

RedisおよびValkeyの開発者として著名なAntirez(Salvatore Sanfilippo氏)が、MiniMax-H3モデルをApple Silicon上でネイティブ動作させる推論エンジン「h3.c」をGitHubで公開した。リポジトリはスター570以上を獲得しており、注目を集めている。

h3.cはC言語をベースに開発され、Apple独自のGPU APIであるMetal Shading Languageを直接利用することでApple SiliconのGPUアクセラレーションを最大限に活用する設計となっている。依存ライブラリを最小限に抑えたシングルファイルに近い構成を目指しており、外部フレームワークへの依存を排除している点が特徴だ。

サポートするモダリティはテキスト、画像、動画、音声と幅広く、それぞれに対応するエンコーダー・デコーダーモジュール(h3_vision_encoder、h3_video_vae、h3_audio_vae等)がリポジトリに含まれている。モデルウェイトはSafetensors形式で読み込む仕組みを採用しており、h3_safetensors.cがその処理を担う。

開発方針として「動作する垂直スライスを順番に積み重ねる」アプローチを採用しており、まず決定論的なホスト処理・モデルメタデータから着手し、段階的に機能を拡張していくとREADMEに記されている。ライセンスはMITで、商用利用も含めて自由に利用・改変できる。

MiniMax-H3はMiniMax社が開発したマルチモーダル大規模言語モデルであり、h3.cはクラウドAPIを介さずMac単体でその推論を実行できる環境を提供する。

出典

github.com — 元記事を読む →