llama.cppが公式サイトを開設、ローカルAI実行環境を提供
原題: llama.cpp
なぜ重要か
ローカルAI実行環境の公式整備により、プライバシー重視のエンタープライズ・個人開発者層への普及加速が見込まれる。
オープンソースのローカルAI実行ツール「llama.cpp」が公式サイト「llama.app」を公開した。GitHubスター数は12万3,500以上を獲得。APIキー不要・テレメトリなしでQwen 3、Gemma 4、GPT-OSSなど最新モデルをユーザーの端末上で完全実行できる環境を提供する。Apple SiliconからNVIDIA H100、AMD MI300まで幅広いハードウェアに対応する。
オープンソースプロジェクト「llama.cpp」が公式ウェブサイト「llama.app」を正式に開設した。GitHub上でのスター数は12万3,500を超えており、ローカルでのAIモデル実行ツールとして広く利用されている。
同ツールの主な特徴は、APIキー・テレメトリ・利用制限が一切不要な点にある。会話データとモデルファイルはすべてユーザーの端末内に保持され、外部サーバーへのリクエストは発生しない。インストールは`curl -LsSf https://llama.app/install.sh | sh`のワンコマンドで完了するほか、BrewやWingetなどのパッケージマネージャー経由のインストールやソースからのビルドにも対応する。
ハードウェア対応範囲は幅広く、Apple Silicon（M Pro、M Max、M Ultra）、NVIDIA（RTX 3090/4090/5090、A100、H100）、AMD（Radeon RX、MI300）、Intel Arc、NVIDIA Jetson、DGX Sparkなど、ラップトップからクラスター環境まで同一バイナリ・同一モデルで動作する設計となっている。GPUおよびCPUそれぞれに手動チューニング済みのカーネルを搭載している。
ローカルコーディングエージェントとの連携機能も提供する。`llama serve`でモデルをサーブし、HuggingFaceが開発したコーディングエージェント「Pi」向けプラグイン「pi-llama」をインストールすることで、設定やAPIキーなしにローカルモデルと連携したコーディング環境を構築できる。
対応モデルとして、AlibabaのQwen 3（DenseおよびMoEバリアント）、GoogleのGemma 4およびGemma 3（140以上の言語・最大128Kコンテキスト対応）、OpenAIのGPT-OSS（GPT-2以来初のオープンウェイトモデル、関数呼び出し・ツール利用対応）が紹介されている。