llama.cpp:ローカルAI実行の公式サイト公開

Judul asli: llama.cpp

Mengapa Ini Penting

ローカルAI実行の普及を加速させ、プライバシー重視のAI活用環境整備に貢献する重要プロジェクト。

llama.cppの公式サイトllama.appが公開。GitHub星123,500超のオープンソースツールで、API不要・完全ローカルでAIモデルを実行できる。

llama.cppの公式ウェブサイト「llama.app」が公開された。GitHub上で123,500以上のスターを獲得しているオープンソースプロジェクトで、APIキー不要・テレメトリなし・完全ローカル環境でAIモデルを実行できる点が特徴だ。

インストールはcurlコマンド一行で完了し、Brew・Wingetなどパッケージマネージャーやソースビルドにも対応する。`llama serve`コマンドでモデルをサーブし、HuggingFaceの「pi-llama」プラグインと組み合わせることでローカルコーディングエージェントとして活用できる。ファイルやリクエストは端末外に送信されない。

ハードウェア対応範囲は広く、Apple Silicon(M Pro〜M Ultra)、NVIDIA RTX 3090〜5090・A100・H100・B200、AMD Radeon RX、Intel Arc、NVIDIA Jetson、DGX Sparkまで同一バイナリで動作する。

対応モデルはQwen 3(Alibaba)、Gemma 4・Gemma 3(Google)、GPT-OSS(OpenAI初のオープンウェイトモデル)など最新フロンティアモデルを含む。

Sumber

llama.app — Baca artikel asli →