PS5でLLMをローカル実行するOSSプロジェクト
原題: Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console
なぜ重要か
ゲーム機GPUの再活用という視点から、ローカルAI推論の民主化とエッジAIハードウェアの多様化に一石を投じる事例として注目される。
開発者のcobanov氏がGitHubで「PS5LM」を公開した。ジェイルブレイク済みのPlayStation 5上でllama.cppを動作させ、GGUFフォーマットの言語モデルをコンソールのGPUでネイティブ実行できるオープンソースプロジェクトだ。OpenAIおよびAnthropic互換APIをサーバーとして提供し、同一ネットワーク上のPC・スマートフォン・コーディングツールからアクセスできる。公開から短期間でスター数390、フォーク数69に達している。
PS5LMは、ジェイルブレイク済みPS5をホームLLMサーバーとして転用するプロジェクトだ。PS5のGPU上でllama.cppを動かし、GGUFモデルをロードする仕組みで、クラウドサービスもPCも不要で動作する。
初期対応モデルはQwen 3.8B(実際にはQwen 3.5 9Bの動作デモも掲載)。TV向けUIでHome・Models・Console・API・Settingsの各画面を備え、OpenAIおよびAnthropic互換のAPIエンドポイントを提供するため、既存のコーディングツールやクライアントアプリをそのまま接続できる。
最新アップデートでは、Ollayaと同じ「/v1/systemone」APIに対応した決定モデル(d1、Clef、OpenJevなど)をGPUで実行する機能も追加された。これらは「Jev-like decision models」と呼ばれ、確率付きの型付き決定を高速に返す設計となっている。
ライセンスはGPL-3.0。プロジェクトサイト(ps5lm.cobanov.dev)も開設されており、セットアップ手順や対応モデル情報が掲載されている。ジェイルブレイクが前提条件のため、動作にはPS5の改造が必要であり、通常の製品サポート外となる点は注意が必要だ。プライバシー重視のローカルAI推論環境を手頃なコストで構築したいユーザー層を明確なターゲットとしている。