CPU推論と量子化
CPUで推論を実行し、利用可能なスレッド数に応じて動作します。対応するGGML量子化オプションにはq4、5.1、8、f16があります。
Local AI Playground
Freemium
Local AI Playgroundは、AIモデルの管理やダウンロード検証、ローカル実行をひとつにまとめたデスクトップアプリです。GPUなしで、オフライン環境でもモデルを試せます。
Local AI Playgroundとは？
Local AI Playgroundは、AIモデルをオフラインかつプライベートな環境で試せる、無料のオープンソース・デスクトップアプリです。モデル管理、ダウンロード検証、ローカル推論をひとつのインターフェースにまとめ、GPU不要のCPU実行に対応します。
モデルをテストするための簡易推論インターフェースと、他のAIアプリケーションとの接続に使えるローカルストリーミングサーバーを備えています。Rust製バックエンドを採用し、コンパクトでメモリ効率に優れたネイティブアプリとして設計されています。
Local AI Playgroundでできること
一元化されたモデル管理
任意のディレクトリにあるモデルを追跡し、使用状況に応じて並べ替えて、ローカルのモデルコレクションを整理できます。
再開可能なモデルダウンロード
同時ダウンロードと再開に対応したダウンローダーを備え、複数のモデルを並行してダウンロードできます。中断された転送も続きから再開できます。
モデルの整合性チェック
BLAKE3およびSHA256ダイジェストを計算し、BLAKE3のクイックチェックを実行できます。信頼できるモデルのAPI、モデル情報カード、ライセンスと用途のチップを使ってモデルを確認できます。
ローカルストリーミングサーバー
モデルを読み込み、サーバーを起動する2段階で推論サーバーを開始できます。ウェブサイトでは、window.aiと連携して別のAIアプリケーションを動かす方法を紹介しています。
簡易推論インターフェース
推論の試用、推論パラメーターの設定、出力の.mdxファイルへの書き込みに対応したインターフェースを備えています。リモート語彙への対応も記載されています。
利用シーン
“クラウド接続なしでモデルを試す”
ダウンロード済みモデルを簡易推論インターフェースでオフライン実行し、試すことができます。推論処理を自分のコンピューター内で完結させたいローカルテストに適しています。
“実験用のモデルコレクションを準備する”
複数のモデルをダウンロードして情報やライセンス表示を確認し、読み込むモデルを選ぶ前にファイルのダイジェストを検証できます。
“AIアプリをローカルモデルに接続する”
モデルを読み込んでストリーミングサーバーを起動すると、別のAIアプリケーションに推論機能を提供できます。ウェブサイトで紹介されているwindow.aiのワークフローにも対応します。
よくある質問
対応しているOSは何ですか？
ウェブサイトでは、Windows向け.MSIおよび.EXE、M1/M2搭載MacおよびIntel搭載Mac向けのmacOS版、Linux向けAppImageおよび.debパッケージが提供されています。
GPU推論に対応していますか？
利用可能な推論機能として記載されているのはCPU実行です。GPU推論と並列セッションは今後追加予定の機能として記載されています。
音声や画像を生成できますか？
ウェブサイトでは、/audioと/imageは利用可能な機能ではなく、今後追加予定のサーバー機能として記載されています。
モデル管理で検索できますか？
使用状況に基づく並べ替えとディレクトリの選択が利用できます。カスタム並べ替えと検索、ネストしたディレクトリ、モデルの探索とおすすめ機能は今後追加予定として記載されています。
クイック情報
- 製品タイプ
- ローカルAI実験用ネイティブデスクトップアプリ
- 提供形態
- 無料・オープンソース
- 対応プラットフォーム
- Windows、macOS、Linux
- バックエンド
- Rust
- 公式ウェブサイト
- https://localai.app
Local AI Playground のトラフィック分析
トラフィックデータは参考情報としてご利用ください。
- ドメイン評価
- 28
Local AI Playgroundの代替品
Baseten
baseten.co
Basetenは、オープンソース、カスタム、ファインチューニング済みAIモデルを本番環境にデプロイ、提供、スケーリングするための推論プラットフォームです。AI・ML・プロダクト開発チームに対応します。
SambaNova
sambanova.ai
SambaNova is an AI inference platform for developers, enterprises, and infrastructure operators running large open-source models and agentic workloads. It combines cloud services with deployable hardware and software for cloud, on-premises, hybrid, and air-gapped environments.
Chutes
chutes.ai
Chutes is a decentralized, serverless AI inference platform for deploying, running, and scaling open-source models. Developers can access hosted models through an API or deploy private custom workloads on confidential GPU capacity.
Inference.net
inference.net
Inference.netは、本番環境でAIモデルを運用するチーム向けの基盤です。モデルのデプロイ、LLMの可観測性、トレース、継続的な評価、ファインチューニングを一つのワークフローで行えます。
Parasail
parasail.io
Parasail is an inference cloud for AI-native startups that provides access to open and frontier models through an OpenAI-compatible API. It offers serverless, elastic, dedicated, and batch deployment options with per-token or GPU-based pricing.
ComfyICU
comfy.icu
ComfyICU is a managed cloud platform for running, sharing, and deploying ComfyUI workflows. It supports visual workflow development, serverless GPU execution, team workspaces, and REST API deployment without requiring users to manage GPU infrastructure.