ローカルでのモデル実行
GGUFおよびsafetensorsモデルをローカルで実行し、2つのモデルを並べて比較し、アップロードした画像、ドキュメント、音声、コードファイルをワークフローで使用できます。
Unslothは、1つの統合されたインターフェースからオープンモデルの学習、実行、エクスポートを行えるオープンソースのフレームワーク兼ローカルWeb UIです。製品は、モデルのワークフローを自社ハードウェア上に保つことを中心に設計されており、ドキュメントではローカル推論、ファインチューニング、データ準備、エクスポートを扱っています。
Studioリリースでは、GGUFおよびsafetensorsモデルを実行するためのノーコードのローカルワークフロー、PDFやCSVなどのファイルからデータセットを準備する機能、組み込みの可観測性を備えたモデル学習が追加されます。サイトではUnslothを、ローカル環境を離れずにテキスト、画像、音声、埋め込みにわたる500以上のモデルを扱う方法として位置づけています。
GGUFおよびsafetensorsモデルをローカルで実行し、2つのモデルを並べて比較し、アップロードした画像、ドキュメント、音声、コードファイルをワークフローで使用できます。
PDF、CSV、JSON、DOCX、TXT、YAMLソースからデータセットを自動生成し、その後Data Recipesワークフローでクレンジングと精緻化を行えます。
LoRA、4-bit、16-bit、FP8、事前学習オプションを使って500以上のモデルを学習・ファインチューニングでき、loss、gradient norms、GPU使用率をライブで可観測化できます。
自己修復型のツール呼び出し、ウェブ検索、Bash、Python実行を利用でき、テストと検証のためのサンドボックス化されたコード実行も含まれます。
モデルをGGUFまたはsafetensorsにエクスポートして、llama.cpp、vLLM、Ollama、LM Studioなどのランタイムで使用できます。
APIエンドポイント経由でUnslothに接続したり、Studioドキュメントで説明されているようにClaude CodeやCodexなどの外部ツールと連携したりできます。
ソースファイルを取り込み、データセットに変換し、プリセットまたはカスタム設定で学習を開始して、ローカルのファインチューニングワークフローを準備します。
自分のマシンでモデルをオフライン実行し、2つのモデルの出力を比較し、管理された環境でツール呼び出しやウェブ検索をテストします。
Data Recipesを使って非構造化ファイルを学習準備済みのデータセットに変換し、その後、学習前に視覚的なノードワークフローでデータセットを精緻化します。
学習済みモデルまたはベースモデルをGGUFやsafetensorsにエクスポートし、llama.cpp、vLLM、Ollama、LM Studioなどのランタイムで使用できるようにします。
開発ワークフロー内でローカル推論を行いたい場合に、APIエンドポイントを使用するか、外部ツールをローカルモデルに接続します。
Unsloth Studioは、オープンモデルの学習、実行、エクスポートのためのローカルWeb UIです。ドキュメントでは、オフラインで自分のマシン上で動作するオープンソースのノーコードインターフェースとして説明されています。
ドキュメントによると、Unsloth StudioはWindows、Linux、WSL、macOSで動作します。また、学習にはNVIDIA GPUをサポートしており、CPUのみの環境ではチャット推論とData Recipesに制限されます。
Unslothは、モデルのローカル実行と学習、safetensorsまたはGGUFへのエクスポート、APIエンドポイントの利用をサポートします。ドキュメントには、テキスト、画像、音声/TTS、埋め込みモデルのサポートも記載されています。
はい。料金ページにはFreeプラン、Proプラン、Enterpriseプランがあります。無料版はオープンソースで、有料プランではより高性能な機能とエンタープライズ向け機能が追加されます。
Studioのドキュメントによると、Unslothは利用状況のテレメトリを収集しません。互換性のために必要な最小限のハードウェア情報のみを収集し、Studioは100%オフラインかつローカルで動作します。
トラフィックデータは参考情報としてご利用ください。
ludwig.ai
単一のYAML設定でモデルの学習、微調整、デプロイを行うオープンソース宣言型深層学習フレームワーク。
tensorflow.org
デスクトップ、モバイル、Web、クラウド、エッジでモデルを構築・学習・デプロイできるオープンソース機械学習プラットフォーム。
agents.craft.do
Craft Agentsは、AIエージェント向けのオープンソースデスクトップアプリです。モデル、API、MCPサーバー、ローカルファイル、内蔵ブラウザを接続し、作業を一元管理できます。
phospho.ai
phosphoは、ロボット制御、データセット収集、AIモデル学習向けのオープンソースツールキット、ハードウェアキット、PROサブスクリプション、カスタムソリューションを提供します。
voideditor.com
VS CodeベースのオープンソースAI IDE。自動補完、チャット、エージェント、ローカル・ホスト型モデルに対応。
kilocode.ai
VS Code、JetBrains、CLI、クラウドワークフローに対応するオープンソースAIコーディングエージェント。モデルルーティング、BYOK、ローカルモデル、KiloClawをサポート。