Soup CLI logo

Soup CLI

Freemium
訪問

Soup CLIは、ファインチューニング、選好学習、評価、モデルのマージ、デプロイ、データ準備など、ポストトレーニングと関連するモデルワークフローに対応したオープンソースのコマンドラインツールです。ローカルまたは借用したハードウェア上で、単一のオフラインCLIを使ってモデルの学習から提供まで管理したいユーザーに向けています。

Soup CLIとは?

Soup CLIは、言語モデルの事後学習と関連ワークフロー向けのオフラインなCLIファーストのツールキットです。学習設定、データ準備、評価、モデルのマージ、推論サービング、エクスポート、デプロイの各コマンドを1つのインターフェースにまとめています。

中心となる学習ワークフローは、ツールが生成した設定ファイルから動作するよう設計されており、多くの既定値をルールに基づいて自動的に設定します。サイトでは、教師あり微調整や選好学習のような手法に加え、フリーズしたベースモデルをフルVRAMではなくCPU RAMやNVMeに置けるようにするレイヤーストリーミングも強調しています。

この製品は、モデルがGPUメモリに常駐できるサイズを超えるケースを含め、限られたハードウェアで学習するユーザー向けに位置づけられています。ドキュメントには、他ツールからの設定移行、レシピの閲覧、評価ゲートの実行、外部ランタイムへのモデルのプッシュやデプロイのためのコマンドも示されています。

Soup CLIでできること

設定駆動の学習セットアップ

`soup init` は `soup.yaml` を作成し、サイトによると、Soup はルールによって決定される場合に、タスク、量子化、学習率、エポックなど学習設定の多くを自動で書き込みます。

大きすぎるモデル向けのレイヤーストリーミング

Soup はフリーズしたベースをCPU RAMやNVMeからVRAMへレイヤーごとにストリーミングでき、常に1層だけを常駐させるため、カードに収まらないモデルの学習を支援するとサイトは説明しています。

複数の学習手法

学習ドキュメントとホームページでは、教師あり微調整と、DPO、ORPO、SimPO、KTOを含む選好手法のサポートが言及されており、学習ページではスキーマに23のタスク値があると述べています。

評価と保存ゲート

`soup train` は `--gate` を使ってエポック境界で評価スイートを実行し、劣化があれば停止できます。ホームページでは、Soup がユーザー自身のデータから評価を生成し、ship / don’t-ship の判定に基づいて保存をゲートすると説明しています。

移行とレシピ

`soup migrate` は LLaMA-Factory、Axolotl、Unsloth などのツールから設定を取り込みます。また `soup recipes` では、142件の既製レシピを一覧表示、確認、検索、コピーできます。

より広いCLIワークフロー

リファレンスには、chat、serving、export、merge、push、evaluation、data validation、deduplication、generation、dataset publishing の各コマンドが含まれており、このツールは学習専用ではなく、より広範なモデル運用CLIであることが分かります。

利用シーン

“限られたGPUメモリでの微調整”

ベースモデルがVRAMに完全には載らないときに、フリーズしたベースをRAMまたはNVMeに保持するストリーミング方式が必要なら Soup を使います。

“選好学習とアラインメント”

DPO、ORPO、SimPO、KTO の実行で、参照モデルを別の常駐コピーとして読み込むのではなく、同じストリーミング済みベースから取得したい場合に使います。

“別フレームワークからの設定移行”

`soup migrate` を使って、LLaMA-Factory、Axolotl、Unsloth から既存の設定を最小限の手作業で Soup YAML に変換します。

“チェックポイントと回帰チェック付きの学習”

評価の回帰で実行を停止したい場合や、学習中にチェックポイントを自動で再開・プッシュしたい場合に、ゲーティングやチェックポイント関連のフラグを使います。

“1つのCLIで準備、評価、出荷”

データレビュー、学習、評価、アダプタのマージ、デプロイ、サービング形式へのエクスポートまでを1つのワークフローで行いたい場合に Soup を使います。

よくある質問

Soup CLI は何をするツールですか?

Soup CLI は、学習、評価、マージ、デプロイ、データ準備、データセット管理などの事後学習ワークフロー向けコマンドラインツールです。

GPUメモリに完全に収まらないモデルも学習できますか?

はい。サイトでは、Soup がCPU RAMまたはNVMeからフリーズしたベースをレイヤーごとにストリーミングできるため、モデルをVRAMに常駐させる必要がないと説明しています。

どの学習手法に対応していますか?

サイトでは SFT、DPO、ORPO、SimPO、KTO が明示されており、学習ドキュメントではスキーマに23のタスク値があると説明されています。

他のツールの設定を使えますか?

はい。`soup migrate` は LLaMA-Factory、Axolotl、Unsloth から設定を取り込むためにドキュメント化されています。

学習だけのツールですか?

いいえ。CLIリファレンスには chat、serving、export、merge、push、eval、data の各コマンドも記載されています。

クイック情報

カテゴリ
開発者ツール
主なインターフェース
コマンドラインインターフェース
ライセンス
Apache-2.0
ソースドメイン
trysoup.dev
インストールコマンド
`pip install "soup-cli[train]"`
対応Python
3.10 から 3.12

Soup CLI のトラフィック分析

トラフィックデータは参考情報としてご利用ください。

月間訪問数
0
世界ランキング
-
直帰率
0.00%
平均滞在時間
00:00
訪問あたりのページ数
0.00
ドメイン評価
37

トラフィック推移

トラフィックソース

トラフィック分析データはまだありません。

主な地域

トラフィック分析データはまだありません。

Soup CLIの代替品

Inferless logo

Inferless

inferless.com

自動スケーリングと秒単位課金に対応した、カスタムMLモデル向けサーバーレスGPU推論。

Kastra logo

Kastra

kastra.ai

Kastraは、プロンプト、ツール呼び出し、シェルコマンド、APIリクエスト、ブラウザ操作を実行前に検査する、AIシステム向けの認可インフラです。ポリシー適用、署名付き監査証跡の保持、ローカルおよびエンタープライズAIワークフローのガバナンスを支援します。

AakarDev AI logo

AakarDev AI

aakar-ai.dev

AIプロバイダー、プロジェクト設定、ログ、分析を1つのダッシュボードで管理。BYOK対応。

dstack logo

dstack

dstack.ai

GPUクラウド、Kubernetes、オンプレミスクラスター向けのオープンソースAIワークロード制御プレーン

DDS Hub logo

DDS Hub

ddshub.cc

ClaudeとOpenAI系モデルのワークフロー向けAI APIプラットフォーム。トークン課金と設定ガイドを提供

Groq logo

Groq

groq.com

Groq LPUとGroqCloudによる高速・低コストなAI推論