Soup CLI

Soup CLIは、微調整、選好学習、評価、マージ、デプロイ、データ準備までを一つで扱えるオープンソースのオフラインCLIツールです。

1つのCLIで行う事後学習とモデル運用

Soup CLIは、言語モデルの事後学習と関連ワークフロー向けのオフラインなCLIファーストのツールキットです。学習設定、データ準備、評価、モデルのマージ、推論サービング、エクスポート、デプロイの各コマンドを1つのインターフェースにまとめています。

中心となる学習ワークフローは、ツールが生成した設定ファイルから動作するよう設計されており、多くの既定値をルールに基づいて自動的に設定します。サイトでは、教師あり微調整や選好学習のような手法に加え、フリーズしたベースモデルをフルVRAMではなくCPU RAMやNVMeに置けるようにするレイヤーストリーミングも強調しています。

この製品は、モデルがGPUメモリに常駐できるサイズを超えるケースを含め、限られたハードウェアで学習するユーザー向けに位置づけられています。ドキュメントには、他ツールからの設定移行、レシピの閲覧、評価ゲートの実行、外部ランタイムへのモデルのプッシュやデプロイのためのコマンドも示されています。

主な機能

設定駆動の学習セットアップ

`soup init` は `soup.yaml` を作成し、サイトによると、Soup はルールによって決定される場合に、タスク、量子化、学習率、エポックなど学習設定の多くを自動で書き込みます。

大きすぎるモデル向けのレイヤーストリーミング

Soup はフリーズしたベースをCPU RAMやNVMeからVRAMへレイヤーごとにストリーミングでき、常に1層だけを常駐させるため、カードに収まらないモデルの学習を支援するとサイトは説明しています。

複数の学習手法

学習ドキュメントとホームページでは、教師あり微調整と、DPO、ORPO、SimPO、KTOを含む選好手法のサポートが言及されており、学習ページではスキーマに23のタスク値があると述べています。

評価と保存ゲート

`soup train` は `--gate` を使ってエポック境界で評価スイートを実行し、劣化があれば停止できます。ホームページでは、Soup がユーザー自身のデータから評価を生成し、ship / don’t-ship の判定に基づいて保存をゲートすると説明しています。

移行とレシピ

`soup migrate` は LLaMA-Factory、Axolotl、Unsloth などのツールから設定を取り込みます。また `soup recipes` では、142件の既製レシピを一覧表示、確認、検索、コピーできます。

より広いCLIワークフロー

リファレンスには、chat、serving、export、merge、push、evaluation、data validation、deduplication、generation、dataset publishing の各コマンドが含まれており、このツールは学習専用ではなく、より広範なモデル運用CLIであることが分かります。

Soup CLI の実践的な使い方

限られたGPUメモリでの微調整
ベースモデルがVRAMに完全には載らないときに、フリーズしたベースをRAMまたはNVMeに保持するストリーミング方式が必要なら Soup を使います。
選好学習とアラインメント
DPO、ORPO、SimPO、KTO の実行で、参照モデルを別の常駐コピーとして読み込むのではなく、同じストリーミング済みベースから取得したい場合に使います。
別フレームワークからの設定移行
`soup migrate` を使って、LLaMA-Factory、Axolotl、Unsloth から既存の設定を最小限の手作業で Soup YAML に変換します。
チェックポイントと回帰チェック付きの学習
評価の回帰で実行を停止したい場合や、学習中にチェックポイントを自動で再開・プッシュしたい場合に、ゲーティングやチェックポイント関連のフラグを使います。
1つのCLIで準備、評価、出荷
データレビュー、学習、評価、アダプタのマージ、デプロイ、サービング形式へのエクスポートまでを1つのワークフローで行いたい場合に Soup を使います。

Pros and Cons

Pros

複数のツールに分けず、学習から出荷までの広いワークフローを1つのCLIで扱えます。
サイトの位置づけではオフライン利用に対応しています。
レイヤーストリーミングにより、フリーズしたベース全体をVRAMに保持できないハードウェアでも学習可能になる場合があります。
一般的な開始点向けの移行ツールとレシピがあり、セットアップ作業を減らせます。
評価ゲートと実行管理コマンドにより、より制御された学習ループを支援します。

Cons

サイトではレイヤーストリーミングはベータ版として説明されており、常駐学習より遅いと記載されています。
ストリーミングの強い主張は、サイトで説明されている特定の手法と環境に結びついているため、対応構成はCLI全体の見た目より狭い可能性があります。
提供されたサイト文面では価格情報が明確に分かれておらず、公開ページは主にオープンソースとしての利用とドキュメントを強調しています。

FAQ

Soup CLI は何をするツールですか？

Soup CLI は、学習、評価、マージ、デプロイ、データ準備、データセット管理などの事後学習ワークフロー向けコマンドラインツールです。

GPUメモリに完全に収まらないモデルも学習できますか？

はい。サイトでは、Soup がCPU RAMまたはNVMeからフリーズしたベースをレイヤーごとにストリーミングできるため、モデルをVRAMに常駐させる必要がないと説明しています。

どの学習手法に対応していますか？

サイトでは SFT、DPO、ORPO、SimPO、KTO が明示されており、学習ドキュメントではスキーマに23のタスク値があると説明されています。

他のツールの設定を使えますか？

はい。`soup migrate` は LLaMA-Factory、Axolotl、Unsloth から設定を取り込むためにドキュメント化されています。

学習だけのツールですか？

いいえ。CLIリファレンスには chat、serving、export、merge、push、eval、data の各コマンドも記載されています。

Quick Facts

カテゴリ: 開発者ツール
主なインターフェース: コマンドラインインターフェース
ライセンス: Apache-2.0
ソースドメイン: trysoup.dev
インストールコマンド: `pip install "soup-cli[train]"`
対応Python: 3.10 から 3.12