# Soup CLI Soup CLIは、ファインチューニング、選好学習、評価、モデルのマージ、デプロイ、データ準備など、ポストトレーニングと関連するモデルワークフローに対応したオープンソースのコマンドラインツールです。ローカルまたは借用したハードウェア上で、単一のオフラインCLIを使ってモデルの学習から提供まで管理したいユーザーに向けています。 - Findings24: - ウェブサイト: - 料金: Freemium - カテゴリー: AI DevOpsアシスタント, AI開発者ツール, AIモデルハブ ## Soup CLIとは？ Soup CLIは、言語モデルの事後学習と関連ワークフロー向けのオフラインなCLIファーストのツールキットです。学習設定、データ準備、評価、モデルのマージ、推論サービング、エクスポート、デプロイの各コマンドを1つのインターフェースにまとめています。 中心となる学習ワークフローは、ツールが生成した設定ファイルから動作するよう設計されており、多くの既定値をルールに基づいて自動的に設定します。サイトでは、教師あり微調整や選好学習のような手法に加え、フリーズしたベースモデルをフルVRAMではなくCPU RAMやNVMeに置けるようにするレイヤーストリーミングも強調しています。 この製品は、モデルがGPUメモリに常駐できるサイズを超えるケースを含め、限られたハードウェアで学習するユーザー向けに位置づけられています。ドキュメントには、他ツールからの設定移行、レシピの閲覧、評価ゲートの実行、外部ランタイムへのモデルのプッシュやデプロイのためのコマンドも示されています。 ## Soup CLIでできること ### 設定駆動の学習セットアップ \`soup init\` は \`soup.yaml\` を作成し、サイトによると、Soup はルールによって決定される場合に、タスク、量子化、学習率、エポックなど学習設定の多くを自動で書き込みます。 ### 大きすぎるモデル向けのレイヤーストリーミング Soup はフリーズしたベースをCPU RAMやNVMeからVRAMへレイヤーごとにストリーミングでき、常に1層だけを常駐させるため、カードに収まらないモデルの学習を支援するとサイトは説明しています。 ### 複数の学習手法 学習ドキュメントとホームページでは、教師あり微調整と、DPO、ORPO、SimPO、KTOを含む選好手法のサポートが言及されており、学習ページではスキーマに23のタスク値があると述べています。 ### 評価と保存ゲート \`soup train\` は \`--gate\` を使ってエポック境界で評価スイートを実行し、劣化があれば停止できます。ホームページでは、Soup がユーザー自身のデータから評価を生成し、ship / don’t-ship の判定に基づいて保存をゲートすると説明しています。 ### 移行とレシピ \`soup migrate\` は LLaMA-Factory、Axolotl、Unsloth などのツールから設定を取り込みます。また \`soup recipes\` では、142件の既製レシピを一覧表示、確認、検索、コピーできます。 ### より広いCLIワークフロー リファレンスには、chat、serving、export、merge、push、evaluation、data validation、deduplication、generation、dataset publishing の各コマンドが含まれており、このツールは学習専用ではなく、より広範なモデル運用CLIであることが分かります。 ## 利用シーン ### 限られたGPUメモリでの微調整 ベースモデルがVRAMに完全には載らないときに、フリーズしたベースをRAMまたはNVMeに保持するストリーミング方式が必要なら Soup を使います。 ### 選好学習とアラインメント DPO、ORPO、SimPO、KTO の実行で、参照モデルを別の常駐コピーとして読み込むのではなく、同じストリーミング済みベースから取得したい場合に使います。 ### 別フレームワークからの設定移行 \`soup migrate\` を使って、LLaMA-Factory、Axolotl、Unsloth から既存の設定を最小限の手作業で Soup YAML に変換します。 ### チェックポイントと回帰チェック付きの学習 評価の回帰で実行を停止したい場合や、学習中にチェックポイントを自動で再開・プッシュしたい場合に、ゲーティングやチェックポイント関連のフラグを使います。 ### 1つのCLIで準備、評価、出荷 データレビュー、学習、評価、アダプタのマージ、デプロイ、サービング形式へのエクスポートまでを1つのワークフローで行いたい場合に Soup を使います。 ## よくある質問 ### Soup CLI は何をするツールですか？ Soup CLI は、学習、評価、マージ、デプロイ、データ準備、データセット管理などの事後学習ワークフロー向けコマンドラインツールです。 ### GPUメモリに完全に収まらないモデルも学習できますか？ はい。サイトでは、Soup がCPU RAMまたはNVMeからフリーズしたベースをレイヤーごとにストリーミングできるため、モデルをVRAMに常駐させる必要がないと説明しています。 ### どの学習手法に対応していますか？ サイトでは SFT、DPO、ORPO、SimPO、KTO が明示されており、学習ドキュメントではスキーマに23のタスク値があると説明されています。 ### 他のツールの設定を使えますか？ はい。\`soup migrate\` は LLaMA-Factory、Axolotl、Unsloth から設定を取り込むためにドキュメント化されています。 ### 学習だけのツールですか？ いいえ。CLIリファレンスには chat、serving、export、merge、push、eval、data の各コマンドも記載されています。 ## クイック情報 - **カテゴリ**: 開発者ツール - **主なインターフェース**: コマンドラインインターフェース - **ライセンス**: Apache-2.0 - **ソースドメイン**: trysoup.dev - **インストールコマンド**: \`pip install "soup-cli\[train\]"\` - **対応Python**: 3.10 から 3.12