設定駆動の学習セットアップ
`soup init` は `soup.yaml` を作成し、サイトによると、Soup はルールによって決定される場合に、タスク、量子化、学習率、エポックなど学習設定の多くを自動で書き込みます。
Soup CLIは、ファインチューニング、選好学習、評価、モデルのマージ、デプロイ、データ準備など、ポストトレーニングと関連するモデルワークフローに対応したオープンソースのコマンドラインツールです。ローカルまたは借用したハードウェア上で、単一のオフラインCLIを使ってモデルの学習から提供まで管理したいユーザーに向けています。
Soup CLIは、言語モデルの事後学習と関連ワークフロー向けのオフラインなCLIファーストのツールキットです。学習設定、データ準備、評価、モデルのマージ、推論サービング、エクスポート、デプロイの各コマンドを1つのインターフェースにまとめています。
中心となる学習ワークフローは、ツールが生成した設定ファイルから動作するよう設計されており、多くの既定値をルールに基づいて自動的に設定します。サイトでは、教師あり微調整や選好学習のような手法に加え、フリーズしたベースモデルをフルVRAMではなくCPU RAMやNVMeに置けるようにするレイヤーストリーミングも強調しています。
この製品は、モデルがGPUメモリに常駐できるサイズを超えるケースを含め、限られたハードウェアで学習するユーザー向けに位置づけられています。ドキュメントには、他ツールからの設定移行、レシピの閲覧、評価ゲートの実行、外部ランタイムへのモデルのプッシュやデプロイのためのコマンドも示されています。
`soup init` は `soup.yaml` を作成し、サイトによると、Soup はルールによって決定される場合に、タスク、量子化、学習率、エポックなど学習設定の多くを自動で書き込みます。
Soup はフリーズしたベースをCPU RAMやNVMeからVRAMへレイヤーごとにストリーミングでき、常に1層だけを常駐させるため、カードに収まらないモデルの学習を支援するとサイトは説明しています。
学習ドキュメントとホームページでは、教師あり微調整と、DPO、ORPO、SimPO、KTOを含む選好手法のサポートが言及されており、学習ページではスキーマに23のタスク値があると述べています。
`soup train` は `--gate` を使ってエポック境界で評価スイートを実行し、劣化があれば停止できます。ホームページでは、Soup がユーザー自身のデータから評価を生成し、ship / don’t-ship の判定に基づいて保存をゲートすると説明しています。
`soup migrate` は LLaMA-Factory、Axolotl、Unsloth などのツールから設定を取り込みます。また `soup recipes` では、142件の既製レシピを一覧表示、確認、検索、コピーできます。
リファレンスには、chat、serving、export、merge、push、evaluation、data validation、deduplication、generation、dataset publishing の各コマンドが含まれており、このツールは学習専用ではなく、より広範なモデル運用CLIであることが分かります。
ベースモデルがVRAMに完全には載らないときに、フリーズしたベースをRAMまたはNVMeに保持するストリーミング方式が必要なら Soup を使います。
DPO、ORPO、SimPO、KTO の実行で、参照モデルを別の常駐コピーとして読み込むのではなく、同じストリーミング済みベースから取得したい場合に使います。
`soup migrate` を使って、LLaMA-Factory、Axolotl、Unsloth から既存の設定を最小限の手作業で Soup YAML に変換します。
評価の回帰で実行を停止したい場合や、学習中にチェックポイントを自動で再開・プッシュしたい場合に、ゲーティングやチェックポイント関連のフラグを使います。
データレビュー、学習、評価、アダプタのマージ、デプロイ、サービング形式へのエクスポートまでを1つのワークフローで行いたい場合に Soup を使います。
Soup CLI は、学習、評価、マージ、デプロイ、データ準備、データセット管理などの事後学習ワークフロー向けコマンドラインツールです。
はい。サイトでは、Soup がCPU RAMまたはNVMeからフリーズしたベースをレイヤーごとにストリーミングできるため、モデルをVRAMに常駐させる必要がないと説明しています。
サイトでは SFT、DPO、ORPO、SimPO、KTO が明示されており、学習ドキュメントではスキーマに23のタスク値があると説明されています。
はい。`soup migrate` は LLaMA-Factory、Axolotl、Unsloth から設定を取り込むためにドキュメント化されています。
いいえ。CLIリファレンスには chat、serving、export、merge、push、eval、data の各コマンドも記載されています。
トラフィックデータは参考情報としてご利用ください。
| 5月 | 0 |
|---|---|
| 6月 | 0 |
| 7月 | 0 |
トラフィック分析データはまだありません。
トラフィック分析データはまだありません。
inferless.com
自動スケーリングと秒単位課金に対応した、カスタムMLモデル向けサーバーレスGPU推論。
kastra.ai
Kastraは、プロンプト、ツール呼び出し、シェルコマンド、APIリクエスト、ブラウザ操作を実行前に検査する、AIシステム向けの認可インフラです。ポリシー適用、署名付き監査証跡の保持、ローカルおよびエンタープライズAIワークフローのガバナンスを支援します。
aakar-ai.dev
AIプロバイダー、プロジェクト設定、ログ、分析を1つのダッシュボードで管理。BYOK対応。
dstack.ai
GPUクラウド、Kubernetes、オンプレミスクラスター向けのオープンソースAIワークロード制御プレーン
ddshub.cc
ClaudeとOpenAI系モデルのワークフロー向けAI APIプラットフォーム。トークン課金と設定ガイドを提供
groq.com
Groq LPUとGroqCloudによる高速・低コストなAI推論