dstackは、GPUクラウド、Kubernetes、オンプレミス環境でAIワークロードを provision・オーケストレーションするオープンソースのコントロールプレーン。YAMLとCLIで開発、学習、推論を一元管理できます。

dstack preview

dstack とは

dstack は、異種の AI コンピュート向けのオープンソースのオーケストレーション層です。GPU のプロビジョニングと、GPU クラウド、Kubernetes、オンプレミスのクラスタをまたぐワークロード実行のための統合コントロールプレーンとして機能します。

この製品はコンテナ化された AI ワークロード向けに設計されており、開発、学習、推論をカバーします。ユーザーは YAML で fleets、dev environments、tasks、services、volumes を定義し、それらの設定を CLI または API ിലൂടെ適用します。dstack がインフラストラクチャのプロビジョニングとワークロードのスケジューリングを担当します。

主な機能

Fleet 管理

GPU クラウド、Kubernetes、オンプレミス環境全体でクラスタをプロビジョニングおよび管理するために fleets を定義します。fleets は、インスタンスのプロビジョニング方法や再利用方法を制御するのに使えます。

Dev environments

エージェントや IDE がアクセスできる対話型の dev environments を作成し、開発者が手作業でインフラをセットアップせずに対象のコンピュートの近くで作業できるようにします。

Tasks

学習やバッチジョブ向けに、単一ノードまたは分散 tasks をスケジュールします。ドキュメントでは、tasks で Web アプリも実行できると説明されています。

Services

モデル推論やその他の外部公開向けワークロードを services としてデプロイし、その周囲のオーケストレーションは dstack が処理します。

Volumes

ワークロードや実行の間でデータを永続化するための network volumes を管理します。

CLI、UI、API

リポジトリに保存された YAML ベースの設定ファイルを使い、CLI、UI、API でワークロードを管理します。

一般的なユースケース

  • マルチクラウド GPU 運用

    複数の GPU クラウドや混在インフラにまたがってクラスタをプロビジョニングし、個別のベンダーツールではなく 1 つのコントロールプレーンで管理します。

  • AI 開発環境

    IDE から開発者やエージェントが開ける再現可能な開発環境を作成し、ローカルセットアップの手間を減らします。

  • モデル学習とバッチワークロード

    単一ノードまたはマルチノードのコンピュート上で、同じ設定モデルを使って学習、バッチジョブ、分散実験を実行します。

  • モデル提供

    既存のコンピュート上に、安全でスケーラブルな実行環境を必要とする推論エンドポイントやその他のサービスをデプロイします。

  • 既存インフラの活用

    すでにインフラストラクチャがある場合に、既存の Kubernetes クラスタや SSH でアクセス可能なサーバーを接続し、その上のワークロードを dstack にオーケストレーションさせます。

Pros and Cons

Pros

  • 単一のコントロールプレーンから GPU クラウド、Kubernetes、オンプレミスのクラスタ全体で動作します。
  • NVIDIA、AMD、TPU、Tenstorrent を含む複数のアクセラレータタイプをサポートします。
  • dev environments から tasks、services まで、ML ワークフロー全体をカバーします。
  • CLI と UI の両方に加え、プログラマティック API も利用できます。
  • 既存の Kubernetes クラスタと SSH ベースのオンプレミス fleets のサポートを含みます。

Cons

  • 公開されているページでは価格の詳細が明確に示されていないため、購入者は商用条件を把握するために営業への問い合わせやホスト型オプションの確認が必要になる場合があります。
  • 主なワークフローは設定駆動型のため、完全に管理された体験を求めるチームは dstack の YAML と CLI モデルを採用する必要があるかもしれません。

FAQ

dstack を始めるにはどうすればよいですか?

`uv` を使ってローカルに dstack をインストールするか、`dstackai/dstack` の Docker イメージでデプロイできます。ドキュメントでは、サーバーをセルフホストする代わりに dstack Sky にサインアップできることも案内されています。

dstack はワークフローの中でどのように使われますか?

dstack は、リポジトリ内の YAML ファイルで設定を定義し、それを `dstack apply` で、またはプログラマティック API 経由で適用することで動作します。インフラストラクチャをプロビジョニングし、ワークロードをスケジューリングしながら、自動スケーリング、ポートフォワーディング、Ingress を処理します。

dstack は既存の Kubernetes やオンプレミスのインフラストラクチャで使えますか?

はい。ドキュメントによると、Kubernetes バックエンド経由で既存の Kubernetes クラスタを接続し、その上で dev environments、tasks、services を実行できます。dstack はオンプレミスサーバー向けの SSH fleets もサポートしています。

dstack の料金モデルは何ですか?

ソースページには、コア製品の公開価格表は明記されていません。dstack Sky や dstack Enterprise といったホスト型のオプションは記載されており、Sky は dstack がホストし、Enterprise は SSO、air-gapped セットアップ、専用サポート付きのセルフホスト型として説明されています。

dstack は誰向けですか?

dstack は、異種の AI コンピュート上での開発、学習、推論向けに構築されています。ドキュメントでは、fleets、dev environments、tasks、services、volumes が主要な設定タイプとして強調されています。

Quick Facts

カテゴリ
AI インフラストラクチャのオーケストレーション
ソースドメイン
dstack.ai
デプロイメントモデル
セルフホストとホスト型オプションを備えたオープンソースサーバー
主なインターフェース
CLI、UI、API
対応バックエンド
GPU クラウド、Kubernetes、SSH fleets
言及されているアクセラレータ
NVIDIA、AMD、TPU、Tenstorrent