ハイブリッドコンピュートワークフロー
所有するコンピュート上でエージェント、サンドボックス、推論、タスクキューを実行し、さらに容量が必要なときはBeamにバーストできます。
Beamとは？
Beamは、GPUまたはCPUリソース上でサンドボックス、タスクキュー、カスタムモデル推論、学習ワークロードを実行できるオンデマンドAIコンピュートプラットフォームです。この製品は、迅速な起動時間、オートスケーリング、そしてフルスタックのインフラを自分で管理せずにAIアプリケーションをより簡単に提供したい開発者向けに位置付けられています。
このプラットフォームはサーバーレス実行と常時稼働ワークロードのオプションを組み合わせており、リクエスト後にアプリを自動で停止させることも、低レイテンシが重要な場合に継続稼働させることもできます。Beamはまた、Bring Your Own Cloudをサポートし、複数のクラウドアカウントを接続して、1つのランタイムからそれら全体でワークロードを実行できます。
Beamでできること
サブ秒のコールドスタート
メモリスナップショットとチェックポイントの復元を活用してGPUコンテナをすばやく起動し、AIワークロードのコールドスタート時間を短縮するよう設計されています。
マルチリージョン実行
クラウドやリージョンをまたいでワークロードをリアルタイムにルーティングし、30以上のリージョンに分散実行して低遅延配置を実現します。
スナップショット、分岐、復元
実行中のサンドボックスをスナップショット化し、分岐させ、ストリーミング出力付きで多くの分離された実行に復元して、並列実験やエージェントに活用できます。
タスクキューとオートスケーリング
再試行、コールバック、スケジュールジョブ、キュー深度またはリクエスト量に基づくオートスケールを備えた耐久性の高いキューを作成できます。
監視とテレメトリ
プラットフォームダッシュボードと組み込みの監視ツールから、リクエスト量、エラー、レイテンシ、リソース使用率を追跡できます。
利用シーン
“カスタムモデル推論”
カスタムイメージとオートスケーリングを使用して、GPUまたはCPU上にホスト型モデルエンドポイントを構築し、変化するリクエスト量に対応します。
“サンドボックス化されたコード実行”
永続ストレージ、スナップショット、制御された実行を備えた分離サンドボックスで、LLMが生成したコードやユーザー送信コードを実行します。
“バッチタスク処理”
再試行、コールバック、スケジュールジョブを使って、メディア、音声、その他のバッチワークロードをキューに入れて処理します。
“学習とファインチューニング”
長時間実行される作業のためにスケールアップできる環境が必要なときに、GPU対応ジョブでモデルを学習またはファインチューニングします。
“インタラクティブなAIアプリ”
迅速な起動と管理されたランタイムを必要とするStreamlit、Gradio、またはノートブック形式のフロントエンドをデプロイします。
よくある質問
Beamはサーバーレスのワークロードのみをサポートしていますか？
Beamはサンドボックス、推論、タスクキューをオンデマンドで実行します。既定でサーバーレス実行に対応しており、料金ページでは、低遅延が重要なワークロードではアプリを24時間365日稼働させておけることも示されています。
Beamはストレージとコンテナイメージをどのように扱いますか？
料金ページではストレージが追加料金なしで含まれていると記載されており、FAQではコールドスタートに対して課金されないことが示されています。Beamは、サードパーティのレジストリから既存のDockerイメージを取り込むこともサポートしています。
プラットフォームのセキュリティはどの程度ですか？
Beamは分離された非rootコンテナを提供します。FAQでは、完全に自分の環境内で動作するセルフホスト型製品についても言及されており、この展開オプションではデータがVPCの外に出ることはありません。
利用できる料金オプションは何ですか？
Beamは、サーバーレスリソース、サンドボックス、GPUに対する従量課金に加えて、チーム向けの利用ティアも提供しています。料金ページには、Developerティア、Teamティア、そして営業への問い合わせが必要なGrowthティアが表示されています。
クイック情報
- カテゴリ
- 開発者向けツール
- 主な用途
- サンドボックス、推論、キュー向けのオンデマンドAIコンピュート
- プラットフォーム対応
- Python SDKの例で動作し、ホームページにはTypeScriptとGoも掲載されています
- 料金
- 料金ページに無料の月間クレジットが表示されている従量課金制
- 企業シグナル
- Y Combinator支援
- ソースドメイン
- beam.cloud
Beam のトラフィック分析
トラフィックデータは参考情報としてご利用ください。
- ドメイン評価
- 57
