Pods、Serverless 與 Clusters
Runpod 提供三種主要執行模式：Pods 用於專用 GPU 執行個體，Serverless 用於推論工作負載，而 Clusters 用於多節點作業。這讓團隊可以依工作負載選擇最合適的部署方式，而不是把每個專案都塞進同一種執行環境。
Runpod
認領Runpod 是一個 AI 基礎架構平台，可在雲端執行 GPU 工作負載，提供專用 Pods、Serverless 推論與多節點 Clusters，協助 AI／ML 團隊訓練、部署與擴展工作負載。
概覽
Runpod 是一個 AI 基礎架構平台，可在雲端執行 GPU 工作負載。其主要產品線涵蓋專用 GPU Pods、Serverless 推論與 GPU Clusters，讓團隊可以在不更換平台的情況下，從實驗一路走到正式上線。
網站將 Runpod 定位於訓練、微調、推論、批次作業與分散式工作負載。它也強調自助式佈建、Pods 與 Clusters 的依秒計費，以及依使用量計費的 Serverless 運算；儲存與部署選項則會影響總成本與控制程度。
對於需要隨選 GPU 的團隊，Runpod 結合了快速的環境啟動、多區域可用性，以及自動擴縮、日誌與指標等受管理的協調功能。平台也提供預先部署模型的公開端點，以及用於保留容量的企業選項。
核心能力
快速環境佈建
平台支援快速啟動 GPU 環境，包括不到一分鐘內啟動 GPU pod，以及在數分鐘內建立多節點叢集。這使它既適合短期實驗，也適合重複性的正式工作。
自動擴縮推論工作流程
Serverless 可從零自動擴縮到多個工作者，網站也表示它可處理佇列、任務分配、日誌、監控與指標。它專為推論端點設計，因為閒置容量與冷啟動都很重要。
多節點運算協調
Clusters 支援分散式訓練與批次工作負載，具備高速網路、依秒計費，以及可掛載共享儲存的選項。產品頁也提到支援 Slurm，並可執行任意 Docker 工作負載。
彈性的儲存層級
儲存選項包括容器磁碟、磁碟區磁碟與網路儲存，並提供標準與高效能等級。價格頁也說明，儲存與部署選項會影響工作負載的整體成本。
託管模型端點
公開端點可透過 API 提供預先部署的 AI 模型，而不需要自行建立基礎架構。價格頁列出音訊、影像、語言與影片模型，並採用依請求或依 token 計費。
團隊使用 Runpod 的常見方式
專用 GPU 開發與訓練
當你需要專用 GPU 環境來進行開發、微調或長時間執行的工作，而且需要的是持久機器而不是自動擴縮端點時，請使用 Pods。
正式環境推論 API
當你需要會隨流量擴展的推論端點，且在工作者未執行時沒有閒置成本，並由平台自動處理任務分配時，請使用 Serverless。
多節點與分散式工作負載
當你需要分散式訓練、大型批次處理，或任何需要多個 GPU 節點與機器間高速互連的工作時，請使用 Clusters。
企業容量規劃
當你需要專用容量、自訂設定，以及針對較大規模部署的長期規劃時，請使用保留的叢集路徑。
託管模型存取
當你想透過 API 存取預先部署的模型，並希望避免自行設定 GPU 基礎架構時，請使用 Public Endpoints。
Pros and Cons
Pros
- 在同一平台內涵蓋從實驗到正式上線的完整生命週期。
- 提供適用於專用工作、自動擴縮推論與多節點工作負載的不同運算模式。
- Pods 與 Clusters 採依秒計費，適合間歇性或變動性工作負載。
- 提供儲存選項與共享儲存支援，適合需要持久性的工作負載。
- 透過公開端點提供預先部署的模型，讓想要 API 存取而不建立基礎架構的團隊可以直接使用。
Cons
- 來源未顯示適用於所有情境的單一固定工作流程，因此團隊仍需在 Pods、Serverless、Clusters 與儲存選項之間做選擇。
- 某些較大型叢集與保留容量的細節需要聯絡銷售或申請提高支出上限。
- 公開來源未列出完整的整合目錄，因此外部工具相容性的文件仍屬部分揭露。
FAQ
Pods、Serverless 與 Clusters 有什麼差異？
Runpod 提供多種部署路徑：Pods 用於專用 GPU 執行個體，Serverless 用於 API 風格的推論，而 Clusters 則用於多節點工作負載。最適合的選擇取決於你需要單一 GPU 環境、自動擴縮的推論，還是跨多個節點協調運算。
Runpod 的價格如何計算？
價格頁指出，Pods 與 Clusters 依秒計費，而 Serverless 則依使用量向推論工作器計費。儲存空間、部署選項與工作負載持續時間都可能影響總成本。
Runpod 支援哪種工作流程？
產品頁面說明可自行帶入 Docker 容器，並使用針對推論、訓練與研究工作負載最佳化的範本。Runpod 也展示了 Serverless 的工作流程控制，例如日誌、監控、指標與自動擴縮。
Runpod 適合誰使用？
Runpod 鎖定需要 GPU 基礎架構來進行訓練、推論、批次作業與分散式工作負載的團隊。網站也提供適用於專用容量與更大規模部署的企業選項。
團隊可以多快開始使用？
來源未描述每個產品都通用的單一設定流程，但確實展示了自助式佈建、在數分鐘內啟動叢集，以及將程式碼推送到 Serverless 以提供即時推論端點。
Quick Facts
- 類別
- AI 基礎架構 / 開發者雲端
- 主要使用者
- 執行 GPU 工作負載的 AI 開發者、ML 團隊與工程團隊
- 平台
- 雲端 GPU 執行個體、serverless 推論與多節點叢集
- 價格形式
- 依使用量計費，Pods 與 Clusters 採依秒計費，Serverless 依使用量計費
- 來源網域
- runpod.io
- 代表性工作流程
- 在同一平台上進行實驗、訓練、微調、部署與擴展