基礎架構控制與 GPU 協調
在內部部署、雲端或混合環境中管理 GPU 叢集,並提供排程、配額管理、動態分數 GPU 與依使用量計費控制。
ClearML 是一個 AI 基礎架構平台,可用於管理 GPU 叢集、建置與訓練 AI/ML 模型,並在代管、自架與混合環境中部署 GenAI 工作負載。
ClearML 是一個 AI 基礎架構平台,圍繞三個相互連結的層級而建立:基礎架構控制平面、AI 開發中心,以及 GenAI App Engine。這些層級共同協助團隊管理運算、建置與訓練 AI/ML 模型,並在企業環境中部署 GenAI 應用程式。
此平台專為同時需要軟體工作流程控制與基礎架構控制的組織而設計。來源頁面描述其支援 GPU 叢集管理、實驗追蹤、管線、模型儲存庫、CI/CD 自動化、資料集版本控制與 LLM 部署,並提供代管、自架、VPC、內部部署、氣隙隔離與混合式等部署選項。
在內部部署、雲端或混合環境中管理 GPU 叢集,並提供排程、配額管理、動態分數 GPU 與依使用量計費控制。
使用 AI 開發中心,從共享工作區管理實驗、資料集、模型、構件、指標、報告與管線。
追蹤程式碼、組態、記錄、套件與未提交變更,讓模型執行更具可重現性,也更容易除錯。
建立可重用的資料集版本,具備可搜尋的中繼資料、預覽、繼承、差異化儲存,以及 HTTP、S3、GCS、Azure 與 NAS 等彈性儲存後端。
透過 App Engine 工具部署並迭代 GenAI 工作負載,支援 LLM API、資料擷取、向量資料庫建立與回饋蒐集。
透過代管、自架、VPC、內部部署、氣隙隔離或混合式部署路徑,將平台配合不同營運模式。
在不同團隊之間建立與治理 GPU 容量,並透過配額管理、排程與分數 GPU 控制分配工作。
在迭代式 AI/ML 開發過程中追蹤實驗、比較執行結果、管理資料集,並妥善整理模型構件。
排程訓練工作,並讓平台在內部部署、雲端或 HPC 資源之間管理排程、容器化執行與可重現性。
部署自訂或微調後的 LLM,設定存取控制,並透過資料擷取與向量資料庫工具支援模型迭代。
當團隊需要在開發與生產之間有更緊密的交接時,使用單一平台進行版本控制、報告與 CI/CD 自動化。
ClearML 的平台被呈現為三層系統:基礎架構控制平面、AI 開發中心,以及 GenAI App Engine。開發中心是用於建置、訓練與部署 AI/ML 模型的工作平台,而其他層則負責基礎架構與 GenAI 部署。
定價頁面說明 ClearML 可在代管伺服器、自架,或作為代管服務使用,並依方案提供包括 VPC、內部部署、氣隙隔離或混合式設定等部署選項。
來源資料指出,AI 開發中心支援實驗管理、協調、儀表板、管線、模型儲存庫、CI/CD 整合、資料整合、超參數最佳化與模型部署。定價功能矩陣也提到支援模型微調與向量資料庫整合。
定價頁面列出 Community、Pro、Scale 和 Enterprise 選項。Community 顯示為免費,Pro 是按使用者計費的付費方案,而 Scale 與 Enterprise 則採客製報價。
可以。首頁說明 ClearML 是一個統一的開源平台,而定價頁面也提到,你可以在 GitHub 上以 100% 開源形式自行架設 ClearML。