Ludwig logo

Ludwig

認領

Ludwig 是開源宣告式深度學習框架,透過單一 YAML 設定即可訓練、微調與部署模型,支援表格、文字、影像、音訊、時間序列與 LLM 工作流程,以及分散式訓練與模型服務。

Ludwig preview

概覽

Ludwig 是一個開源宣告式深度學習框架,透過單一 YAML 設定檔即可建置、微調與部署自訂模型。它適合想要避免手寫訓練迴圈、同時在需要時仍保有進階控制的使用者。

網站說明 Ludwig 支援表格、文字、影像、音訊、時間序列與 LLM 工作流程,且可在本機執行或在不更改模型定義的情況下擴展到 Ray 叢集。產品文件也強調內建前處理、實驗追蹤、服務與匯出流程。

功能

宣告式 YAML 設定

以單一已驗證的 YAML 檔定義前處理、編碼器、架構、訓練與超參數最佳化,而不必手寫訓練迴圈。

多模態、多任務建模

建立可結合表格、文字、影像、音訊、時間序列及其他特徵類型的模型,並在一次執行中訓練多個輸出。

LLM 微調堆疊

使用監督式指令微調與對齊方法(包括 DPO、KTO、ORPO 與 GRPO),再搭配 LoRA、QLoRA、DoRA 與 VeRA 進行 LLM 微調。

分散式訓練後端

只要加入 Ray 的後端設定,就能將本地工作切換為分散式執行;文件中展示支援 DDP、FSDP、DeepSpeed 與 KubeRay。

超參數最佳化

使用 Ray Tune 或 Optuna 執行內建 HPO,並可搭配 Auto、TPE、GP 與 CMA-ES 等取樣器,以及透過 SQLite 或 PostgreSQL 持久化。

服務與匯出流程

以一個指令提供模型服務,並可匯出為 SafeTensors、ONNX 或 `torch.export`,同時支援 Docker 映像與上傳至 Hugging Face Hub 的選項。

使用情境

  • 從設定檔訓練自訂模型

    當你想用 YAML 檔建立監督式模型,並在不從零編寫前處理與迴圈邏輯的情況下,保留清楚的訓練流程時,可使用 Ludwig。

  • 多模態與多任務建模

    適用於結合不同輸入類型的專案,例如文字搭配表格特徵、或影像搭配中繼資料,並在單一模型中訓練多個輸出。

  • LLM 微調與服務

    使用 LLM 工具將開放模型進行指令微調,搭配 4-bit QLoRA 或相關對齊方法,然後用 Ludwig 的服務指令提供結果。

  • 在 Ray 上進行分散式訓練

    當本機實驗需要擴展為叢集上的分散式執行,而又不想更動底層模型定義時,可使用 Ray 後端。

  • 模型匯出與部署

    當你需要 REST API、Docker 映像,或像 ONNX、SafeTensors 這類用於部署的模型產物時,可使用內建的匯出與服務流程。

Pros and Cons

Pros

  • 使用單一 YAML 檔定義模型流程。
  • 支援多種資料模態與多任務設定。
  • 包含 LoRA、QLoRA、DPO 與 GRPO 等 LLM 微調方法。
  • 可從本機訓練擴展到基於 Ray 的分散式工作,而不需重寫模型定義。
  • 除了訓練之外,還提供模型服務與匯出途徑。

Cons

  • 在蒐集到的來源中,`ludwig.ai/pricing` 價格頁面不可用,因此無法從這組證據確認商業條款。
  • 來源涵蓋度對某些實務細節而言仍不完整,例如整合、團隊部署模式與定價。
  • 部分進階能力只在首頁與文件中以高層次方式說明,但抽取到的來源未完整涵蓋每個工作流程的細節。

FAQ

Ludwig 用於什麼?

Ludwig 是一個以 YAML 為基礎的框架,可在單一設定檔中定義前處理、模型架構、訓練、超參數最佳化與服務。網站將其描述為開源的宣告式深度學習框架。

要如何使用 Ludwig?

入門與首頁頁面顯示的是命令列工作流程:安裝 Ludwig、準備資料集,然後執行 `ludwig train --config ...`。產品也文件化了預測、評估、超參數最佳化、服務、分散式訓練與 LLM 微調。

Ludwig 支援哪些模型與資料類型?

網站指出 Ludwig 支援表格資料、文字、影像、音訊、時間序列與 LLM 工作流程,也列出多模態與多任務建模。

Ludwig 可以用於部署嗎?

首頁與文件顯示 Ludwig 可以將模型作為 REST API 提供服務,並匯出為 SafeTensors、ONNX 與 `torch.export` 等格式。它也提到 Docker 映像與上傳至 Hugging Face Hub。

Quick Facts

類別
開發者工具
主要使用者
ML 與 AI 實作者
平台
開源框架
來源網域
ludwig.ai
授權
Apache 2 License
部署
本機、Ray 叢集、Kubernetes