Unsloth

什麼是 Unsloth？

Unsloth 是一個開源框架與本機 Web UI，可透過單一整合介面在本機訓練、執行並匯出開放模型。此產品著重於將模型工作流程保留在您自己的硬體上，並提供涵蓋本地推論、微調、資料準備與匯出的文件。

Studio 版本新增了免程式碼的本機工作流程，可執行 GGUF 與 safetensors 模型、從 PDF 與 CSV 等檔案準備資料集，並以內建可觀測性訓練模型。網站將 Unsloth 定位為一種可在本機環境中使用 500+ 模型、涵蓋文字、視覺、音訊與嵌入的方式。

Unsloth 能做什麼？

本機模型執行

在本機執行 GGUF 與 safetensors 模型，並排比較兩個模型，且在工作流程中使用上傳的圖片、文件、音訊或程式碼檔案。

資料集準備

從 PDF、CSV、JSON、DOCX、TXT 與 YAML 來源自動建立資料集，接著在 Data Recipes 工作流程中清理並精煉它們。

本機訓練控制

使用 LoRA、4-bit、16-bit、FP8 與預訓練選項訓練與微調 500+ 模型，並以即時可觀測性監看 loss、gradient norms 與 GPU 使用量。

工具呼叫與程式碼執行

使用自我修復式工具呼叫、網頁搜尋、Bash 與 Python 執行，包含用於測試與驗證的沙箱化程式碼執行。

模型匯出

將模型匯出為 GGUF 或 safetensors，以供 llama.cpp、vLLM、Ollama、LM Studio 與類似執行環境使用。

API 存取

透過 API 端點連線至 Unsloth，或依據 Studio 文件與 Claude Code、Codex 等外部工具搭配使用。

使用情境

“從本機文件微調模型”

透過匯入來源檔案、將其轉換為資料集，並使用預設或自訂設定開始訓練，來建立本機微調工作流程。

“本機推論與評估”

在自己的機器上離線執行模型，比較兩個模型的輸出，並在受控環境中測試工具呼叫或網頁搜尋。

“資料集建立與清理”

使用 Data Recipes 將非結構化檔案轉換為可供訓練的資料集，然後在視覺化節點工作流程中於訓練前精煉資料集。

“供下游工具使用的模型匯出”

將已訓練或基礎模型匯出為 GGUF 或 safetensors，以便在 llama.cpp、vLLM、Ollama 或 LM Studio 等執行環境中使用。

“本機 API 整合”

當您希望在開發者工作流程中進行本機推論時，可使用 API 端點或將外部工具連線至本機模型。

常見問題

什麼是 Unsloth Studio？

Unsloth Studio 是一個用於訓練、執行與匯出開放模型的本機 Web UI。文件將其描述為一個開源、免程式碼的介面，可在您自己的機器上離線運作。

它支援哪些作業系統？

文件指出 Unsloth Studio 可在 Windows、Linux、WSL 與 macOS 上運作。它也支援用於訓練的 NVIDIA GPU，而僅 CPU 的設定則僅限於聊天推論與 Data Recipes。

它可以處理哪些類型的模型？

Unsloth 支援在本機執行與訓練模型、將模型匯出為 safetensors 或 GGUF，以及使用 API 端點。文件也提到支援文字、視覺、音訊/TTS 與嵌入模型。

Unsloth 有付費方案嗎？

有。定價頁面包含 Free 方案、Pro 方案與 Enterprise 方案。免費版本為開源，而付費方案則加入更高效能與企業功能。

Unsloth 會收集使用者資料嗎？

Studio 文件說明 Unsloth 不會收集使用情況遙測資料。它只會收集相容性所需的最少硬體資訊，而且 Studio 100% 離線且本機執行。