# Unsloth 開源本地 Web 介面與框架，在自有硬體上訓練、執行與匯出開放模型 - Findings24: - 網站: - 價格: Freemium - 分類: AI程式助手, AI應用建立器, AI開發者工具 ## 什麼是 Unsloth？ Unsloth 是一個開源框架與本機 Web UI，可透過單一整合介面在本機訓練、執行並匯出開放模型。此產品著重於將模型工作流程保留在您自己的硬體上，並提供涵蓋本地推論、微調、資料準備與匯出的文件。 Studio 版本新增了免程式碼的本機工作流程，可執行 GGUF 與 safetensors 模型、從 PDF 與 CSV 等檔案準備資料集，並以內建可觀測性訓練模型。網站將 Unsloth 定位為一種可在本機環境中使用 500+ 模型、涵蓋文字、視覺、音訊與嵌入的方式。 ## Unsloth 能做什麼？ ### 本機模型執行 在本機執行 GGUF 與 safetensors 模型，並排比較兩個模型，且在工作流程中使用上傳的圖片、文件、音訊或程式碼檔案。 ### 資料集準備 從 PDF、CSV、JSON、DOCX、TXT 與 YAML 來源自動建立資料集，接著在 Data Recipes 工作流程中清理並精煉它們。 ### 本機訓練控制 使用 LoRA、4-bit、16-bit、FP8 與預訓練選項訓練與微調 500+ 模型，並以即時可觀測性監看 loss、gradient norms 與 GPU 使用量。 ### 工具呼叫與程式碼執行 使用自我修復式工具呼叫、網頁搜尋、Bash 與 Python 執行，包含用於測試與驗證的沙箱化程式碼執行。 ### 模型匯出 將模型匯出為 GGUF 或 safetensors，以供 llama.cpp、vLLM、Ollama、LM Studio 與類似執行環境使用。 ### API 存取 透過 API 端點連線至 Unsloth，或依據 Studio 文件與 Claude Code、Codex 等外部工具搭配使用。 ## 使用情境 ### 從本機文件微調模型 透過匯入來源檔案、將其轉換為資料集，並使用預設或自訂設定開始訓練，來建立本機微調工作流程。 ### 本機推論與評估 在自己的機器上離線執行模型，比較兩個模型的輸出，並在受控環境中測試工具呼叫或網頁搜尋。 ### 資料集建立與清理 使用 Data Recipes 將非結構化檔案轉換為可供訓練的資料集，然後在視覺化節點工作流程中於訓練前精煉資料集。 ### 供下游工具使用的模型匯出 將已訓練或基礎模型匯出為 GGUF 或 safetensors，以便在 llama.cpp、vLLM、Ollama 或 LM Studio 等執行環境中使用。 ### 本機 API 整合 當您希望在開發者工作流程中進行本機推論時，可使用 API 端點或將外部工具連線至本機模型。 ## 常見問題 ### 什麼是 Unsloth Studio？ Unsloth Studio 是一個用於訓練、執行與匯出開放模型的本機 Web UI。文件將其描述為一個開源、免程式碼的介面，可在您自己的機器上離線運作。 ### 它支援哪些作業系統？ 文件指出 Unsloth Studio 可在 Windows、Linux、WSL 與 macOS 上運作。它也支援用於訓練的 NVIDIA GPU，而僅 CPU 的設定則僅限於聊天推論與 Data Recipes。 ### 它可以處理哪些類型的模型？ Unsloth 支援在本機執行與訓練模型、將模型匯出為 safetensors 或 GGUF，以及使用 API 端點。文件也提到支援文字、視覺、音訊/TTS 與嵌入模型。 ### Unsloth 有付費方案嗎？ 有。定價頁面包含 Free 方案、Pro 方案與 Enterprise 方案。免費版本為開源，而付費方案則加入更高效能與企業功能。 ### Unsloth 會收集使用者資料嗎？ Studio 文件說明 Unsloth 不會收集使用情況遙測資料。它只會收集相容性所需的最少硬體資訊，而且 Studio 100% 離線且本機執行。 ## 快速資訊 - **分類**: AI 開發工具 - **產品類型**: 開源本機 Web UI 與框架 - **主要用途**: 在本機訓練、執行並匯出模型 - **平台**: Windows、Linux、WSL、macOS；另提供 Docker - **來源網域**: unsloth.ai - **價格**: Free 方案、Pro 方案與 Enterprise 方案