BaseRT

BaseRT 是適用於 Apple Silicon 的本機 LLM runtime，只要安裝一次，即可在自己的裝置上提供支援模型，並連接 coding agent，且不需將資料送往外部 API。

BaseRT 是什麼

BaseRT 是來自 Base Compute、適用於 Apple Silicon 的本機 LLM runtime。首頁將其描述為 Apple Silicon 上最快的 LLM runtime，並展示了用單一指令安裝、在自己的裝置上執行模型的流程。

其核心工作是本機提供與執行開源模型，重點在於讓推論保留在裝置上，供個人開發者與 coding-agent 工作流程使用。產品頁面特別展示了本機模型被提供服務，接著在不將資料送往外部 API 的情況下，連接到 coding agent。

Base Compute 的研究頁面將 BaseRT 描述為 Apple Silicon 的原生 Metal inference runtime，而技術報告則著重於相較於 llama.cpp 與 MLX 的吞吐量提升。企業頁面將這種裝置上的做法延伸到希望在既有硬體上使用 AI 的團隊。

功能

一鍵安裝

首頁提供單一指令安裝流程，使用 shell 安裝程式，讓本機使用的設定更簡單。

原生 Metal runtime

BaseRT 被描述為為 Apple Silicon 打造的原生 Metal inference runtime，技術報告解釋了它如何使用晶片特定的 kernel fusion 與自訂 dispatch 邏輯。

供 agent 使用的本機模型服務

產品頁面說明 BaseRT 可以在本機提供模型服務，之後可由同一台機器上的 coding agent 使用，讓 prompts 與 outputs 保持在裝置上。

廣泛的模型家族覆蓋

首頁列出支援的模型家族，包括 Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3 和 Nomic BERT。

多種量化格式

研究頁面指出，Apple M 系列裝置上支援從 Q2 到 FP16 共八種 quantisation 格式，涵蓋多種模型家族。

文件與社群管道

網站提供技術報告、文件、GitHub 與 Discord 連結，讓使用者可深入了解實作細節並取得社群支援。

BaseRT 的適用情境

本機 coding-agent 設定
開發者可以在自己的 Mac 上讓 coding agent 連接由本機提供服務的模型，讓整個流程保持在本機，而不是透過代管 API 傳送 prompts。
裝置上的模型實驗
想在 Apple Silicon 上嘗試開源模型的個人使用者，可以快速安裝 BaseRT，並在自己的機器上執行推論。
裝置上 AI 的機隊規劃
工程團隊可以使用企業工作流程，在更廣泛採用之前，先評估本機 AI 如何融入既有的筆電與工作站設備群。
私人文件工作流程
處理敏感資料的組織可以將 AI 輔助撰寫、摘要或分析保留在裝置上，避免將資料送往第三方服務。
runtime 評估與基準測試
專注於效能的團隊可以使用研究與 benchmark 資料，在 Apple 硬體上比較 BaseRT 與 llama.cpp、MLX。

Pros and Cons

Pros

專為本機推論設計，因此模型可在使用者自己的裝置上執行，而非外部服務。
首頁提供簡單的安裝指令，以及供 coding agents 使用的清楚 serve-and-connect 工作流程。
產品網站列出特定支援的模型家族，讓預期支援範圍比一般 runtime 頁面更具體。
研究頁面與技術報告提供給想了解實作細節與效能背景的讀者。
產品網站可見社群與支援連結，包括文件、GitHub 與 Discord。

Cons

公開網站沒有提供可驗證的定價頁面；目前定價網址回傳 404。
最完整的 runtime 細節是針對 Apple Silicon 而文件化，因此對該平台以外的支援在來源頁面上並不明確。
已清楚展示的工作流程主要是本機模型服務與 coding agents，但主產品頁面未記載更廣泛的整合與 API 相容性。

FAQ

如何設定 BaseRT？

BaseRT 透過產品頁面上顯示的一行安裝指令，從命令列進行安裝。安裝完成後，您可以在本機提供支援模型服務，並讓 coding agent 連線到該伺服器。

BaseRT 適合誰使用？

首頁強調本機 coding-agent 工作流程，並指出 BaseRT 適合使用開源模型在裝置上建置 AI 的使用者。企業頁面也將其定位為適合想在自己已擁有的筆電與工作站上使用 AI 的組織。

它可以執行哪些模型？

BaseRT 支援在 Apple Silicon 上提供本機模型服務，而研究頁面表示它支援 Apple M 系列裝置上的多種模型家族。首頁列出 Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3 和 Nomic BERT 為支援模型。

BaseRT 的費用是多少？

來源未記載 BaseRT 的公開定價頁面。定價網址目前回傳 404，因此目前可取得的證據無法驗證價格與方案細節。

BaseRT 是否支援非 Apple 硬體？

產品頁面聚焦於 Apple Silicon 與 Apple M 系列裝置。企業頁面提到 Windows 與 Linux 工作站作為一般的本機 AI 硬體，但 BaseRT runtime 本身在網站上是以 Apple Silicon runtime 的形式呈現。

Quick Facts

類別: 開發者工具 / AI 基礎設施
主要平台: Apple Silicon / Apple M 系列裝置
核心工作流程: 本機安裝、提供模型服務、在同一台機器上連接 coding agent
支援的模型家族: Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3、Nomic BERT
來源網域: basecompute.co
公司: Base Compute Pty. Ltd.

BaseRT 數據分析

BaseRT· 月造訪量 1355· 全球排名 #10,828,214

流量數據僅供參考。

月造訪量: 1355
全球排名: #10,828,214
分類排名: -
使用者跳出率: 0.00%
平均造訪時長: 04:28
每次造訪頁數: 2.00

流量趨勢

月造訪量 - 3
4月	0
5月	0
6月	1355

流量來源

直接造訪0.00%
搜尋0.00%
引薦0.00%
社群0.00%
郵件0.00%
展示廣告0.00%

主要造訪地區

尚無流量分析數據。