MLX 推論・獨享 Mac mini

你的 MLX 推論伺服器,就在獨享 Mac mini 上運行

Apple Silicon 的統一記憶體讓 CPU 與 GPU 共用同一塊記憶體,4-bit 量化模型可完整載入,使用 mlx_lm.server 啟動 OpenAI 相容端點即可呼叫。

每個節點都是一台真正的實體 Mac mini,不是虛擬機。可選新加坡、東京、首爾或香港,按日租用,下單後約 4 分鐘即可透過 SSH 登入。

入門機型 XOps 16・M4・16GB・256GB・$19.4/天・$96.8/月

mlx-server・東京・XOps 24 M4・24GB・512GB
推論載入・已驗證單一租戶・實體節點・非虛擬機

模型權重載入4.52 / 4.52 GB・100%

8B Instruct・4-bit 量化・safetensors
工作階段就緒:獨享實體機已準備完成 就緒
統一記憶體使用量6.1 / 24 GB示意值
每秒 tokens 數38.6 tok/s示意值

SSH 通道ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24

端點POST 127.0.0.1:8080/v1/chat/completions

  • 獨享實體機不是虛擬機,整台機器僅供一位租戶使用

  • 4 個亞太節點新加坡・東京・首爾・香港

  • USDT-TRC20 與 Visa・Mastercard・Amex信用卡透過 Stripe 處理,以美元結算

  • 下單後約 4 分鐘即可使用實際進度請以控制台訂單資訊為準

MLX 推論・mlx-lm

統一記憶體可容納模型,推論端點僅供團隊使用

mlx-lm 讀取量化權重後,即可在 Apple Silicon 上進行推論。使用 mlx_lm.server 啟動 OpenAI 相容介面,先讓服務監聽本機回環位址,再透過 SSH 通道轉送給需要呼叫的團隊成員。如此一來,推論連接埠不必直接對外網開放。

模型檔案、相依環境與服務程序都保留在同一台獨享實體機上。常駐服務可交由 launchd 管理;調整上下文長度或並行數時,請先確認模型權重、快取與系統程序的總用量,別把全部統一記憶體都當成權重空間。

pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
閱讀 MLX 部署指南
iOS / macOS 建置・CI

建置機只執行你的工作流程,不必和其他使用者爭用編譯資源

可依專案需求安裝及切換 Xcode 版本,並以 fastlane 處理簽署、封存與發佈。將機器註冊為 GitHub Actions 或 GitLab 的 self-hosted runner 後,建置工作就會直接在這台 Mac mini 上執行;DerivedData 與相依套件快取也能保留在本機。

先將憑證與描述檔放入由你管理的鑰匙圈,再讓 runner 以受控帳戶執行。需要平行處理工作時,請依 CPU、統一記憶體與磁碟空間設定並行數,別把單一機器當成可無限擴充的共享佇列。

  • Xcode依專案切換工具鏈,保留可重現的建置版本。
  • fastlane串接簽署、封存與測試版發佈流程。
  • Runner整合 GitHub Actions / GitLab self-hosted 工作流程。
查看 CI 整合指南
節點與交付

四個城市都有獨享節點,按日租用

新加坡、東京、首爾與香港皆提供三種目錄機型。選擇節點時,請先考量團隊主要所在地及模型檔案存放位置;延遲實測可供參考,實際連線品質請以自己的網路測試為準。可用狀態以控制台即時資訊為準。

  • 4 個亞太節點
  • 3 種目錄機型
  • $19.4入門價/天
  • 約 4 分鐘從下單到連線
SIN新加坡SG・1.35°N
TYO東京JP・35.68°N
SEL首爾KR・37.57°N
HKG香港HK・22.32°N
從付款到連線

下單到首次 SSH 登入,約需 4 分鐘

以下為預估交付時間,並非每筆訂單的固定時限承諾。付款確認後,控制台會顯示分配與初始化進度;實際可用狀態和完成時間以控制台即時資訊為準。

約 4.0 分鐘選擇並付款 → 分配節點 → 初始化 → 首次登入
  1. 1

    選擇機型與節點並付款

    確認機型、租期與城市,透過可用的付款方式以美元結帳。

  2. 2

    分配獨享實體節點

    為這筆訂單分配一台符合所選目錄機型的實體 Mac mini。

  3. 3

    系統初始化並提供登入憑證

    完成交付檢查後,連線資訊會顯示在控制台的訂單詳細資料中。

  4. 4

    首次透過 SSH / VNC 登入

    先確認 SSH 連線;需要圖形介面時,再透過 SSH 通道使用 VNC。

機型與價格・美元

三種機型,按日租用

所有價格均以美元計。以下列出日租與月租價格;週租、季租及額外儲存空間價格,請至完整方案頁確認。所有機型皆可選擇新加坡、東京、首爾或香港,實際供應狀況以控制台即時資訊為準。

16GB

XOps 16

小型量化模型實驗・單一專案 CI

M4・16GB 統一記憶體・256GB SSD

$19.4/天$96.8/月
部署 XOps 16
24GB

XOps 24

常駐執行 7B~8B 量化模型・團隊 CI

M4・24GB 統一記憶體・512GB SSD

$40.8/天$203.8/月
部署 XOps 24
64GB

XOps Pro 64

較大型模型或多模型並行・高負載建置

M4 Pro・64GB 統一記憶體・2TB SSD

$61.2/天$305.8/月
部署 XOps Pro 64
可選擇日、週、月或季租;續租與釋出均可在控制台完成。查看週/月/季價格
獨享代表什麼?

整台機器、租期彈性,兩種遠端連線方式

獨享實體機,非虛擬機

整台機器的 CPU、GPU 與統一記憶體僅供一位租戶使用。推論與建置工作不必和同機其他使用者爭用資源;實際效能仍取決於模型、專案與並行設定。

日、週、月、季租

短期測試可按日租用,發佈衝刺可按週安排,長期工作則可比較月租與季租。選擇租期前,請一併估算實際使用時間、模型同步成本與工作結束時間。

SSH 與 VNC 雙通道

透過 SSH 撰寫程式與管理服務;需要 Xcode 圖形介面時,可使用 VNC 遠端桌面。建議透過 SSH 通道連線圖形工作階段,並在正式使用前測試本地網路的輸入延遲。

工作流程範例

三種常見使用情境

以下描述常見工作情境,協助你判斷哪些工作負載適合配置一台獨享 Mac。

「把 8B 量化模型部署在東京節點,團隊透過 SSH 通道呼叫介面;推論工作不必佔用日常使用的筆電。」
MLX 推論・團隊內部端點
「讓 CI 在固定的 Mac mini 上執行,將相依套件與建置快取保留在本機;提交程式碼後,工作就會進入自己的建置佇列。」
行動應用程式開發・自架 Runner
「按週租用發佈環境,在同一台機器上完成封存、簽署與檢查;工作結束前,記得匯出需要保留的產物。」
iOS 專案・發佈衝刺
下單前確認

關於機型、付款與資料的四個問題

查看更多常見問題

為什麼選擇獨享實體機?

每筆租用都會配置一台實體 Mac mini,不是與其他租戶共用資源的虛擬機。模型權重、建置快取與工作負載都在分配給你的機器上執行。

16GB 適合哪些模型實驗?

可從小型 4-bit 量化模型開始,再依權重、上下文快取與並行工作所占用的記憶體評估餘裕。若要常駐執行 7B~8B 模型,可比較 24GB 機型;較大型模型或多模型並行則可參考 64GB 機型。

支援哪些付款方式?

支援 USDT-TRC20,以及透過 Stripe 處理的 Visa、Mastercard、Amex。所有款項均以美元結算;結帳時可用的付款方式以控制台顯示為準。

結束租用前要準備什麼?

請先同步模型權重、專案檔案、憑證備份及需要保留的建置產物。釋出機器後,整台磁碟會被清除,請勿將節點上的檔案當作唯一備份。

下一步・選擇規格

選一台 Mac mini,今天就讓推論服務開始運作

從 XOps 16 的 $19.4/天起,依模型與建置工作負載選擇機型。確認租期、節點與實際供應狀況後再付款。