MLX INFERENCE · DEDICATED MAC MINI

你的 MLX 推理服务器,跑在独享的 Mac mini 上

Apple Silicon 的统一内存让 CPU 与 GPU 共用同一块内存,4-bit 量化模型整份直接载入,用 mlx_lm.server 起一个 OpenAI 兼容端点就能调用。

每个节点都是一台真实的 Mac mini 物理机,不是虚拟机。新加坡、东京、首尔、香港任选,按天起租,下单后约 4 分钟可以 SSH 登录。

从 $19.4/天起部署对比三档机型

入口机型 XOps 16 · M4 · 16GB · 256GB · $19.4/天 · $96.8/月

mlx-server · Tokyo · XOps 24 M4 · 24GB · 512GB

推理封签 · 已校验单一租户 · 物理节点 · 非虚拟机

模型权重载入4.52 / 4.52 GB · 100%

8B Instruct · 4-bit 量化 · safetensors

会话解封:独享物理机已就绪 READY

统一内存占用6.1 / 24 GB示意值

tokens 每秒38.6 tok/s示意值

SSH 隧道ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24

端点POST 127.0.0.1:8080/v1/chat/completions

独享物理机非虚拟机,整机只归一位租户
4 个亚太节点新加坡 · 东京 · 首尔 · 香港
USDT-TRC20 与 Visa · Mastercard · Amex卡支付经 Stripe,美元结算
下单到可用约 4 分钟实际进度以控制台订单为准

MLX 推理 · mlx-lm

统一内存装得下模型,端点只对你的团队开放

mlx-lm 读取量化权重后在 Apple Silicon 上推理。用 mlx_lm.server 启动 OpenAI 兼容接口,先让服务监听本地回环,再经 SSH 隧道转发给需要调用的团队成员。这样不必直接向公网开放推理端口。

模型文件、依赖环境和服务进程都留在同一台独享物理机上。常驻服务可以交给 launchd 管理;调整上下文长度或并发时,先检查模型权重、缓存和系统进程合计占用,不要把统一内存容量全算作权重空间。

pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24

阅读 MLX 部署指南

统一内存刻度卡4-bit 量化 · 示意

16GB

XOps 16 · 小型量化模型实验

24GB

XOps 24 · 7B~8B 模型常驻

64GB

XOps Pro 64 · 更大模型或多模型并行

实际可载入规模取决于量化方式、上下文长度与并发数。

签名证书 钥匙串 · 构建机

MyApp.ipa归档 → 签名 → 测试分发

iOS / macOS 构建 · CI

构建机只跑你的流水线,没有邻居抢编译资源

Xcode 可按项目需要安装并切换版本,fastlane 负责签名、归档和分发。将机器注册为 GitHub Actions 或 GitLab 的 self-hosted runner 后,构建任务直接落在这台 Mac mini 上;DerivedData 与依赖缓存也能保留在本机。

先把证书与配置文件放进你管理的钥匙串,再让 runner 以受控账户运行。需要并行任务时,按 CPU、统一内存与磁盘余量设定并发,而不是把单机当作无限扩容的共享队列。

Xcode按项目切换工具链,保留可复现的构建版本。
fastlane串联签名、归档与测试分发步骤。
Runner接入 GitHub Actions / GitLab self-hosted 流水线。

查看 CI 接入指南

节点与交付

四座城市的独享节点,按天就能租一台

新加坡、东京、首尔、香港均提供三档目录机型。选择节点时,先考虑团队主要使用地点和模型文件所在位置;延迟实测可作参考,最终链路请从自己的网络测量。可用性以控制台实时返回为准。

4 个亚太节点
3 档目录机型
$19.4入口价 / 天
≈4 min下单到可连接

SIN新加坡SG · 1.35°N

TYO东京JP · 35.68°N

SEL首尔KR · 37.57°N

HKG香港HK · 22.32°N

从付款到连接

从下单到第一次 SSH 登录,合计约 4 分钟

以下是交付流程的预计耗时,不是每笔订单的固定计时承诺。付款确认后,控制台显示分配与初始化进度;实际可用性和完成时间以控制台实时返回为准。

≈ 4.0 min选择并付款 → 分配节点 → 初始化 → 首次登录

1

选择机型与节点并支付

核对机型、租期与城市,使用可用的支付网关完成美元结算。

1.0 min
2

分配独享物理节点

将目录中所选机型的一台物理 Mac mini 分配给本次订单。

1.0 min
3

系统初始化与凭据下发

完成交付检查,在控制台订单详情中提供连接信息。

1.5 min
4

SSH / VNC 首次登录

先验证 SSH 连接;需要图形界面时,再通过 SSH 隧道使用 VNC。

0.5 min

机型与价格 · USD

三档机型,按天起租

价格均以美元计。以下先列日价与月价;周价、季价和存储附加项可在完整方案页核对。所有机型均可在新加坡、东京、首尔、香港选择,具体可用性以控制台实时返回为准。

16GB

XOps 16

小型量化模型实验 · 单项目 CI

M4 · 16GB 统一内存 · 256GB SSD

$19.4/天$96.8/月

部署 XOps 16

24GB

XOps 24

7B~8B 量化模型常驻 · 团队 CI

M4 · 24GB 统一内存 · 512GB SSD

$40.8/天$203.8/月

部署 XOps 24

64GB

XOps Pro 64

更大模型或多模型并行 · 重型构建

M4 Pro · 64GB 统一内存 · 2TB SSD

$61.2/天$305.8/月

部署 XOps Pro 64

支持按天、周、月、季选择租期;续费与释放在控制台完成。查看周/月/季价格

独享意味着什么

整台机器、灵活周期、两条远程通道

独享物理机,非虚拟机

整机 CPU、GPU 与统一内存只归一位租户。推理任务和构建任务不会与同机邻居竞争资源;具体运行表现仍取决于你的模型、项目和并发配置。

按天、周、月、季计费

短期验证可按天租,发版冲刺可按周安排,常驻任务可比较月价与季价。选择周期前,把实际在线时长、模型同步成本和任务结束时间一并算进去。

SSH 与 VNC 双通道

写代码和管理服务使用 SSH;需要 Xcode 图形界面时使用 VNC 远程桌面。建议通过 SSH 隧道连接图形会话,并在正式使用前测试本地网络的输入延迟。

工作流片段

三种常见的使用方式

下面是典型任务的情境描述,用于帮助你判断应当为哪些工作负载保留一台独享 Mac。

“把 8B 量化模型放在东京节点上,团队经 SSH 隧道调用接口;推理任务不必占用日常工作的笔记本。”

MLX 推理 · 团队内部端点

“让 CI 在固定的 Mac mini 上运行,把依赖与构建缓存留在本机;提交代码后直接进入自己的构建队列。”

移动端开发 · 自托管 Runner

“按周准备发版环境,在同一台机器上完成归档、签名和检查;任务结束前导出需要保留的产物。”

iOS 项目 · 发版冲刺

下单前核对

关于机型、支付与数据的四个问题

查找更多答疑

为什么选独享物理机?

一笔租用对应一台物理 Mac mini,不是与其他租户共享资源的虚拟机。模型权重、构建缓存和你的任务都在所分配的机器上运行。

16GB 能用于哪些模型实验?

可从小型 4-bit 量化模型起步,再按权重、上下文缓存和并发占用测量余量。常驻 7B~8B 模型可对比 24GB 档;更大模型或多模型并行可查看 64GB 档。

支持哪些支付方式?

支持 USDT-TRC20,以及经 Stripe 处理的 Visa、Mastercard、Amex。全部以美元结算;结账时实际可用的网关以控制台返回为准。

结束租用前要准备什么?

先同步模型权重、项目文件、证书备份和需要保留的构建产物。机器释放后会整盘擦除,不要把节点上的文件当作唯一副本。

技术文章

写给在云端 Mac 上干活的人

全部文章

CI/CD 实践

在云端 Mac 上测试 iOS 输入法组合态与表单校验

用 markedTextRange 识别尚未提交的输入，避免中文输入法触发错误校验；附 XCTest 和模拟器验收清单。

AIDevelopment

云端 Mac 上验收 iOS 图片缩略图下采样与像素边界

用 ImageIO 为 iOS 列表缩略图设定像素上限，再用固定样本和 XCTest 检查输出。文章也区分了尺寸断言与真实内存测量。