XOps 16
Эксперименты с небольшими квантованными моделями · CI для одного проекта
M4 · 16GB унифицированной памяти · SSD 256GB
Благодаря унифицированной памяти Apple Silicon CPU и GPU используют одну и ту же память. Квантованная 4-битная модель загружается целиком, а mlx_lm.server запускает совместимый с OpenAI эндпоинт.
Каждый узел — настоящий физический Mac mini, а не виртуальная машина. Выберите Сингапур, Токио, Сеул или Гонконг, арендуйте посуточно и подключитесь по SSH примерно через 4 минуты после заказа.
Начальная конфигурация: XOps 16 · M4 · 16GB · 256GB · $19.4 в день · $96.8 в месяц
Загрузка весов модели4.52 / 4.52 GB · 100%
8B Instruct · 4-битная квантизация · safetensorsSSH-туннельssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
ЭндпоинтPOST 127.0.0.1:8080/v1/chat/completions
Выделенная физическая машинаНе виртуальная машина: вся система в распоряжении одного арендатора
4 узла в Азии и Тихоокеанском регионеСингапур · Токио · Сеул · Гонконг
USDT-TRC20, Visa · Mastercard · AmexОплата картой через Stripe, расчёты в долларах США
Около 4 минут от заказа до готовностиСроки выполнения смотрите в заказе в консоли
mlx-lm загружает квантованные веса и выполняет инференс на Apple Silicon. Запустите совместимый с OpenAI интерфейс через mlx_lm.server, оставьте службу доступной на локальном адресе и направьте запросы нужных участников команды через SSH-туннель. Так не придётся открывать порт инференса для публичного доступа.
Файлы моделей, зависимости и процессы сервиса остаются на одной выделенной физической машине. Постоянно работающим сервисом можно управлять через launchd. При изменении длины контекста или числа параллельных запросов учитывайте суммарное использование памяти весами модели, кэшем и системными процессами — не считайте всю унифицированную память доступной только для весов.
pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
Руководство по развёртыванию MLX
XOps 16 · эксперименты с небольшими квантованными моделями
XOps 24 · постоянная работа с моделями 7B–8B
XOps Pro 64 · крупные модели или параллельный запуск нескольких моделей
Устанавливайте и переключайте версии Xcode под требования проекта; за подпись, архивацию и распространение отвечает fastlane. Зарегистрируйте машину как self-hosted runner для GitHub Actions или GitLab — задания сборки будут выполняться непосредственно на этом Mac mini, а DerivedData и кэш зависимостей можно хранить локально.
Сначала добавьте сертификаты и профили в управляемую вами связку ключей, затем запустите runner от имени отдельной контролируемой учётной записи. Для параллельных заданий подбирайте уровень параллелизма с учётом CPU, унифицированной памяти и свободного места на диске: одна машина не является бесконечно масштабируемой общей очередью.
В Сингапуре, Токио, Сеуле и Гонконге доступны три конфигурации. При выборе узла учитывайте, где находится команда и хранятся файлы моделей. Замеры задержки помогут сориентироваться, но итоговую скорость соединения проверьте в своей сети. Доступность узлов отображается в консоли в реальном времени.
Указано примерное время этапов подключения, а не гарантированный срок для каждого заказа. После подтверждения оплаты консоль покажет ход назначения узла и инициализации. Фактическую готовность и сроки смотрите в консоли в реальном времени.
Проверьте конфигурацию, срок аренды и город, затем оплатите в долларах США через доступный платёжный шлюз.
Для заказа выделяется физический Mac mini выбранной конфигурации из каталога.
После проверки готовности данные для подключения появятся в деталях заказа в консоли.
Сначала проверьте подключение по SSH. Если нужен графический интерфейс, подключитесь через VNC по SSH-туннелю.
Все цены указаны в долларах США. Ниже приведены дневная и месячная ставки; цены за неделю и квартал, а также доплату за хранилище смотрите на странице полных тарифов. Все конфигурации доступны в Сингапуре, Токио, Сеуле и Гонконге; наличие узлов проверяйте в консоли в реальном времени.
Эксперименты с небольшими квантованными моделями · CI для одного проекта
M4 · 16GB унифицированной памяти · SSD 256GB
Постоянная работа с квантованными моделями 7B–8B · CI для команды
M4 · 24GB унифицированной памяти · SSD 512GB
Крупные модели или параллельный запуск нескольких моделей · ресурсоёмкие сборки
M4 Pro · 64GB унифицированной памяти · SSD 2TB
CPU, GPU и унифицированная память целой машины доступны одному арендатору. Задания инференса и сборки не конкурируют за ресурсы с другими пользователями на той же машине. Производительность зависит от модели, проекта и настроек параллельного выполнения.
Для коротких тестов арендуйте машину на день, для подготовки релиза — на неделю, а для постоянных задач сравните месячный и квартальный тарифы. Перед выбором срока оцените время работы, расходы на синхронизацию моделей и дату завершения задач.
Используйте SSH для работы с кодом и управления сервисами, а VNC — для удалённого рабочего стола с графическим интерфейсом Xcode. Рекомендуем подключаться к графическому сеансу через SSH-туннель и заранее проверить задержку ввода в своей сети.
Примеры помогут понять, для каких задач стоит выделить отдельный Mac.
«Разместить квантованную модель 8B на узле в Токио, а команде обращаться к API через SSH-туннель — и не занимать рабочие ноутбуки инференсом».
«Запускать CI на постоянном Mac mini, хранить зависимости и кэш сборки локально, а после отправки кода сразу ставить задачу в собственную очередь сборки».
«Арендовать среду для релиза на неделю, выполнить архивацию, подпись и проверки на одной машине, а перед завершением задач сохранить нужные артефакты».
Каждая аренда — это отдельный физический Mac mini, а не виртуальная машина с общими ресурсами. Веса моделей, кэш сборки и ваши задачи находятся на назначенной машине.
Начните с небольшой 4-битной квантованной модели и оцените остаток памяти с учётом весов, кэша контекста и параллельных запросов. Для постоянной работы с моделями 7B–8B рассмотрите конфигурацию 24GB, для более крупных моделей или параллельного запуска нескольких моделей — 64GB.
Принимаем USDT-TRC20, а также Visa, Mastercard и Amex через Stripe. Все платежи проводятся в долларах США. Доступные при оплате шлюзы отображаются в консоли.
Сохраните веса моделей, файлы проекта, резервные копии сертификатов и нужные артефакты сборки. После освобождения машины её диск будет полностью очищен — не храните на узле единственную копию файлов.
Разделяем промежуточный и подтверждённый ввод IME, чтобы проверка формы не отклоняла текст до выбора кандидата.
AIDevelopmentОграничиваем размеры миниатюр через ImageIO и проверяем результат на фиксированных изображениях. Отдельно разбираем, чего такой тест не говорит о пике памяти.
DevOps и CI/CDОдин UI-тест проверяет черновик, поворот в альбомный режим, сохранение и возврат в портретный режим на выбранном симуляторе.
Готовим новые материалы — пока загляните всписок статей блога.
Начните с XOps 16 за $19.4 в день и подберите конфигурацию под модели и задачи сборки. Перед оплатой проверьте срок аренды, узел и фактическую доступность.