MLX-INFERENZ · DEDIZIERTER MAC MINI

Ihr MLX-Inferenzserverauf einem dedizierten Mac mini

Der gemeinsame Arbeitsspeicher von Apple Silicon steht CPU und GPU gleichermaßen zur Verfügung. 4-Bit-quantisierte Modelle werden vollständig geladen. Mit mlx_lm.server richten Sie einen OpenAI-kompatiblen Endpunkt ein.

Jeder Standort bietet einen echten physischen Mac mini statt einer VM. Wählen Sie Singapur, Tokio, Seoul oder Hongkong und mieten Sie tageweise. Nach der Bestellung können Sie sich in etwa 4 Minuten per SSH anmelden.

Ab $19.4/Tag starten Drei Modelle vergleichen

Einstiegsmodell XOps 16 · M4 · 16 GB · 256 GB · $19.4/Tag · $96.8/Monat

mlx-server · Tokio · XOps 24 M4 · 24 GB · 512 GB

Inferenzstatus · geprüftEinzelmieter · physischer Knoten · keine VM

Modellgewichte geladen4.52 / 4.52 GB · 100 %

8B Instruct · 4-Bit-Quantisierung · safetensors

Sitzung bereit: dedizierte physische Maschine BEREIT

Belegter gemeinsamer Arbeitsspeicher6.1 / 24 GBBeispielwert

Tokens pro Sekunde38.6 tok/sBeispielwert

SSH-Tunnelssh -N -L 8080:127.0.0.1:8080 xops@tyo-24

EndpunktPOST 127.0.0.1:8080/v1/chat/completions

Dedizierte physische MaschineKeine VM – die gesamte Maschine gehört einem einzigen Mieter
Vier Standorte im asiatisch-pazifischen RaumSingapur · Tokio · Seoul · Hongkong
USDT-TRC20 sowie Visa · Mastercard · AmexKartenzahlung über Stripe, Abrechnung in US-Dollar
In etwa 4 Minuten einsatzbereitDer tatsächliche Fortschritt ist im Bestellbereich der Konsole zu sehen

MLX-Inferenz · mlx-lm

Genug gemeinsamer Arbeitsspeicher für Ihr Modell – der Endpunkt bleibt Ihrem Team vorbehalten

mlx-lm führt quantisierte Modellgewichte auf Apple Silicon aus. Starten Sie mit mlx_lm.server eine OpenAI-kompatible API, lassen Sie den Dienst zunächst nur auf dem Loopback-Interface lauschen und leiten Sie die Verbindung anschließend per SSH-Tunnel an berechtigte Teammitglieder weiter. So müssen Sie den Inferenzport nicht direkt für das öffentliche Internet öffnen.

Modelldateien, Abhängigkeiten und Dienstprozesse bleiben auf derselben dedizierten physischen Maschine. Dauerhaft laufende Dienste lassen sich mit launchd verwalten. Prüfen Sie vor Änderungen an Kontextlänge oder Parallelität den Gesamtverbrauch durch Modellgewichte, Cache und Systemprozesse – der gesamte gemeinsame Arbeitsspeicher steht nicht allein für die Gewichte zur Verfügung.

pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24

MLX-Einrichtungsanleitung lesen

Arbeitsspeicher im Überblick4-Bit-Quantisierung · Beispiel

16 GB

XOps 16 · Experimente mit kleinen quantisierten Modellen

24 GB

XOps 24 · 7B- bis 8B-Modelle dauerhaft betreiben

64 GB

XOps Pro 64 · größere Modelle oder mehrere Modelle parallel

Wie groß ein Modell sein kann, hängt von Quantisierung, Kontextlänge und Parallelität ab.

Signierzertifikat Schlüsselbund · Build-Mac

MyApp.ipaArchivieren → Signieren → für Tests verteilen

iOS- / macOS-Builds · CI

Auf dem Build-Mac läuft nur Ihre Pipeline – keine anderen Nutzer konkurrieren um Build-Ressourcen

Installieren und wechseln Sie Xcode-Versionen nach Bedarf pro Projekt; fastlane übernimmt Signierung, Archivierung und Verteilung. Registrieren Sie den Mac als self-hosted Runner für GitHub Actions oder GitLab, damit Builds direkt auf diesem Mac mini ausgeführt werden. DerivedData und Abhängigkeits-Caches können ebenfalls lokal bleiben.

Legen Sie Zertifikate und Profile zunächst in einem von Ihnen verwalteten Schlüsselbund ab und lassen Sie den Runner anschließend unter einem kontrollierten Konto laufen. Legen Sie die Parallelität anhand der verfügbaren CPU-, Arbeitsspeicher- und Festplattenkapazität fest – ein einzelner Mac ist keine beliebig skalierbare gemeinsame Warteschlange.

XcodeWechseln Sie je nach Projekt die Toolchain und behalten Sie reproduzierbare Build-Versionen bei.
fastlaneVerbindet Signierung, Archivierung und Verteilung für Tests zu einem durchgängigen Ablauf.
RunnerIntegriert sich in self-hosted Pipelines von GitHub Actions und GitLab.

CI-Einrichtungsanleitung ansehen

Standorte und Bereitstellung

Dedizierte Knoten in vier Städten – tageweise mieten

In Singapur, Tokio, Seoul und Hongkong stehen jeweils drei vorkonfigurierte Modelle zur Wahl. Berücksichtigen Sie bei der Standortwahl den Hauptstandort Ihres Teams und den Speicherort Ihrer Modelldateien. Latenzmessungen dienen als Orientierung; prüfen Sie die Verbindung am besten über Ihr eigenes Netzwerk. Die Verfügbarkeit wird in Echtzeit von der Konsole angezeigt.

4 KnotenStandorte im asiatisch-pazifischen Raum
3 Modellevorkonfigurierte Modelle
$19.4Einstiegspreis / Tag
≈4 Min.Von der Bestellung bis zur Verbindung

SINSingapurSG · 1.35°N

TYOTokioJP · 35.68°N

SELSeoulKR · 37.57°N

HKGHongkongHK · 22.32°N

Von der Zahlung bis zur Verbindung

Von der Bestellung bis zur ersten SSH-Anmeldung: etwa 4 Minuten

Die folgenden Zeiten sind Richtwerte für die Bereitstellung und keine feste Zusage für jede Bestellung. Nach bestätigter Zahlung zeigt die Konsole den Fortschritt bei Zuweisung und Initialisierung an. Verfügbarkeit und tatsächliche Dauer entnehmen Sie der Echtzeit-Anzeige in der Konsole.

≈ 4,0 Min.Auswählen und bezahlen → Knoten zuweisen → initialisieren → anmelden

1

Modell und Standort wählen, dann bezahlen

Prüfen Sie Modell, Mietdauer und Standort und bezahlen Sie den Betrag in US-Dollar über ein verfügbares Zahlungsgateway.

1,0 Min.
2

Dedizierten physischen Knoten zuweisen

Für diese Bestellung wird ein physischer Mac mini mit dem ausgewählten Modell aus dem Angebot zugewiesen.

1,0 Min.
3

System initialisieren und Zugangsdaten bereitstellen

Nach der Bereitstellungsprüfung finden Sie die Verbindungsdaten in den Bestelldetails der Konsole.

1,5 Min.
4

Erste Anmeldung per SSH / VNC

Prüfen Sie zunächst die SSH-Verbindung. Für eine grafische Oberfläche nutzen Sie VNC über einen SSH-Tunnel.

0,5 Min.

Modelle und Preise · USD

Drei Modelle, tageweise mieten

Alle Preise sind in US-Dollar angegeben. Unten finden Sie zunächst Tages- und Monatspreise; Wochen- und Quartalspreise sowie Speicheroptionen können Sie auf der vollständigen Angebotsseite prüfen. Alle Modelle sind in Singapur, Tokio, Seoul und Hongkong verfügbar; die aktuelle Verfügbarkeit zeigt die Konsole in Echtzeit an.

16GB

XOps 16

Experimente mit kleinen quantisierten Modellen · CI für ein Projekt

M4 · 16 GB gemeinsamer Arbeitsspeicher · 256 GB SSD

$19.4/Tag$96.8/Monat

XOps 16 mieten

24GB

XOps 24

7B- bis 8B-Modelle dauerhaft betreiben · Team-CI

M4 · 24 GB gemeinsamer Arbeitsspeicher · 512 GB SSD

$40.8/Tag$203.8/Monat

XOps 24 mieten

64GB

XOps Pro 64

Größere Modelle oder mehrere parallel · anspruchsvolle Builds

M4 Pro · 64 GB gemeinsamer Arbeitsspeicher · 2 TB SSD

$61.2/Tag$305.8/Monat

XOps Pro 64 mieten

Wählen Sie eine Mietdauer von einem Tag, einer Woche, einem Monat oder einem Quartal. Verlängerung und Freigabe erledigen Sie in der Konsole.Wochen-, Monats- und Quartalspreise ansehen

Was bedeutet dediziert?

Eine ganze Maschine, flexible Laufzeiten, zwei Fernzugänge

Dedizierte physische Maschine statt VM

CPU, GPU und gemeinsamer Arbeitsspeicher der gesamten Maschine stehen einem einzigen Mieter zur Verfügung. Inferenz und Builds konkurrieren nicht mit anderen Nutzern auf demselben Gerät. Die tatsächliche Leistung hängt weiterhin von Modell, Projekt und Parallelität ab.

Abrechnung pro Tag, Woche, Monat oder Quartal

Mieten Sie tageweise für kurze Tests, planen Sie eine Woche für einen Release-Endspurt ein oder vergleichen Sie Monats- und Quartalspreise für dauerhaft laufende Aufgaben. Berücksichtigen Sie bei der Laufzeit Ihre tatsächliche Nutzungsdauer, den Aufwand für die Modellsynchronisierung und den Abschluss Ihrer Aufgaben.

SSH und VNC für den Fernzugriff

Verwenden Sie SSH zum Programmieren und Verwalten von Diensten und VNC für den Xcode-Desktop. Für grafische Sitzungen empfehlen wir eine Verbindung über einen SSH-Tunnel. Testen Sie vor dem produktiven Einsatz die Eingabeverzögerung in Ihrem Netzwerk.

Workflow-Beispiele

Drei typische Einsatzszenarien

Diese Beispiele veranschaulichen typische Aufgaben und helfen Ihnen einzuschätzen, welche Workloads einen dedizierten Mac benötigen.

„Das quantisierte 8B-Modell läuft auf einem Knoten in Tokio, und das Team greift über einen SSH-Tunnel auf die API zu. So muss der Inferenzdienst nicht auf dem Arbeitslaptop laufen.“

MLX-Inferenz · interner Team-Endpunkt

„Die CI läuft auf einem festen Mac mini. Abhängigkeiten und Build-Caches bleiben lokal; nach jedem Commit landet der Build direkt in der eigenen Pipeline.“

Mobile Entwicklung · self-hosted Runner

„Für den Release-Endspurt wird die Umgebung eine Woche lang bereitgestellt. Archivierung, Signierung und Prüfungen laufen auf derselben Maschine. Benötigte Artefakte werden vor Abschluss der Aufgaben exportiert.“

iOS-Projekt · Release-Endspurt

Vor der Bestellung prüfen

Vier Fragen zu Modellen, Zahlung und Daten

Weitere Antworten finden

Warum eine dedizierte physische Maschine wählen?

Jede Miete umfasst einen physischen Mac mini statt einer VM, die Ressourcen mit anderen Mietern teilt. Modellgewichte, Build-Caches und Ihre Aufgaben laufen auf der Ihnen zugewiesenen Maschine.

Für welche Modelltests reichen 16 GB?

Beginnen Sie mit kleinen 4-Bit-quantisierten Modellen und prüfen Sie anschließend den verfügbaren Spielraum für Gewichte, Kontext-Cache und Parallelität. Für den dauerhaften Betrieb von 7B- bis 8B-Modellen empfiehlt sich das 24-GB-Modell; für größere oder mehrere parallele Modelle das 64-GB-Modell.

Welche Zahlungsmethoden werden unterstützt?

Wir akzeptieren USDT-TRC20 sowie Visa, Mastercard und Amex über Stripe. Alle Zahlungen werden in US-Dollar abgerechnet. Welche Gateways beim Bezahlvorgang verfügbar sind, zeigt die Konsole an.

Was sollte ich vor dem Ende der Mietzeit vorbereiten?

Sichern Sie Modellgewichte, Projektdateien, Zertifikate und alle Build-Artefakte, die Sie behalten möchten. Nach der Freigabe wird das gesamte Laufwerk gelöscht. Verwenden Sie die Dateien auf dem Knoten daher nicht als einzige Kopie.

Technische Artikel

Für alle, die mit einem Mac in der Cloud arbeiten

Alle Artikel ansehen

DevOps & CI/CD

Wählen Sie einen Mac mini und starten Sie noch heute Ihren Inferenzdienst

Starten Sie mit dem XOps 16 ab $19.4/Tag und wählen Sie das Modell passend zu Ihren Modellen und Build-Workloads. Prüfen Sie Mietdauer, Standort und Verfügbarkeit, bevor Sie bezahlen.

Jetzt mieten Modell auswählen