XOps 16
小規模な量子化モデルの検証 · 単一プロジェクトのCI
M4 · 16GBユニファイドメモリ · 256GB SSD
Apple SiliconではCPUとGPUがユニファイドメモリを共有するため、4-bit量子化モデルをそのまま読み込めます。mlx_lm.serverを起動すれば、OpenAI互換のエンドポイントから利用できます。
各拠点に実機のMac miniを用意。仮想マシンではありません。シンガポール、東京、ソウル、香港から選べ、日単位でレンタル可能。注文後、約4分でSSH接続できます。
エントリーモデル XOps 16 · M4 · 16GB · 256GB · $19.4/日 · $96.8/月
モデルの重みを読み込み中4.52 / 4.52 GB · 100%
8B Instruct · 4-bit量子化 · safetensorsSSHトンネルssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
エンドポイントPOST 127.0.0.1:8080/v1/chat/completions
専有の物理マシン仮想マシンではなく、1台を1ユーザー専用で利用
アジア太平洋の4拠点シンガポール · 東京 · ソウル · 香港
USDT-TRC20、Visa · Mastercard · Amexに対応カード決済はStripe経由、米ドルで請求
注文から利用開始まで約4分実際の進捗はコンソールの注文画面でご確認ください
mlx-lmで量子化モデルを読み込み、Apple Silicon上で推論を実行できます。mlx_lm.serverでOpenAI互換APIを起動し、まずローカルループバックで待ち受けます。SSHトンネル経由で、必要なチームメンバーに接続を共有できます。推論ポートをインターネットに直接公開する必要はありません。
モデルファイル、依存環境、サービスプロセスはすべて同じ専有物理マシン上に置かれます。常駐サービスはlaunchdで管理できます。コンテキスト長や同時実行数を調整する際は、モデルの重み、キャッシュ、システムプロセスの合計使用量を確認してください。ユニファイドメモリ全容量をモデルの重みに割り当てられるわけではありません。
pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
MLX導入ガイドを読む
XOps 16 · 小規模な量子化モデルの検証
XOps 24 · 7B〜8Bモデルの常駐運用
XOps Pro 64 · 大型モデルや複数モデルの並行運用
プロジェクトに合わせてXcodeのバージョンをインストール・切り替えでき、fastlaneで署名、アーカイブ、配布を自動化できます。GitHub ActionsまたはGitLabのself-hosted runnerとして登録すれば、ビルドジョブをこのMac miniで直接実行できます。DerivedDataや依存関係のキャッシュもローカルに保持できます。
証明書とプロビジョニングプロファイルを管理対象のキーチェーンに登録し、runnerは権限を制限したアカウントで実行します。並列ジョブを使う場合は、CPU、ユニファイドメモリ、ディスクの空き容量に応じて同時実行数を設定してください。1台のマシンを無制限に拡張できる共有キューのように扱うことはできません。
シンガポール、東京、ソウル、香港の各拠点で、3つの構成から選べます。拠点を選ぶ際は、チームの主な利用場所とモデルファイルの保存先を考慮してください。実測レイテンシは参考値としてご確認のうえ、実際の接続環境で測定することをおすすめします。空き状況はコンソールに表示されます。
以下は利用開始までの目安時間であり、すべての注文に対する所要時間の保証ではありません。支払い確認後、コンソールで割り当てと初期化の進捗を確認できます。利用可能になる時刻はコンソールの最新表示をご確認ください。
構成、レンタル期間、拠点を確認し、利用可能な決済ゲートウェイで米ドル決済します。
選択した構成の物理Mac miniを1台、この注文に割り当てます。
デリバリーチェック完了後、コンソールの注文詳細に接続情報が表示されます。
まずSSH接続を確認します。GUIが必要な場合は、SSHトンネル経由でVNCをご利用ください。
料金はすべて米ドル表示です。日額と月額を掲載しています。週額、四半期料金、ストレージの追加料金はプラン一覧でご確認ください。すべての構成でシンガポール、東京、ソウル、香港を選べます。空き状況はコンソールの最新表示をご確認ください。
小規模な量子化モデルの検証 · 単一プロジェクトのCI
M4 · 16GBユニファイドメモリ · 256GB SSD
7B〜8B量子化モデルの常駐運用 · チームCI
M4 · 24GBユニファイドメモリ · 512GB SSD
大型モデルや複数モデルの並行運用 · 高負荷ビルド
M4 Pro · 64GBユニファイドメモリ · 2TB SSD
CPU、GPU、ユニファイドメモリを1ユーザー専用で利用できます。推論やビルドのリソースを同じマシンのほかのユーザーと取り合うことはありません。実際のパフォーマンスは、モデル、プロジェクト、同時実行の設定によって異なります。
短期の検証には日単位、リリース前の集中作業には週単位、常時稼働のタスクには月額や四半期料金が便利です。期間を選ぶ際は、実際の稼働時間、モデルの同期にかかる時間、タスクの終了時期も考慮してください。
コード作成やサービス管理にはSSH、XcodeのGUIが必要な場合はVNCリモートデスクトップをご利用ください。GUIセッションはSSHトンネル経由で接続し、本格運用の前にお使いのネットワークで入力遅延を確認することをおすすめします。
専有Macをどのワークロードに使うか検討する際の参考として、代表的な利用シーンをご紹介します。
「8B量子化モデルを東京の拠点に置き、チームはSSHトンネル経由でAPIを利用。推論処理を普段使いのノートPCで実行する必要はありません。」
「固定のMac miniでCIを実行し、依存関係とビルドキャッシュをローカルに保存。コードをプッシュしたら、自分専用のビルドキューで処理します。」
「リリース準備のために1週間環境を確保し、同じマシンでアーカイブ、署名、チェックを実施。作業終了前に必要な成果物をエクスポートします。」
レンタル1件につき物理Mac miniを1台ご利用いただけます。他のユーザーとリソースを共有する仮想マシンではありません。モデルの重み、ビルドキャッシュ、各種タスクは割り当てられたマシン上で動作します。
小規模な4-bit量子化モデルから始め、モデルの重み、コンテキストキャッシュ、同時実行による使用量を確認してください。7B〜8Bモデルの常駐運用には24GB構成、より大きなモデルや複数モデルの並行運用には64GB構成をご検討ください。
USDT-TRC20と、Stripe経由のVisa、Mastercard、Amexをご利用いただけます。決済はすべて米ドルです。お支払い時に利用可能な決済ゲートウェイはコンソールでご確認ください。
モデルの重み、プロジェクトファイル、証明書のバックアップ、保存が必要なビルド成果物を事前に同期してください。マシン解放後はディスク全体が消去されます。ノード上のファイルを唯一の保存先にしないでください。
変換中と確定後を分けて検証し、日本語入力で起きるフォームの誤判定を防ぐ手順。
AIDevelopmentImageIO で出力の最大辺を制限し、固定画像を使って XCTest で検証します。寸法テストだけではメモリ使用量を証明できない点も整理します。
CI/CD縦画面で入力し、横画面で保存して縦画面に戻す UI テストで、状態消失と操作不能を検出します。
記事を準備中です。まずはブログ一覧をご覧ください。