XOps 16
소형 양자화 모델 실험 · 단일 프로젝트 CI
M4 · 통합 메모리 16GB · SSD 256GB
Apple Silicon의 통합 메모리는 CPU와 GPU가 메모리를 공유합니다. 4비트 양자화 모델을 통째로 로드하고 mlx_lm.server로 OpenAI 호환 엔드포인트를 실행하면 바로 호출할 수 있습니다.
각 노드는 가상 머신이 아닌 실제 Mac mini입니다. 싱가포르·도쿄·서울·홍콩 중에서 선택하고 일 단위로 임대하세요. 주문 후 약 4분이면 SSH로 접속할 수 있습니다.
시작 사양 XOps 16 · M4 · 16GB · 256GB · 일 $19.4 · 월 $96.8
모델 가중치 로드4.52 / 4.52 GB · 100%
8B Instruct · 4비트 양자화 · safetensorsSSH 터널ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
엔드포인트POST 127.0.0.1:8080/v1/chat/completions
전용 물리 머신가상 머신이 아니며, 머신 전체를 한 명의 테넌트가 단독 사용합니다
아시아 태평양 4개 노드싱가포르 · 도쿄 · 서울 · 홍콩
USDT-TRC20 및 Visa · Mastercard · Amex카드 결제는 Stripe를 통해 처리되며, 결제 통화는 미국 달러입니다
주문부터 사용 가능까지 약 4분실제 진행 상황은 콘솔의 주문 내역을 확인하세요
mlx-lm은 양자화된 가중치를 읽어 Apple Silicon에서 추론을 실행합니다. mlx_lm.server로 OpenAI 호환 API를 시작하고, 서비스를 로컬 루프백 주소에서 수신하도록 설정한 뒤 SSH 터널로 호출할 팀원에게 연결하세요. 이렇게 하면 추론 포트를 인터넷에 직접 공개하지 않아도 됩니다.
모델 파일, 의존성 환경, 서비스 프로세스가 모두 같은 전용 물리 머신에 유지됩니다. 상시 실행 서비스는 launchd로 관리할 수 있습니다. 컨텍스트 길이나 동시 실행 수를 조정할 때는 모델 가중치, 캐시, 시스템 프로세스의 전체 메모리 사용량을 먼저 확인하세요. 통합 메모리를 전부 가중치 공간으로 계산해서는 안 됩니다.
pip install mlx-lm
mlx_lm.server --model ./models/8b-instruct-4bit --port 8080
ssh -N -L 8080:127.0.0.1:8080 xops@tyo-24
MLX 배포 가이드 보기
XOps 16 · 소형 양자화 모델 실험
XOps 24 · 7B~8B 모델 상시 실행
XOps Pro 64 · 대형 모델 또는 다중 모델 병렬 실행
프로젝트에 맞는 Xcode 버전을 설치하고 전환할 수 있으며, fastlane으로 서명·아카이브·배포를 처리할 수 있습니다. 머신을 GitHub Actions 또는 GitLab의 self-hosted runner로 등록하면 빌드 작업이 이 Mac mini에서 바로 실행됩니다. DerivedData와 의존성 캐시도 로컬에 보관할 수 있습니다.
인증서와 프로비저닝 프로파일을 직접 관리하는 키체인에 먼저 저장한 다음, 제어된 계정으로 runner를 실행하세요. 병렬 작업이 필요하다면 CPU, 통합 메모리, 디스크 여유 공간을 기준으로 동시 실행 수를 설정하세요. 단일 머신을 무한 확장 가능한 공유 큐처럼 사용해서는 안 됩니다.
싱가포르·도쿄·서울·홍콩에서 3가지 사양을 이용할 수 있습니다. 노드를 선택할 때는 팀의 주된 사용 위치와 모델 파일이 있는 곳을 고려하세요. 측정된 지연 시간은 참고용이며, 최종 연결 품질은 직접 사용하는 네트워크에서 확인하세요. 이용 가능 여부는 콘솔에 표시되는 실시간 정보를 기준으로 합니다.
아래 시간은 예상 제공 소요 시간이며, 모든 주문에 적용되는 확정 시간은 아닙니다. 결제가 확인되면 콘솔에서 할당 및 초기화 진행 상황을 확인할 수 있습니다. 실제 사용 가능 여부와 완료 시간은 콘솔의 실시간 정보를 기준으로 합니다.
사양, 임대 기간, 도시를 확인하고 사용 가능한 결제 게이트웨이로 미국 달러를 결제하세요.
선택한 사양의 물리 Mac mini 한 대를 주문에 할당합니다.
제공 전 점검을 마친 뒤 콘솔의 주문 상세 페이지에서 접속 정보를 확인할 수 있습니다.
먼저 SSH 연결을 확인하세요. 그래픽 인터페이스가 필요하면 SSH 터널을 통해 VNC를 사용하세요.
모든 가격은 미국 달러 기준입니다. 아래에 일간 및 월간 요금을 안내합니다. 주간·분기 요금과 추가 저장 공간 요금은 전체 요금 페이지에서 확인하세요. 모든 사양은 싱가포르·도쿄·서울·홍콩에서 선택할 수 있으며, 실제 이용 가능 여부는 콘솔의 실시간 정보를 기준으로 합니다.
소형 양자화 모델 실험 · 단일 프로젝트 CI
M4 · 통합 메모리 16GB · SSD 256GB
7B~8B 양자화 모델 상시 실행 · 팀 CI
M4 · 통합 메모리 24GB · SSD 512GB
대형 모델 또는 다중 모델 병렬 실행 · 고부하 빌드
M4 Pro · 통합 메모리 64GB · SSD 2TB
머신 전체의 CPU, GPU, 통합 메모리를 한 명의 테넌트가 단독 사용합니다. 추론과 빌드 작업이 같은 머신을 쓰는 다른 사용자와 리소스를 두고 경쟁하지 않습니다. 실제 성능은 모델, 프로젝트, 동시 실행 설정에 따라 달라집니다.
단기 테스트는 일 단위로, 릴리스 작업은 주 단위로, 상시 작업은 월간 및 분기 요금으로 비교해 보세요. 기간을 선택하기 전에 실제 사용 시간, 모델 동기화 비용, 작업 종료 시점을 함께 고려하세요.
코드 작성과 서비스 관리는 SSH로, Xcode 그래픽 인터페이스는 VNC 원격 데스크톱으로 이용하세요. 그래픽 세션은 SSH 터널을 통해 연결하는 것이 좋으며, 본격적으로 사용하기 전에 로컬 네트워크의 입력 지연을 확인하세요.
아래는 대표적인 작업 사례입니다. 어떤 워크로드에 전용 Mac이 필요한지 판단하는 데 참고하세요.
“8B 양자화 모델을 도쿄 노드에 올리고, 팀은 SSH 터널로 API를 호출합니다. 추론 작업 때문에 일상 업무용 노트북을 사용할 필요가 없습니다.”
“고정된 Mac mini에서 CI를 실행하고 의존성과 빌드 캐시를 로컬에 보관하세요. 코드를 커밋하면 내 빌드 큐에서 바로 작업이 시작됩니다.”
“릴리스 작업을 위해 일주일 동안 환경을 준비하고, 한 머신에서 아카이브·서명·검증을 마치세요. 작업이 끝나기 전에 보관할 산출물을 내보내세요.”
임대 한 건당 물리 Mac mini 한 대가 배정됩니다. 다른 테넌트와 리소스를 공유하는 가상 머신이 아닙니다. 모델 가중치, 빌드 캐시, 작업은 모두 할당된 머신에서 실행됩니다.
소형 4비트 양자화 모델부터 시작한 뒤 가중치, 컨텍스트 캐시, 동시 실행에 사용되는 메모리를 확인하세요. 7B~8B 모델을 상시 실행하려면 24GB 사양을, 더 큰 모델이나 여러 모델의 병렬 실행에는 64GB 사양을 고려하세요.
USDT-TRC20과 Stripe를 통한 Visa, Mastercard, Amex를 지원합니다. 모든 결제는 미국 달러로 처리됩니다. 결제 시 실제 이용 가능한 게이트웨이는 콘솔에서 확인하세요.
모델 가중치, 프로젝트 파일, 인증서 백업, 보관할 빌드 산출물을 먼저 동기화하세요. 머신을 반납하면 전체 디스크가 삭제되므로 노드에 있는 파일을 유일한 사본으로 보관하지 마세요.
조합 중인 텍스트와 확정된 텍스트를 구분해 입력 과정의 잘못된 오류 표시를 방지합니다.
AIDevelopmentImageIO가 썸네일을 만들 때 최대 변 길이를 제한하고 고정 이미지로 결과를 검증합니다. 픽셀 크기 검사가 메모리 측정을 대신하지는 않습니다.
CI/CD세로 화면에서 입력하고 가로 화면에서 저장한 뒤 다시 돌아오는 UI 테스트로 상태 손실과 버튼 가림을 찾아냅니다.
새 글을 준비 중입니다. 먼저블로그 목록을 확인하세요.