GPU 서버 임대, NVIDIA L4와 RTX PRO 6000

GPU 서버는 월 요금으로 결제해요. L4 서버는 월 $241.19이며, 서버를 만들 때 이 금액을 지불하고 매달 같은 금액으로 갱신할 수 있어요. 시간당 $0.3304는 다른 서비스와 비교하기 쉽게 보여 드리는 참고용 가격이에요.

NVIDIA L4 한 장 서버는 한 달 약 $241.19, L4 두 장 서버는 약 $482.38, RTX PRO 6000 서버는 $671.44에 써요. 이 금액 안에 GPU와 vCPU, 메모리, NVMe 디스크, 월 전송량, 전용 IPv4와 IPv6가 모두 들어 있어 따로 더해지는 사양 요금이 없어요.

L4 2장은 24GB GPU 두 장을 한 서버에서 쓰는 구성이고, RTX PRO 6000은 96GB 메모리를 가진 GPU 한 장이에요. 모델 두 개를 나눠 서비스하거나 작업을 두 장에 나눠 돌린다면 L4 2장이, 한 장의 GPU 메모리에 큰 모델을 통째로 올려야 한다면 RTX PRO 6000이 알맞아요.

GPU 서버를 주문할 때 결제 방법을 선택하고 월 요금을 지불해요. 첫 달 요금이 결제되면 서버가 만들어지고, 갱신일마다 같은 금액을 지불하여 연장할 수 있어요. 환불이 필요한 경우 계정 크레딧으로 돌려드려요.

갱신일까지 요금을 지불하지 않으면 서버가 정지되고, 3일 안에 갱신하면 다시 시작할 수 있어요. 3일이 지나도 갱신하지 않으면 서버와 디스크의 데이터가 삭제되므로, 학습 결과와 모델 파일은 미리 백업해 두세요. 제어판에서 다음 갱신일을 확인할 수 있어요.

Ubuntu 24.04와 CUDA를 바탕으로 Docker, Python, PyTorch, Ollama, Jupyter 같은 AI 도구를 쓰는 환경을 기준으로 안내해요. root 권한이 있으므로 원하는 버전의 라이브러리를 더 설치하거나, 이미 만들어 둔 Docker 이미지를 그대로 받아 실행하는 방식도 쓸 수 있어요.

카드에 적힌 GPU 장수가 그대로 내 서버에 붙어서 GPU 메모리 전체를 내 작업에 써요. L4 2장 서버라면 두 장 모두 내 서버의 GPU이고, 어떤 작업을 어느 GPU에 맡길지도 직접 정할 수 있어요. 서버 안의 CPU, 메모리, NVMe 디스크도 카드에 적힌 만큼 내 서버에 배정되어 다른 사람의 작업과 섞이지 않아요.

모델의 가중치와 계산 중간값이 GPU 메모리에 올라가기 때문에 GPU 메모리 크기가 다룰 수 있는 작업 규모를 정해요. 같은 모델이라도 정밀도, 배치 크기, 동시 요청 수에 따라 필요한 메모리가 달라지므로 내 설정으로 필요량을 계산한 뒤 24GB, 48GB, 96GB 중에서 고르세요.

각 GPU 서버에는 250GB, 500GB, 900GB NVMe 디스크가 들어 있어 모델 파일과 작업 데이터를 서버 안에 둘 수 있어요. 오래 보관할 데이터셋과 결과물은 오브젝트 스토리지에 따로 두면 GPU 서버 디스크는 지금 쓰는 파일에만 쓸 수 있어 관리가 편해요. 용량을 넉넉히 두고 싶다면 더 큰 디스크가 들어 있는 상위 구성을 고르세요.

구매하기 버튼을 눌러 계정을 만들고, GPU 서버 종류와 지역을 고른 뒤 결제 방법을 선택해 주문해요. 사양 선택이나 사용 환경에 대해 궁금한 점은 첫 결제 후 고객센터 페이지에서 바로 물어볼 수 있어요.