Alquiler de servidores GPU: NVIDIA L4 y RTX PRO 6000

Los servidores GPU se facturan mensualmente. El servidor L4 cuesta $241.19 al mes, pagado cuando creas el servidor y renovado por el mismo importe cada mes. El precio por hora $0.3304 se muestra para facilitar la comparación con otros servicios.

El servidor con una NVIDIA L4 cuesta unos $241.19 al mes, el de dos L4 unos $482.38 y el de RTX PRO 6000 $671.44. Este importe incluye GPU, vCPU, memoria, disco NVMe, transferencia mensual e IPv4 dedicada e IPv6, así que no hay recargos por configuración.

Dos L4 es una configuración con dos GPU de 24GB en un servidor, y la RTX PRO 6000 es una GPU con 96GB de memoria. Para servir dos modelos repartidos o dividir el trabajo en dos tarjetas, encajan las dos L4; para cargar entero un modelo grande en la memoria de una sola GPU, la RTX PRO 6000.

Al solicitar un servidor GPU, elige un método de pago y paga la tarifa mensual. El servidor se crea una vez pagado el primer mes, y puedes renovarlo pagando el mismo importe en cada fecha de renovación. Los reembolsos se acreditan en tu saldo.

Si no pagas en la fecha de renovación, el servidor se suspende. Puedes renovarlo dentro de los 3 días para reiniciarlo. Después de 3 días, el servidor y sus datos en disco se eliminan, así que haz copias de seguridad de los resultados de entrenamiento y archivos de modelos con anticipación. Puedes verificar tu próxima fecha de renovación en el panel de control.

Las guías parten de un entorno con Ubuntu 24.04 y CUDA donde se usan herramientas de IA como Docker, Python, PyTorch, Ollama y Jupyter. Tienes acceso root, así que puedes instalar más bibliotecas en la versión que quieras o descargar y ejecutar tal cual imágenes Docker que ya tengas preparadas.

El número de GPU indicado en la tarjeta va tal cual en tu servidor, y usas toda la memoria de GPU para tu trabajo. En un servidor con dos L4, ambas tarjetas son GPU de tu servidor, y decides tú qué tarea va a cada GPU. La CPU, la memoria y el disco NVMe del servidor también se asignan a tu servidor tal como indica la tarjeta y no se mezclan con trabajos de otros.

Los pesos del modelo y los valores intermedios del cálculo se cargan en la memoria de GPU, así que su tamaño determina la escala de trabajo que puedes manejar. Incluso con el mismo modelo, la memoria necesaria cambia según la precisión, el tamaño del lote y las peticiones simultáneas, así que calcula lo que necesitas con tu configuración y elige entre 24GB, 48GB y 96GB.

Cada servidor GPU incluye un disco NVMe de 250GB, 500GB o 900GB, así que tienes los archivos de modelos y los datos de trabajo dentro del servidor. Si guardas aparte en almacenamiento de objetos los conjuntos de datos y resultados que vas a conservar mucho tiempo, el disco del servidor GPU queda solo para los archivos en uso y la gestión es más cómoda. Si quieres más espacio, elige una configuración superior con un disco mayor.

Haz clic en el botón Comprar, crea una cuenta, elige el tipo de servidor GPU y la región, selecciona un método de pago y realiza el pedido. Para preguntas sobre la elección de especificaciones o tu entorno, pregunta de inmediato en la página de soporte después de tu primer pago.