Aluguel de servidores GPU: NVIDIA L4 e RTX PRO 6000

Os servidores GPU são cobrados mensalmente. O servidor L4 custa $241.19 por mês, pago ao criar o servidor e renovado pelo mesmo valor a cada mês. O valor por hora $0.3304 é exibido para facilitar a comparação com outros serviços.

O servidor com uma NVIDIA L4 custa cerca de $241.19 por mês, o de duas L4 cerca de $482.38 e o com RTX PRO 6000 $671.44. Esse valor inclui GPU, vCPU, memória, disco NVMe, transferência mensal e IPv4 dedicado e IPv6, sem cobranças extras por configuração.

O 2x L4 usa duas GPUs de 24GB no mesmo servidor, e a RTX PRO 6000 é uma única GPU com 96GB de memória. Para servir dois modelos separados ou dividir o trabalho em duas GPUs, o ideal é o 2x L4; para carregar um modelo grande inteiro na memória de uma só GPU, a RTX PRO 6000.

Ao pedir um servidor GPU, escolha um método de pagamento e pague a mensalidade. O servidor é criado após o pagamento do primeiro mês e pode ser renovado pagando o mesmo valor em cada data de renovação. Reembolsos são creditados na sua conta.

Se você não pagar até a data de renovação, o servidor será suspenso. Você pode renová-lo em até 3 dias para reiniciá-lo. Após 3 dias, o servidor e os dados do disco são excluídos, então faça backup dos resultados de treinamento e arquivos de modelos com antecedência. A próxima data de renovação pode ser verificada no painel de controle.

Nossos guias tomam como base um ambiente com Ubuntu 24.04 e CUDA e ferramentas de IA como Docker, Python, PyTorch, Ollama e Jupyter. Com acesso root, você pode instalar outras versões de bibliotecas ou baixar e rodar tal como estão as imagens Docker que já preparou.

A quantidade de GPUs do cartão vem tal como está no seu servidor, e toda a memória de GPU fica para o seu trabalho. No servidor 2x L4, as duas GPUs são do seu servidor, e você decide que tarefa vai para cada GPU. CPU, memória e disco NVMe também são atribuídos ao seu servidor na quantidade do cartão, sem se misturar com o trabalho de outros.

Os pesos do modelo e os valores intermediários do cálculo ficam na memória de GPU, então o tamanho dela define o porte das tarefas que você consegue fazer. Mesmo com o mesmo modelo, a memória necessária muda com a precisão, o tamanho do lote e o número de requisições simultâneas, então calcule a necessidade com sua configuração e escolha entre 24GB, 48GB e 96GB.

Cada servidor GPU inclui disco NVMe de 250GB, 500GB ou 900GB, para guardar no servidor arquivos de modelos e dados de trabalho. Guardando conjuntos de dados e resultados de longo prazo no armazenamento de objetos, o disco do servidor GPU fica só para os arquivos em uso e a gestão fica mais fácil. Se quer espaço de sobra, escolha uma configuração superior com disco maior.

Clique no botão Comprar, crie uma conta, escolha o tipo de servidor GPU e a região, selecione um método de pagamento e faça o pedido. Para dúvidas sobre especificações ou ambiente, pergunte diretamente na página de suporte após o primeiro pagamento.