GPU 服务器租用，NVIDIA L4 与 RTX PRO 6000

GPU 服务器按月计费。L4 服务器每月费用为 $241.19，创建服务器时支付，每月续费金额相同。每小时 $0.3304 的价格显示出来是为了方便与其他服务进行比较。

NVIDIA L4 单卡服务器每月约 $241.19，L4 双卡服务器约 $482.38，RTX PRO 6000 服务器为 $671.44。该金额已包含 GPU、vCPU、内存、NVMe 磁盘、每月流量、独立 IPv4 和 IPv6，没有另外加收的配置费用。

L4 双卡是在一台服务器上使用两块 24GB GPU 的配置，RTX PRO 6000 是一块拥有 96GB 显存的 GPU。分开部署两个模型提供服务，或把工作分到两块卡上运行，适合 L4 双卡；需要把大模型整个放进单卡显存，适合 RTX PRO 6000。

订购 GPU 服务器时，选择支付方式并支付月费。首月费用支付后，服务器即被创建，您可以在每个续费日期支付相同金额来续费。退款将退至您的账户余额。

如果您在续费日期未支付费用，服务器将被暂停。您可以在 3 天内续费以重新启动服务器。3 天后，服务器及其磁盘数据将被删除，因此请提前备份训练结果和模型文件。您可以在控制面板中查看下一个续费日期。

以基于 Ubuntu 24.04 和 CUDA、使用 Docker、Python、PyTorch、Ollama、Jupyter 等 AI 工具的环境为准提供说明。拥有 root 权限，可以额外安装所需版本的库，也可以直接拉取已构建好的 Docker 镜像运行。

卡片上标明的 GPU 数量原样配到您的服务器上，全部 GPU 显存都用于您的工作。L4 双卡服务器的两块都是您服务器的 GPU，哪项工作交给哪块 GPU 也由您决定。服务器内的 CPU、内存、NVMe 磁盘也按卡片所标分配给您的服务器，不会与他人的工作混在一起。

模型权重和计算中间值都放在 GPU 显存中，因此 GPU 显存大小决定了能处理的工作规模。即使是同一个模型，所需显存也会因精度、批大小、并发请求数而不同，请按自己的设置算出需求，再在 24GB、48GB、96GB 中选择。

每台 GPU 服务器都配有 250GB、500GB 或 900GB 的 NVMe 磁盘，模型文件和工作数据可以放在服务器上。需要长期保存的数据集和成果另外放到对象存储，GPU 服务器磁盘只放当前使用的文件，管理更轻松。想留足容量，请选择配备更大磁盘的高配方案。

点击购买按钮，创建账户，选择 GPU 服务器类型和区域，选择支付方式并下单。关于选择规格或使用环境的问题，请在首次支付后立即在支持页面上咨询。