GPU 伺服器租用，NVIDIA L4 與 RTX PRO 6000

GPU 伺服器按月計費。L4 伺服器每月費用為 $241.19，在創建伺服器時支付，並每月以相同金額續費。每小時 $0.3304 的價格顯示出來，方便與其他服務進行比較。

NVIDIA L4 單卡伺服器每月約 $241.19，L4 雙卡伺服器約 $482.38，RTX PRO 6000 伺服器為 $671.44。該金額已包含 GPU、vCPU、記憶體、NVMe 磁碟、每月流量、獨立 IPv4 和 IPv6，沒有另外加收的配置費用。

L4 雙卡是在一台伺服器上使用兩塊 24GB GPU 的配置，RTX PRO 6000 是一塊擁有 96GB 視訊記憶體的 GPU。分開部署兩個模型提供服務，或把工作分到兩塊卡上執行，適合 L4 雙卡；需要把大模型整個放進單卡視訊記憶體，適合 RTX PRO 6000。

訂購 GPU 伺服器時，選擇付款方式並支付月費。首月付款後，伺服器將被創建，您可以在每個續費日支付相同金額來續費。退款將退還至您的帳戶餘額。

如果您未在續費日付款，伺服器將被暫停。您可以在 3 天內續費以重新啟動它。3 天後，伺服器及其磁碟數據將被刪除，因此請提前備份訓練結果和模型文件。您可以在控制面板中查看下一個續費日。

以基於 Ubuntu 24.04 和 CUDA、使用 Docker、Python、PyTorch、Ollama、Jupyter 等 AI 工具的環境為準提供說明。擁有 root 許可權，可以額外安裝所需版本的庫，也可以直接拉取已構建好的 Docker 映像檔執行。

卡片上標明的 GPU 數量原樣配到您的伺服器上，全部 GPU 視訊記憶體都用於您的工作。L4 雙卡伺服器的兩塊都是您伺服器的 GPU，哪項工作交給哪塊 GPU 也由您決定。伺服器內的 CPU、記憶體、NVMe 磁碟也按卡片所標分配給您的伺服器，不會與他人的工作混在一起。

模型權重和計算中間值都放在 GPU 視訊記憶體中，因此 GPU 視訊記憶體大小決定了能處理的工作規模。即使是同一個模型，所需視訊記憶體也會因精度、批大小、併發請求數而不同，請按自己的設定算出需求，再在 24GB、48GB、96GB 中選擇。

每台 GPU 伺服器都配有 250GB、500GB 或 900GB 的 NVMe 磁碟，模型檔案和工作資料可以放在伺服器上。需要長期儲存的資料集和成果另外放到物件儲存，GPU 伺服器磁碟只放目前使用的檔案，管理更輕鬆。想留足容量，請選擇配備更大磁碟的高配方案。

點擊購買按鈕，創建帳戶，選擇 GPU 伺服器類型和地區，選擇付款方式並下單。有關規格選擇或使用環境的問題，請在首次付款後立即在支援頁面上詢問。