租用 GPU 伺服器：NVIDIA L4 與 RTX PRO 6000

GPU 伺服器按月計費。L4 伺服器每月費用為 $241.19，在創建伺服器時支付，並每月以相同金額續期。每小時 $0.3304 的價格顯示以便與其他服務輕鬆比較。

一張 NVIDIA L4 的伺服器每月約 $241.19，兩張 L4 伺服器約 $482.38，RTX PRO 6000 伺服器 $671.44。此金額已包括 GPU、vCPU、記憶體、NVMe 硬碟、每月流量、專用 IPv4 及 IPv6，沒有另外加收的規格費用。

2 張 L4 是在一部伺服器使用兩張 24GB GPU 的配置，RTX PRO 6000 則是一張配備 96GB 記憶體的 GPU。要把兩個模型分開提供服務或把工作分給兩張 GPU，適合 2 張 L4；要把大型模型整個載入一張 GPU 的記憶體，則適合 RTX PRO 6000。

訂購 GPU 伺服器時，選擇付款方式並支付月費。首月付款後，伺服器即被創建，您可以在每個續期日支付相同金額來續期。退款將退還至您的帳戶信用額。

如果您未在續期日付款，伺服器將被暫停。您可以在 3 天內續期以重新啟動它。3 天後，伺服器及其磁盤數據將被刪除，因此請提前備份訓練結果和模型文件。您可以在控制面板中查看下一個續期日。

我們以 Ubuntu 24.04 及 CUDA 為基礎，按使用 Docker、Python、PyTorch、Ollama、Jupyter 等 AI 工具的環境提供指引。你有 root 權限，可加裝想要版本的程式庫，或直接下載並運行已準備好的 Docker 映像。

卡片列明的 GPU 張數原樣配到你的伺服器，整個 GPU 記憶體都用於你的工作。2 張 L4 伺服器的兩張都是你伺服器的 GPU，哪個工作交給哪張 GPU 亦由你決定。伺服器內的 CPU、記憶體及 NVMe 硬碟亦按卡片列明分配給你的伺服器，不會與他人的工作混雜。

模型權重及運算中間值都載入 GPU 記憶體，因此 GPU 記憶體大小決定可處理的工作規模。即使同一模型，所需記憶體亦隨精度、批次大小及同時請求數而不同，請按你的設定計算需求，再從 24GB、48GB、96GB 中選擇。

每部 GPU 伺服器都附 250GB、500GB 或 900GB NVMe 硬碟，可把模型檔案及工作資料放在伺服器內。長期保存的資料集及成果另放在物件儲存，GPU 伺服器硬碟只用於目前使用的檔案，管理更方便。如想預留充裕容量，請選擇配備更大硬碟的上級配置。

點擊購買按鈕，創建帳戶，選擇 GPU 伺服器類型和地區，選擇付款方式並下單。有關選擇規格或環境的問題，請在首次付款後立即在支持頁面上詢問。