GPU サーバーのレンタル、NVIDIA L4 と RTX PRO 6000

GPU サーバーは月額請求です。L4 サーバーは月 $241.19 で、サーバー作成時に支払い、毎月同じ金額で更新されます。時間あたり $0.3304 は他のサービスと簡単に比較できるように表示されています。

NVIDIA L4 1基のサーバーは1か月約 $241.19、L4 2基のサーバーは約 $482.38、RTX PRO 6000 のサーバーは $671.44 で使えます。この金額に GPU と vCPU、メモリ、NVMe ディスク、月間転送量、専用 IPv4 と IPv6 がすべて含まれているので、別途加算されるスペック料金はありません。

L4 2基は 24GB の GPU 2基を1台のサーバーで使う構成で、RTX PRO 6000 は 96GB のメモリを持つ GPU 1基です。2つのモデルを分けてサービスしたり、作業を2基に分けて回したりするなら L4 2基が、1基の GPU メモリに大きなモデルをまるごと載せる必要があるなら RTX PRO 6000 が適しています。

GPU サーバーを注文するときに支払い方法を選択し、月額料金を支払います。初月の支払いが完了するとサーバーが作成され、各更新日に同じ金額を支払って更新できます。返金はアカウントクレジットに戻ります。

更新日に支払いがないと、サーバーは停止します。3日以内に支払えば再開できます。3日を過ぎても支払いがない場合、サーバーとディスクデータは削除されるので、学習結果やモデルファイルは事前にバックアップしてください。次の更新日はコントロールパネルで確認できます。

Ubuntu 24.04 と CUDA をベースに、Docker、Python、PyTorch、Ollama、Jupyter などの AI ツールを使う環境を基準にご案内しています。root 権限があるので、好きなバージョンのライブラリを追加でインストールしたり、すでに作成済みの Docker イメージをそのまま取得して実行したりすることもできます。

カードに記載された GPU の枚数がそのまま自分のサーバーに搭載され、GPU メモリ全体を自分の作業に使えます。L4 2基のサーバーなら2基とも自分のサーバーの GPU で、どの作業をどの GPU に任せるかも自分で決められます。サーバー内の CPU、メモリ、NVMe ディスクもカードに記載された分だけ自分のサーバーに割り当てられ、ほかの人の作業と混ざることはありません。

モデルの重みや計算途中の値は GPU メモリに載るため、GPU メモリの大きさが扱える作業の規模を決めます。同じモデルでも精度、バッチサイズ、同時リクエスト数によって必要なメモリが変わるので、自分の設定で必要量を計算してから 24GB、48GB、96GB の中から選んでください。

各 GPU サーバーには 250GB、500GB、900GB の NVMe ディスクが含まれているので、モデルファイルや作業データをサーバー内に置けます。長期保管するデータセットや成果物はオブジェクトストレージに分けて置けば、GPU サーバーのディスクはいま使うファイルだけに使えて管理が楽になります。容量に余裕を持たせたい場合は、より大きなディスクを備えた上位構成を選んでください。

購入ボタンをクリックし、アカウントを作成して GPU サーバーの種類とリージョンを選択し、支払い方法を選んで注文します。スペックや環境の選択に関する質問は、最初の支払い後にサポートページですぐに問い合わせできます。