GPU server rental, NVIDIA L4 at RTX PRO 6000

Ang GPU server ay binabayaran buwanan. Ang L4 server ay nagkakahalaga ng $241.19 kada buwan, binabayaran kapag ginawa mo ang server at nire-renew sa parehong halaga kada buwan. Ang hourly na $0.3304 ay ipinapakita para sa madaling paghahambing sa ibang serbisyo.

Ang server na may isang NVIDIA L4 ay mga $241.19 kada buwan, ang server na may dalawang L4 ay mga $482.38, at ang RTX PRO 6000 server ay $671.44. Kasama na sa halagang ito ang GPU, vCPU, memory, NVMe disk, buwanang transfer, dedicated IPv4 at IPv6, kaya walang hiwalay na idinadagdag na bayad sa spec.

Ang 2 L4 ay configuration na gumagamit ng dalawang 24GB GPU sa iisang server, at ang RTX PRO 6000 ay isang GPU na may 96GB memory. Kung maghahati ka ng serbisyo sa dalawang model o magpapatakbo ng trabaho na hinati sa dalawa, bagay ang 2 L4, at kung kailangang ilagay nang buo ang malaking model sa GPU memory ng iisang GPU, bagay ang RTX PRO 6000.

Kapag nag-order ng GPU server, pumili ng paraan ng pagbabayad at bayaran ang buwanang bayad. Ang server ay gagawin kapag nabayaran na ang unang buwan, at maaari mo itong i-renew sa pamamagitan ng pagbabayad ng parehong halaga sa bawat renewal date. Ang mga refund ay ibinibigay sa iyong account credit.

Kung hindi ka magbabayad sa renewal date, ang server ay sususpindihin. Maaari mo itong i-renew sa loob ng 3 araw para ma-restart. Pagkatapos ng 3 araw, ang server at ang disk data nito ay tatanggalin, kaya mag-back up ng mga resulta ng training at model file nang maaga. Maaari mong tingnan ang iyong susunod na renewal date sa control panel.

Ginagabayan namin batay sa environment na gumagamit ng mga AI tool tulad ng Docker, Python, PyTorch, Ollama at Jupyter sa ibabaw ng Ubuntu 24.04 at CUDA. May root access ka kaya puwede kang mag-install ng dagdag na library sa gustong version, o direktang kunin at patakbuhin ang Docker image na nagawa mo na.

Ang bilang ng GPU na nakasulat sa card ay eksaktong nakakabit sa server mo kaya ang buong GPU memory ay para sa trabaho mo. Sa 2 L4 server, parehong GPU ay sa server mo, at ikaw rin ang magtatakda kung aling trabaho ang ibibigay sa aling GPU. Ang CPU, memory at NVMe disk sa loob ng server ay nakatalaga rin sa server mo ayon sa nakasulat sa card at hindi nahahalo sa trabaho ng iba.

Inilalagay sa GPU memory ang weights ng model at intermediate value ng kalkulasyon, kaya ang laki ng GPU memory ang nagtatakda ng laki ng kayang hawakang trabaho. Kahit parehong model, iba ang kailangang memory depende sa precision, batch size at bilang ng sabay na request, kaya kalkulahin ang kailangan gamit ang sarili mong settings at pumili mula sa 24GB, 48GB at 96GB.

May 250GB, 500GB o 900GB NVMe disk ang bawat GPU server kaya maitatabi sa loob ng server ang model file at working data. Kapag inilagay nang hiwalay sa object storage ang dataset at resultang matagal itatabi, magagamit ang disk ng GPU server para lang sa file na ginagamit ngayon kaya maginhawa ang pamamahala. Kung gusto mo ng maluwag na kapasidad, pumili ng mas mataas na configuration na may mas malaking disk.

Pindutin ang Buy button, gumawa ng account, piliin ang uri ng GPU server at rehiyon, pumili ng paraan ng pagbabayad at mag-order. Para sa mga tanong tungkol sa pagpili ng specs o iyong environment, magtanong kaagad sa support page pagkatapos ng iyong unang bayad.