GPU sunucu kiralama: NVIDIA L4 ve RTX PRO 6000

GPU sunucular aylık olarak faturalandırılır. L4 sunucu aylık $241.19 tutarındadır, sunucuyu oluştururken ödenir ve her ay aynı tutarla yenilenir. Saatlik $0.3304 ücreti diğer hizmetlerle kolayca karşılaştırabilmeniz için gösterilir.

Tek NVIDIA L4'lü sunucu aylık yaklaşık $241.19, iki L4'lü sunucu yaklaşık $482.38, RTX PRO 6000 sunucu ise $671.44 tutarındadır. Bu tutara GPU, vCPU, bellek, NVMe disk, aylık trafik, özel IPv4 ve IPv6'nın hepsi dahildir; ayrıca eklenen bir özellik ücreti yoktur.

İki L4, tek sunucuda 24 GB'lık iki GPU'nun kullanıldığı bir yapıdır; RTX PRO 6000 ise 96 GB belleğe sahip tek bir GPU'dur. İki modeli ayırarak hizmet verecek veya işi iki GPU'ya bölecekseniz iki L4, büyük bir modeli tek GPU'nun belleğine bütünüyle yüklemeniz gerekiyorsa RTX PRO 6000 uygundur.

GPU sunucu siparişi verirken bir ödeme yöntemi seçin ve aylık ücreti ödeyin. İlk ay ödendikten sonra sunucu oluşturulur ve her yenileme tarihinde aynı tutarı ödeyerek yenileyebilirsiniz. İadeler hesap kredinize aktarılır.

Yenileme tarihinde ödeme yapmazsanız sunucu askıya alınır. 3 gün içinde ödeme yaparak yeniden başlatabilirsiniz. 3 gün sonra sunucu ve diskteki veriler silinir, bu yüzden eğitim sonuçlarını ve model dosyalarını önceden yedekleyin. Bir sonraki yenileme tarihinizi kontrol panelinden kontrol edebilirsiniz.

Rehberlerimiz Ubuntu 24.04 ve CUDA temel alınarak Docker, Python, PyTorch, Ollama ve Jupyter gibi yapay zeka araçlarının kullanıldığı ortama göre hazırlanmıştır. root yetkiniz olduğu için istediğiniz sürümdeki kütüphaneleri ek olarak kurabilir veya önceden hazırladığınız Docker imajlarını olduğu gibi indirip çalıştırabilirsiniz.

Kartta yazan GPU sayısı olduğu gibi sunucunuza takılır ve GPU belleğinin tamamını kendi işiniz için kullanırsınız. İki L4'lü sunucuda iki GPU'nun ikisi de sunucunuza aittir ve hangi işin hangi GPU'da çalışacağını da kendiniz belirlersiniz. Sunucudaki CPU, bellek ve NVMe disk de kartta yazdığı kadar sunucunuza ayrılır ve başkalarının işleriyle karışmaz.

Modelin ağırlıkları ve hesaplamanın ara değerleri GPU belleğine yüklendiği için GPU belleği boyutu yapabileceğiniz işin ölçeğini belirler. Aynı modelde bile hassasiyet, batch boyutu ve eşzamanlı istek sayısına göre gereken bellek değiştiği için kendi ayarlarınızla ihtiyacı hesaplayıp 24 GB, 48 GB ve 96 GB arasından seçin.

Her GPU sunucuda 250 GB, 500 GB veya 900 GB NVMe disk bulunur; model dosyalarını ve iş verilerini sunucuda tutabilirsiniz. Uzun süre saklayacağınız veri kümelerini ve sonuçları nesne depolamada ayrıca tutarsanız GPU sunucu diskini yalnızca kullandığınız dosyalar için kullanır, yönetimi kolaylaştırırsınız. Daha geniş kapasite isterseniz daha büyük diske sahip üst yapılandırmayı seçin.

Satın Al düğmesine tıklayın, bir hesap oluşturun, GPU sunucu türünü ve bölgeyi seçin, bir ödeme yöntemi belirleyin ve sipariş verin. Özellik seçimi veya ortamınızla ilgili sorularınızı ilk ödemenizden sonra destek sayfasından hemen sorabilirsiniz.