Thuê máy chủ GPU, NVIDIA L4 và RTX PRO 6000
Máy chủ cloud GPU so sánh theo giá giờ, dùng theo tháng
- NVIDIA L4 và RTX PRO 6000
- Ổ NVMe và IPv4 riêng
- Cho suy luận AI và rendering
Máy chủ cloud GPU là máy chủ có đơn vị xử lý đồ họa (GPU) được thuê từ trung tâm dữ liệu để xử lý tính toán song song như suy luận AI, tinh chỉnh mô hình, xử lý video và rendering. Thuê máy chủ cloud GPU của HELPER VPS bắt đầu từ $0.3304 mỗi giờ cho một NVIDIA L4, với thanh toán thực tế bằng hóa đơn hàng tháng.
NVIDIA L4
24GB bộ nhớ GPU
033$/ giờ
Khoảng $241 mỗi tháng
- 1 L4, 24 GB
- 8 vCPU
- 32 GB RAM
- 250 GB NVMe
- 5 TB truyền tải mỗi tháng
2 NVIDIA L4
48GB bộ nhớ GPU
066$/ giờ
Khoảng $482 mỗi tháng
- 2 L4, 48 GB
- 16 vCPU
- 64 GB RAM
- 500 GB NVMe
- 8 TB truyền tải mỗi tháng
RTX PRO 6000
96GB bộ nhớ GPU
67144$/ tháng
Thanh toán hàng tháng
- 1 RTX PRO 6000, 96 GB
- 18 vCPU
- 96 GB RAM
- 900 GB NVMe
- 10 TB truyền tải mỗi tháng
Nếu là tác vụ dùng nhân CPU lâu không cần GPU VPS CPU riêng
Máy chủ cloud GPU dùng cho việc gì?
GPU mạnh ở việc chia cùng một phép tính thành hàng nghìn phần để xử lý cùng lúc. Vì vậy với tác vụ AI nhiều phép toán ma trận và tác vụ video xử lý theo từng điểm ảnh, khác biệt với máy chủ CPU rất lớn. Tổng hợp bốn công dụng tiêu biểu khi thuê máy chủ GPU.
Suy luận mô hình AI và dịch vụ API
Công dụng đưa mô hình ngôn ngữ, mô hình tạo ảnh, mô hình nhận dạng giọng nói đã huấn luyện lên máy chủ và tạo câu trả lời mỗi khi có yêu cầu. Chạy mô hình bằng Ollama hay máy chủ Python tự viết và kết nối với ứng dụng của bạn bằng địa chỉ IPv4 riêng.
Tinh chỉnh mô hình và thử nghiệm
Phù hợp với tinh chỉnh huấn luyện thêm mô hình công khai bằng dữ liệu của bạn, thử nghiệm đổi siêu tham số để chạy. Sửa mã trong Jupyter và xem kết quả ngay, chạy tiếp huấn luyện bằng PyTorch.
Chuyển đổi video và xử lý luồng
Việc đổi nhiều video sang định dạng khác hay giảm độ phân giải, việc nhận và xử lý luồng thời gian thực mà dùng engine xử lý video của GPU thì tiết kiệm nhân CPU và chạy nhiều việc cùng lúc.
Rendering 3D và phân tích dữ liệu
Tác vụ chia nhỏ phép tính được như rendering cảnh 3D, tính toán khoa học, phân tích song song dữ liệu lớn cũng rất hợp với máy chủ GPU. Kết quả lưu trên ổ NVMe dư dả và tải về trong lượng truyền tải hàng tháng.
L4 và RTX PRO 6000, nên chọn GPU nào?
Cả ba dùng cùng cách thanh toán và cùng màn hình quản lý. Khác biệt lớn nhất là kích thước bộ nhớ GPU. Trước hết xem mô hình và dữ liệu sẽ đưa lên có vừa bộ nhớ GPU không, sau đó nghĩ đến số yêu cầu xử lý cùng lúc là dễ chọn.
NVIDIA L4
Một GPU trung tâm dữ liệu tiêu thụ điện thấp
Phù hợp với
- Suy luận mô hình ngôn ngữ và mô hình ảnh nhỏ
- Chuyển đổi video và xử lý luồng
- Dự án cá nhân lần đầu dùng máy chủ GPU
- Khi muốn khớp chi phí bằng giá giờ thấp
2 NVIDIA L4
Cấu hình dùng chung hai GPU trên một máy chủ
Phù hợp với
- Chia hai mô hình để phục vụ cùng lúc
- Thử nghiệm huấn luyện chia trên hai GPU
- Bảo đảm thông lượng cho API suy luận nhiều yêu cầu
- Tác vụ cần gấp đôi cả CPU và bộ nhớ
RTX PRO 6000
Một GPU lớn có 96GB bộ nhớ
Phù hợp với
- Mô hình lớn dùng nhiều bộ nhớ GPU
- Tinh chỉnh chạy batch lớn
- Rendering 3D và mô phỏng độ phân giải cao
- Nhóm muốn xong việc lớn trên một GPU
GPU nên theo giờ hay theo tháng?
Khi tìm hiểu thuê máy chủ cloud GPU, phần lớn so sánh bằng giá theo giờ. Thử nghiệm chỉ bật vài giờ mỗi ngày thì giá giờ tiện, còn máy chủ bật 24 giờ như dịch vụ thì phí một tháng quan trọng hơn. Cùng GPU nhưng con số cần xem khác theo cách dùng. Vì vậy trước hết nên định mỗi ngày bật bao nhiêu giờ.
HELPER VPS hiện máy chủ L4 theo giá giờ cho dễ so sánh, còn thanh toán thực tế xử lý theo tháng. Giá giờ nhân khoảng 730 giờ một tháng là phí hàng tháng dưới thẻ, còn RTX PRO 6000 hiện thẳng phí hàng tháng. Xem cùng giá giờ và phí tháng thì so sánh theo cách nào cũng dễ.
Thanh toán hàng tháng có một khoản phí cố định, giúp việc lập ngân sách dễ dàng. Đối với các dịch vụ luôn bật như API suy luận hoặc bot, hoặc huấn luyện chạy trong nhiều ngày, không cần đếm giờ, và cùng một khoản phí được thanh toán mỗi tháng để giữ máy chủ của bạn hoạt động. Ngay cả các quá trình huấn luyện dài cũng có thể chạy từ đầu đến cuối mà không bị gián đoạn.
Máy chủ GPU và VPS thông thường khác nhau thế nào?
VPS thông thường là máy chủ chia vCPU, bộ nhớ, ổ đĩa, mọi phép tính do CPU đảm nhận. Máy chủ GPU có thêm cả một GPU gắn vào, nên tác vụ lặp lại cùng phép tính số lượng lớn như nhân ma trận giao cho GPU, còn CPU lo chuẩn bị dữ liệu và xử lý yêu cầu. Nhờ hai thiết bị chia việc, toàn bộ tác vụ xong nhanh.
GPU có bộ nhớ riêng. Trọng số mô hình và giá trị trung gian khi tính được nạp vào bộ nhớ GPU, nên kích thước bộ nhớ GPU thường quyết định quy mô tác vụ hơn bộ nhớ máy chủ. L4 có 24GB mỗi GPU, RTX PRO 6000 có 96GB. Máy chủ hai L4 dùng chung hai GPU 24GB nên chia mô hình để nạp hoặc chia tác vụ làm hai để chạy.
Trang web, cơ sở dữ liệu và bot thông thường chạy tốt mà không cần GPU, vì vậy VPS cloud phù hợp hơn với chúng. Thêm máy chủ GPU khi bạn tự chạy mô hình AI hoặc xử lý video với số lượng lớn, và giữ các dịch vụ còn lại của bạn trên VPS giá rẻ để giữ tổng chi phí thấp.
Giá thuê máy chủ GPU là bao nhiêu?
Máy chủ một NVIDIA L4 giá $0.3304 mỗi giờ, khoảng $241.19 một tháng. Hai L4 giá $0.6608 mỗi giờ, RTX PRO 6000 giá $671.44 mỗi tháng, và vCPU, bộ nhớ, ổ NVMe, truyền tải, địa chỉ IP đều đã gồm trong phí này.
Phí chọn theo bộ nhớ GPU
Chia ba bậc 24GB, 48GB, 96GB nên chọn ngay theo kích thước mô hình sẽ đưa lên. GPU tăng thì CPU, bộ nhớ, ổ đĩa, truyền tải cũng lớn theo.
Phí cố định gồm mọi cấu hình
Phí ghi trên thẻ đã gồm GPU, vCPU, bộ nhớ, ổ NVMe, truyền tải hàng tháng, IPv4 và IPv6 riêng nên tính toán đơn giản.
Thanh toán hàng tháng bằng hóa đơn
Thanh toán phí hàng tháng vào mỗi ngày thanh toán để giữ máy chủ của bạn hoạt động. Không cần đăng ký thẻ và không có thời hạn hợp đồng: chỉ thanh toán khi cần.
HELPER VPS qua các con số
Chọn từ 40 khu vực, 12 hệ điều hành và 10 ứng dụng một cú nhấp trong một tài khoản, và thanh toán ngay lập tức. Các con số dưới đây dựa trên những gì đang được bán hiện tại.
40
Khu vực trung tâm dữ liệu
12
Hệ điều hành
10
Ứng dụng một cú nhấp
$0.33
Giá khởi điểm sản phẩm này (tháng)
Công cụ AI dùng ngay trên máy chủ GPU
Đưa Docker, Python, PyTorch, Ollama, Jupyter lên Ubuntu 24.04 và CUDA để bắt đầu làm việc theo cách quen thuộc.
- Ubuntu 24.04 + CUDA
- Docker
- Python
- PyTorch
- Ollama
- Jupyter
Lý do chọn máy chủ GPU của HELPER VPS
Máy chủ dùng trọn GPU
Số GPU ghi trên thẻ gắn nguyên vào máy chủ của bạn. Dùng toàn bộ bộ nhớ GPU cho mô hình và dữ liệu của bạn.
Ổ NVMe dư dả
Có sẵn ổ NVMe từ 250GB đến 900GB nên đặt ngay tệp mô hình, bộ dữ liệu, kết quả huấn luyện trong máy chủ.
CPU và bộ nhớ khớp với GPU
Mỗi L4 kèm 8 vCPU và 32GB, RTX PRO 6000 kèm 18 vCPU và 96GB để khâu chuẩn bị dữ liệu không bắt GPU phải chờ.
Tự do cài đặt với quyền root
Tự cài framework và thư viện phiên bản mong muốn trên driver, và tự quyết định cách chạy dịch vụ.
IPv4 và IPv6 riêng
Mỗi máy chủ có một địa chỉ IPv4 riêng và IPv6 nên kết nối ngay API suy luận hay Jupyter với tên miền của bạn.
Đăng nhập bằng khóa SSH
Đăng ký khóa công khai là kết nối không cần mật khẩu. Dấu vân tay hiển thị như ssh-keygen nên biết ngay là khóa nào.
Quản lý GPU và VPS bằng một tài khoản
Quản lý máy chủ GPU và VPS thông thường trong cùng một tài khoản, giúp dễ dàng tách máy chủ mô hình và máy chủ web.
Đăng ký bằng một mã token tài khoản
Đăng ký bằng một mã token tài khoản, lưu token là vào cùng tài khoản từ bất kỳ thiết bị nào.
Tự động hóa bằng khóa API
Sau khi thanh toán lần đầu, nhận khóa API để xử lý các tác vụ liệt kê và quản lý máy chủ từ mã.
Máy chủ GPU dùng được ở khu vực nào?
HELPER VPS có máy chủ tại 40 thành phố trên khắp châu Mỹ, châu Âu, Trung Đông, châu Phi và châu Á Thái Bình Dương. Các khu vực bạn có thể chọn sẽ hiển thị khi bạn đặt máy chủ GPU; hãy chọn một khu vực gần người dùng và dữ liệu của bạn để có phản hồi nhanh hơn.
Đức
Hà Lan
Vương quốc Anh
Pháp
7 thành phố tại Hoa Kỳ
Canada
Brazil
Singapore
2 thành phố tại Nhật Bản
2 thành phố tại Ấn Độ
2 thành phố tại Úc
Mexico
Tây Ban Nha
Thụy Điển
Ba Lan
Nam Phi
Hàn Quốc
Đức
Hà Lan
Vương quốc Anh
Pháp
7 thành phố tại Hoa Kỳ
Canada
Brazil
Singapore
2 thành phố tại Nhật Bản
2 thành phố tại Ấn Độ
2 thành phố tại Úc
Mexico
Tây Ban Nha
Thụy Điển
Ba Lan
Nam Phi
Hàn Quốc
Chile
Colombia
Italy
Thụy Sĩ
Phần Lan
Thổ Nhĩ Kỳ
Các Tiểu Vương quốc Ả Rập Thống nhất
Israel
Ả Rập Xê-út
Nigeria
Đặc khu Hành chính Hồng Kông, Trung Quốc
Đài Loan
Indonesia
Thái Lan
Câu hỏi thường gặp về máy chủ GPU
Câu trả lời về giá thuê, thanh toán, chọn cấu hình máy chủ cloud GPU
Máy chủ GPU có thanh toán theo giờ không?
Máy chủ GPU được thanh toán hàng tháng. Máy chủ L4 có giá $241.19 mỗi tháng, được thanh toán khi bạn tạo máy chủ và gia hạn với cùng số tiền mỗi tháng. Giá theo giờ $0.3304 được hiển thị để dễ dàng so sánh với các dịch vụ khác.
Một máy chủ GPU giá bao nhiêu mỗi tháng?
Máy chủ một NVIDIA L4 khoảng $241.19 một tháng, máy chủ hai L4 khoảng $482.38, máy chủ RTX PRO 6000 giá $671.44. Số tiền này đã gồm GPU, vCPU, bộ nhớ, ổ NVMe, truyền tải hàng tháng, IPv4 và IPv6 riêng, không có phí cấu hình cộng thêm.
2 L4 và RTX PRO 6000 khác nhau thế nào?
2 L4 là cấu hình dùng hai GPU 24GB trên một máy chủ, còn RTX PRO 6000 là một GPU có 96GB bộ nhớ. Chia hai mô hình để phục vụ hay chia việc chạy trên hai GPU thì 2 L4, phải nạp trọn mô hình lớn vào bộ nhớ của một GPU thì RTX PRO 6000 phù hợp.
Thuê máy chủ GPU bằng phương thức thanh toán nào?
Khi đặt máy chủ GPU, hãy chọn phương thức thanh toán và thanh toán phí hàng tháng. Máy chủ sẽ được tạo sau khi thanh toán tháng đầu tiên, và bạn có thể gia hạn bằng cách thanh toán cùng số tiền vào mỗi ngày gia hạn. Hoàn tiền sẽ được chuyển vào số dư tài khoản của bạn.
Điều gì xảy ra nếu tôi không gia hạn thanh toán máy chủ GPU?
Nếu bạn không thanh toán vào ngày gia hạn, máy chủ sẽ bị tạm dừng. Bạn có thể gia hạn trong vòng 3 ngày để khởi động lại máy chủ. Sau 3 ngày, máy chủ và dữ liệu trên ổ đĩa sẽ bị xóa, vì vậy hãy sao lưu kết quả huấn luyện và các tệp mô hình trước. Bạn có thể kiểm tra ngày gia hạn tiếp theo trong bảng điều khiển.
Có phải tự cài CUDA và PyTorch không?
Chúng tôi hướng dẫn theo môi trường dùng công cụ AI như Docker, Python, PyTorch, Ollama, Jupyter trên nền Ubuntu 24.04 và CUDA. Có quyền root nên cài thêm thư viện phiên bản mong muốn, hoặc tải nguyên image Docker đã làm sẵn để chạy cũng được.
GPU có chia với người khác không?
Số GPU ghi trên thẻ gắn nguyên vào máy chủ của bạn, dùng toàn bộ bộ nhớ GPU cho việc của bạn. Máy chủ 2 L4 thì cả hai đều là GPU của máy chủ bạn, và tự quyết định việc nào giao cho GPU nào. CPU, bộ nhớ, ổ NVMe trong máy chủ cũng được cấp cho máy chủ bạn đúng như ghi trên thẻ, không lẫn với việc của người khác.
Vì sao kích thước bộ nhớ GPU quan trọng?
Trọng số mô hình và giá trị trung gian khi tính được nạp vào bộ nhớ GPU, nên kích thước bộ nhớ GPU quyết định quy mô tác vụ xử lý được. Cùng mô hình mà độ chính xác, kích thước batch, số yêu cầu đồng thời khác thì bộ nhớ cần khác, nên hãy tính lượng cần theo cấu hình của bạn rồi chọn trong 24GB, 48GB, 96GB.
Thiếu không gian lưu trữ thì làm sao?
Mỗi máy chủ GPU có ổ NVMe 250GB, 500GB, 900GB nên đặt được tệp mô hình và dữ liệu làm việc trong máy chủ. Bộ dữ liệu và kết quả lưu lâu dài đặt riêng trên object storage thì ổ máy chủ GPU chỉ dành cho tệp đang dùng, quản lý tiện. Muốn dư dả dung lượng thì chọn cấu hình cao hơn có ổ lớn hơn.
Đặt máy chủ GPU như thế nào?
Nhấn nút Mua, tạo tài khoản, chọn loại máy chủ GPU và khu vực, chọn phương thức thanh toán và đặt hàng. Nếu có câu hỏi về việc chọn cấu hình hoặc môi trường của bạn, hãy hỏi ngay trên trang hỗ trợ sau khi thanh toán lần đầu.
Hướng dẫn máy chủ GPU
Hướng dẫn nên làm theo ngay sau khi nhận máy chủ GPU
- Đăng nhập lần đầuThứ tự kết nối root vào máy chủ mới và đổi mật khẩu. Kèm các lệnh SSH dùng trên Windows, Mac, Linux.
- Tạo và đăng ký khóa SSHCách tạo khóa bằng ssh-keygen và đăng ký để kết nối an toàn vào máy chủ GPU không cần mật khẩu.
- Cấu hình tường lửa cơ bảnVí dụ tường lửa chỉ mở cổng Jupyter hay API suy luận cho nơi cần, đóng phần còn lại.
Giá hiển thị tính bằng đô la Mỹ, và giá theo giờ chỉ để so sánh. Thanh toán thực tế được xử lý hàng tháng, và bạn có thể gia hạn máy chủ bằng cách thanh toán cùng số tiền vào mỗi ngày gia hạn.
Thời gian tối thiểu: 1 tháng | Hủy: xóa bất cứ lúc nào từ bảng điều khiển | Nếu không gia hạn: tạm dừng, sau đó xóa sau 3 ngày | Thời gian còn lại trên máy chủ đã xóa sẽ không được hoàn tiền. Hoàn tiền sẽ được chuyển vào số dư tài khoản của bạn.
