HELPER VPS

VPS ejen AI, pelayan automasi AI

VPS ejen AI HELPER VPS ialah pelayan awan Linux untuk menjalankan ejen yang memanggil API LLM, aliran kerja n8n dan chatbot selama 24 jam di bandar 40, bermula dari $25.00 sebulan. Pada pelan yang dioptimumkan untuk memori dengan 16 GB hingga 256 GB memori, anda juga boleh menjalankan model terbuka kecil sendiri dengan Ollama.

Pelan VPS LLM manakah yang patut dipilih?

Spesifikasi yang diperlukan oleh kerja AI bergantung pada tempat model dijalankan. Jika memanggil API LLM luaran, pelayan kecil sudah mencukupi, manakala jika model dijalankan di dalam pelayan, memori sebesar saiz model diperlukan.

    Untuk menjalankan model di dalam pelayan, sediakan memori lebih besar daripada saiz fail model, dan untuk model besar yang memerlukan respons pantas, pertimbangkan juga pelayan GPU.

    Apakah yang boleh dijalankan pada pelayan automasi AI?

    VPS ialah komputer yang tidak pernah dimatikan, jadi ejen terus bekerja tanpa perlu menghidupkan komputer riba anda. Berikut lima konfigurasi yang paling biasa.

    Apakah kelebihan menjalankan ejen AI pada VPS?

    Alat yang biasa digunakan pada pelayan AI

    Kebanyakan alat AI disokong secara rasmi pada Linux dan Docker. Jika anda mencipta pelayan dengan imej aplikasi Docker, anda boleh terus menjalankan n8n, Ollama dan pangkalan data vektor sebagai kontena.

    Letakkan pelayan dekat dengan pelanggan anda

    Pilih lokasi yang dekat dengan pelanggan anda daripada 40 bandar di 31 negara.

    Sepantas manakah LLM berjalan pada VPS yang hanya ada CPU?

    Jika model dijalankan dengan CPU, jawapan keluar lebih perlahan berbanding GPU. Model terkuantum 3B~8B cukup pantas untuk dibaca seperti sembang, tetapi jika menjana teks panjang sekali gus atau digunakan ramai orang serentak, masa menunggu menjadi lebih lama. Oleh itu model tempatan pada pelayan CPU paling sesuai untuk kerja yang menghasilkan banyak jawapan pendek, seperti klasifikasi, ringkasan pendek dan pengekstrakan maklumat.

    Menurut panduan Ollama, model 7B disyorkan menggunakan memori 8 GB, model 13B 16 GB, dan model 33B 32 GB atau lebih. Sistem pengendalian dan program lain juga menggunakan memori, jadi pilih pelan satu tahap lebih lapang, dan sebaiknya mulakan dengan model kecil untuk menyemak kualiti dan kelajuan sebelum membesarkannya.

    Perkhidmatan yang memerlukan respons pantas, model besar 70B ke atas, penjanaan imej dan fine-tuning memerlukan GPU. Ketahui kerja seperti ini di halaman pelayan GPU, dan bahagikan peranan supaya VPS mengendalikan ejen dan aliran kerja yang memanggil pelayan GPU atau API LLM, supaya kos dan kelajuan sama-sama terjaga.

    Bagaimanakah cara memasang n8n dan Ollama pada VPS?

    Jika anda memilih aplikasi Docker sebagai imej semasa mencipta pelayan, pelayan bermula pada Ubuntu 24.04 dengan Docker Engine dan Docker Compose sudah dipasang. Selepas log masuk, cipta ruang storan dengan docker volume create n8n_data, kemudian jalankan n8n dengan arahan docker run -d --name n8n -p 5678:5678 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n. Untuk perkhidmatan sebenar, lebih selamat jika anda menyambungkan domain dan HTTPS.

    Ollama dipasang dengan satu baris curl -fsSL https://ollama.com/install.sh | sh, dan jika anda memasukkan nama model seperti ollama run llama3.2, model terus dimuat turun dan dijalankan. Selepas dipasang, API dibuka pada port 11434 di dalam pelayan, dan n8n atau kod Python pada pelayan yang sama memanggil alamat ini untuk menggunakan model tempatan.

    Secara lalai, API Ollama hanya menerima dari dalam pelayan, dan sebaiknya dibiarkan begitu. Jika perlu digunakan dari luar, masuk melalui VPN seperti WireGuard, atau tambahkan pengesahan pada proxy Nginx supaya hanya orang yang dibenarkan boleh menggunakannya.

    Bagaimanakah cara menjalankan pelayan ejen AI dengan selamat?

    Jangan tulis kunci API LLM terus dalam kod, simpan dalam pemboleh ubah persekitaran atau fail dengan kebenaran terhad. Jika anda menetapkan had penggunaan di pihak API, caj tidak akan melonjak walaupun ejen terperangkap dalam pelaksanaan berulang. Log masuk ke pelayan hanya dengan kunci SSH, dan lindungi halaman pentadbiran seperti n8n dengan kata laluan yang kukuh dan HTTPS.

    Jika ejen menggunakan alat untuk membaca web dan menjalankan arahan, penting untuk memberi kebenaran yang sempit. Cipta pengguna Linux khusus untuk ejen dan benarkan hanya folder yang diperlukan, atau jalankan di dalam kontena Docker, supaya kesilapan tidak merebak ke seluruh pelayan.

    Hantar e-mel pemberitahuan ejen melalui perkhidmatan penghantaran e-mel pada port 587, dan webhook Telegram atau Discord berfungsi dengan baik bersama. Dengan pilihan sandaran automatik dihidupkan, aliran kerja dan sejarah perbualan turut disimpan, dan apabila anda perlu memulihkan, buat permintaan di halaman sokongan selepas pembayaran pertama anda.

    Lihat lagi VPS mengikut kegunaan

    Soalan lazim VPS ejen AI

    Adakah GPU wajib untuk menjalankan ejen AI?

    Bagi ejen yang memanggil API LLM, VPS kecil tanpa GPU sudah mencukupi. Pengiraan model dilakukan di pihak API, dan pelayan hanya mengendalikan permintaan dan pemprosesan hasil. Pertimbangkan pelayan GPU hanya jika anda mahu menjalankan model besar sendiri dengan pantas.

    Model sebesar manakah yang boleh dijalankan dengan Ollama?

    Pada pelan memori tinggi, anda boleh menjalankan model yang sesuai dengan saiz memori. Dengan 16 GB anda boleh menjalankan model terkuantum 7B~8B, dengan 32 GB kira-kira 13B, dan dengan 64 GB ke atas kira-kira 30B, tetapi kerana dijalankan dengan CPU, kelajuan jawapan lebih perlahan berbanding GPU.

    Adakah LLM yang berjalan pada CPU berbaloi digunakan?

    Cukup berbaloi untuk kerja yang menghasilkan jawapan pendek. Kerja dengan hasil pendek seperti klasifikasi dokumen, ringkasan, pengekstrakan maklumat dan pembinaan embedding dikendalikan dengan baik oleh CPU, manakala perkhidmatan yang menjana banyak teks panjang secara masa nyata lebih sesuai dengan pelayan GPU.

    Pada pelan manakah n8n patut dijalankan?

    n8n untuk individu atau pasukan kecil berjalan dengan selesa pada 4 hingga 8 GB memori. Jika anda mempunyai banyak aliran kerja atau mengendalikan fail besar, pilih pelan NVMe dengan 12 GB atau lebih dan jalankannya dengan Docker mengikut panduan pemasangan di halaman aplikasi n8n.

    Bolehkah OpenAI API atau API LLM lain dipanggil dari VPS?

    Ya, permintaan HTTPS keluar dari pelayan boleh digunakan dengan bebas. Simpan kunci API dalam pemboleh ubah persekitaran pelayan lalu panggil dari ejen atau n8n, dan peraturan penggunaan API mengikut terma setiap perkhidmatan.

    Berapa banyak pelayan automasi AI yang boleh dicipta?

    Satu akaun boleh mencipta sehingga 10 pelayan. Anda boleh mengasingkan pelayan ejen, pelayan pangkalan data dan pelayan model tempatan, atau meletakkan pelayan chatbot berasingan bagi setiap wilayah pelanggan.

    Bolehkah ejen menghantar e-mel?

    Ya, hantar dengan menyambungkan perkhidmatan penghantaran e-mel yang menggunakan port 587. Semua pelayan menutup port 25 untuk menjaga reputasi IP, jadi masukkan sahaja maklumat SMTP atau API perkhidmatan penghantaran e-mel ke dalam ejen anda.

    Bagaimana jika cakera tidak mencukupi kerana fail model besar?

    Jika anda memasang cakera tambahan antara 50~1000 GB semasa mencipta pelayan, fail model dan data boleh disimpan dengan lapang. Pelan memori tinggi menggunakan cakera NVMe, jadi model juga dimuatkan dengan pantas.

    Bagaimanakah cara membayar caj pelayan AI?

    Pelayan anda dicipta untuk tempoh bil yang anda pilih (1, 3, 6 atau 12 bulan). Pembayaran minimum ialah $25.