HELPER VPS

AI 代理 VPS：AI 自動化伺服器

HELPER VPS AI 代理 VPS 是在 40 個城市 24 小時運行呼叫 LLM API 的代理、n8n 工作流程及聊天機械人的 Linux 雲端伺服器，每月 $25.00 起。在記憶體優化方案（16 GB 至 256 GB 記憶體）上，您還可以使用 Ollama 自行運行小型開源模型。

LLM VPS 應選甚麼方案？

AI 工作所需規格視乎模型在哪裡運行。呼叫外部 LLM API，小伺服器已足夠；在伺服器內運行模型，則需要與模型大小相應的記憶體。

    想在伺服器內運行模型，記憶體應比模型檔案大小預留充裕；需要快速回應的大型模型，請一併考慮 GPU 伺服器。

    AI 自動化伺服器可以運行甚麼？

    VPS 是不會關機的電腦，毋須開著自己的手提電腦，代理亦會持續工作。以下介紹五種常見配置。

    在 VPS 運行 AI 代理有甚麼好處？

    AI 伺服器一同使用的工具

    大部分 AI 工具官方支援 Linux 及 Docker。以 Docker 應用程式映像建立伺服器，即可立即以容器架設 n8n、Ollama 及向量資料庫。

    把伺服器放在接近客戶的地方

    請在 31 個國家、40 個城市中選擇接近客戶的地方。

    在只有 CPU 的 VPS 運行 LLM 有多快？

    以 CPU 運行模型，回答比 GPU 慢。3B 至 8B 量化模型的速度可像聊天般閱讀，但一次產生長文或多人同時使用時，等候時間會變長。因此 CPU 伺服器的本機模型最適合分類、簡短摘要、資料擷取等大量產生短答案的工作。

    按 Ollama 說明，7B 模型建議 8 GB 記憶體、13B 模型 16 GB、33B 模型 32 GB 或以上。作業系統及其他程式亦會使用記憶體，請選擇大一級的方案，先以小模型確認品質及速度再擴大，是較好的次序。

    需要快速回應的服務、70B 或以上的大型模型、圖像生成及微調需要 GPU。這類工作請在 GPU 伺服器頁面了解，VPS 則負責呼叫 GPU 伺服器或 LLM API 的代理及工作流程，分工後可兼顧成本與速度。

    n8n 及 Ollama 如何安裝在 VPS？

    建立伺服器時在映像選擇 Docker 應用程式，便會以 Ubuntu 24.04 上已安裝 Docker Engine 及 Docker Compose 的狀態啟動。登入後以 docker volume create n8n_data 建立儲存空間，再以 docker run -d --name n8n -p 5678:5678 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n 指令架設 n8n。正式服務最好連接網域及 HTTPS 使用，更為安全。

    Ollama 以 curl -fsSL https://ollama.com/install.sh | sh 一行安裝，輸入 ollama run llama3.2 等模型名稱即下載並即時執行。安裝後伺服器內會以 11434 連接埠開放 API，同一伺服器的 n8n 或 Python 程式碼呼叫此位址即可使用本機模型。

    Ollama API 預設只在伺服器內接收，最好保持不變。如需在外部使用，經 WireGuard 等 VPN 進入，或在 Nginx 代理加上驗證，只讓允許的人使用。

    如何安全營運 AI 代理伺服器？

    LLM API 金鑰不要直接寫在程式碼，應放在環境變數或權限收窄的檔案。在 API 方設定用量上限，即使代理陷入重複執行，費用亦不會突然增加。伺服器只以 SSH 金鑰登入，n8n 等管理畫面以強密碼及 HTTPS 保護。

    代理使用讀取網頁及執行指令的工具時，收窄權限十分重要。另建代理專用的 Linux 用戶、只讓它使用需要的資料夾，或在 Docker 容器內運行，即使出錯亦不會蔓延到整部伺服器。

    通過端口 587 的郵件遞送服務發送代理的警報郵件，Telegram 或 Discord webhook 亦可同時使用。開啟自動備份選項，工作流程及聊天記錄亦會保存，當您需要還原時，請在首次付款後於支援頁面提出請求。

    查看更多用途 VPS

    AI 代理 VPS：AI 自動化伺服器 常見問題

    運行 AI 代理一定需要 GPU 嗎？

    如是呼叫 LLM API 的代理，毋須 GPU，小型 VPS 已足夠。模型運算由 API 方負責，伺服器只處理請求及結果。只有想直接快速運行大型模型時，才需考慮 GPU 伺服器。

    Ollama 可以運行多大的模型？

    高記憶體方案可運行與記憶體大小相應的模型。16 GB 可運行 7B 至 8B 量化模型，32 GB 約 13B，64 GB 或以上約 30B，但由於以 CPU 運行，回答速度比 GPU 慢。

    以 CPU 運行的 LLM 實用嗎？

    產生短答案的工作十分實用。文件分類、摘要、資料擷取、建立嵌入等結果簡短的工作，以 CPU 亦處理良好；即時大量產生長文的服務則適合 GPU 伺服器。

    n8n 應在甚麼方案運行？

    個人或小團隊的 n8n 可在 4 至 8 GB 記憶體上順暢運行。如果您有許多工作流程或處理大型文件，請選擇配備 12 GB 或以上記憶體的 NVMe 方案，並按照 n8n 應用程式頁面的安裝指南使用 Docker 部署。

    可以在 VPS 呼叫 OpenAI API 或其他 LLM API 嗎？

    可以，伺服器對外的 HTTPS 請求可自由使用。把 API 金鑰放在伺服器環境變數，由代理或 n8n 呼叫便可，API 使用規則按各服務條款。

    AI 自動化伺服器最多可建立多少部？

    一個帳戶最多可建立 10 部伺服器。可分開代理伺服器、資料庫伺服器及本機模型伺服器，或按客人地區各設聊天機械人伺服器。

    代理可以發送郵件嗎？

    可以，連接使用 587 號連接埠的郵件發送服務發送。為保護 IP 信譽，所有伺服器已關閉 25 號連接埠，把郵件發送服務的 SMTP 資料或 API 放入代理使用便可。

    模型檔案太大、硬碟不足怎麼辦？

    建立伺服器時在 50 至 1000 GB 之間掛載額外硬碟，便可充裕存放模型檔案及資料。高記憶體方案使用 NVMe 硬碟，載入模型速度亦快。

    AI 伺服器費用如何支付？

    您的伺服器會根據您選擇的計費週期（1、3、6 或 12 個月）建立。最低付款金額為 $25。