AI 智慧體 VPS,AI 自動化伺服器
HELPER VPS AI 代理 VPS 是一個 Linux 雲端伺服器,用於在 40 個城市全天候運行呼叫 LLM API 的代理、n8n 工作流程和聊天機器人,每月 $25.00 起。在記憶體優化方案(16 GB 到 256 GB 記憶體)上,您還可以使用 Ollama 運行小型開源模型。
LLM VPS 該選哪種方案?
AI 工作所需的配置,取決於模型在哪裡執行。呼叫外部 LLM API 時小伺服器就夠了,在伺服器內執行模型時則需要與模型大小相當的記憶體。
在伺服器內執行模型時,記憶體要比模型檔案大小留得充裕;需要快速回應的大模型,請一併考慮 GPU 伺服器。
AI 自動化伺服器可以執行什麼?
VPS 是不關機的電腦,不用讓自己的筆記本一直開著,智慧體也能持續工作。下面介紹五種常用配置。
LLM API 智慧體
呼叫 OpenAI API 等 LLM API 的智慧體,穩定的執行環境比伺服器配置更重要。API 金鑰放在環境變數或金鑰檔案中,用 systemd 或 Docker 讓伺服器重啟後也自動啟動。
Docker 應用Llama 開源模型
像 Meta 的 Llama 系列這樣公開權重的模型,可以在自己的伺服器上直接執行並修改設定。小模型用 CPU 就夠了,想快速使用大模型或進行微調,GPU 伺服器更合適。
GPU 伺服器Python 機器人與腳本
把用 LangChain、LlamaIndex 等 Python 工具做的機器人和資料採集腳本部署在虛擬環境中。用 cron 或 systemd 定時器按時執行,透過 Telegram 或 Webhook 接收結果。
首次連線說明
在 VPS 上執行 AI 智慧體有什麼好處?
全天候不停歇。
即使關掉自己的電腦,智慧體和工作流也在伺服器上持續執行,按設定的時間工作。
記憶體可以選得很大。
記憶體優化方案從 16 GB 到 256 GB,因此本地模型和向量數據庫可以放在一台伺服器上。
資料留在自己的伺服器上。
對話記錄、文件和工作流設定都儲存在自己伺服器的磁碟上,可以自行管理和備份。
選擇就近的城市。
在 40 個城市中選擇離客戶近的地方部署聊天機器人伺服器,Webhook 和即時通訊的回應更順暢。
AI 伺服器上常用的工具
大多數 AI 工具都官方支援 Linux 和 Docker。用 Docker 應用映像檔建立伺服器,就能直接以容器部署 n8n、Ollama 和向量資料庫。
- OpenAI
- Meta
- Ollama
- Python
- n8n
- Docker
- PostgreSQL
- Redis
把伺服器放在離使用者近的地方
從 31 個國家的 40 個城市中,選擇離使用者近的地點。
在只有 CPU 的 VPS 上執行 LLM 有多快?
用 CPU 執行模型,出結果比 GPU 慢。3B~8B 規模的量化模型速度足以像聊天一樣閱讀,但一次生成長文或多人同時使用時,等待時間會變長。因此 CPU 伺服器上的本地模型最適合分類、簡短摘要、資訊提取等大量輸出短答案的工作。
按 Ollama 的說明,7B 模型建議 8 GB 記憶體,13B 模型建議 16 GB,33B 模型建議 32 GB 以上。作業系統和其他程式也要佔用記憶體,請選高一檔的方案,先用小模型確認質量和速度,再逐步加大。
需要快速回應的服務、70B 以上的大模型、影象生成和微調都需要 GPU。這類工作請在 GPU 伺服器頁面瞭解,VPS 則負責呼叫 GPU 伺服器或 LLM API 的智慧體和工作流,這樣分工就能兼顧成本與速度。
如何在 VPS 上安裝 n8n 和 Ollama?
建立伺服器時在映像檔中選擇 Docker 應用,就會以 Ubuntu 24.04 上已裝好 Docker Engine 和 Docker Compose 的狀態啟動。連線後用 docker volume create n8n_data 建立儲存空間,再用 docker run -d --name n8n -p 5678:5678 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n 命令啟動 n8n。正式服務中,繫結網域和 HTTPS 使用更安全。
Ollama 用 curl -fsSL https://ollama.com/install.sh | sh 一行命令安裝,像 ollama run llama3.2 這樣填入模型名稱,就會下載並立即執行。安裝後伺服器內會在11434連接埠開放 API,同一伺服器上的 n8n 或 Python 代碼呼叫這個地址即可使用本地模型。
Ollama API 預設只接受伺服器內部的請求,保持原樣為好。需要從外部使用時,請透過 WireGuard 等 VPN 接入,或在 Nginx 代理上加認證,只讓允許的人使用。
如何安全執行 AI 智慧體伺服器?
LLM API 金鑰不要直接寫在代碼中,請放在環境變數或許可權收緊的檔案裡。在 API 一端設定用量上限,即使智慧體陷入反覆執行,費用也不會突然增加。伺服器只用 SSH 金鑰登入,n8n 等管理介面用強密碼和 HTTPS 保護。
智慧體使用讀取網頁、執行命令的工具時,許可權要給得窄。為智慧體單獨建立一個 Linux 使用者、只允許使用需要的目錄,或在 Docker 容器中執行,即使出錯也不會波及整台伺服器。
透過 587 端口上的郵件遞送服務發送代理的警報郵件,Telegram 或 Discord webhooks 也能很好地配合。開啟自動備份選項後,工作流程和聊天記錄也會保存,當您需要還原時,請在首次付款後在支援頁面上申請。
檢視更多用途 VPS
AI 智慧體 VPS,AI 自動化伺服器 常見問題
執行 AI 智慧體一定需要 GPU 嗎?
呼叫 LLM API 的智慧體,不需要 GPU,小型 VPS 就夠了。模型計算在 API 一端完成,伺服器只負責請求和結果處理。只有想自己快速執行大模型時,才需要考慮 GPU 伺服器。
用 Ollama 能執行多大的模型?
大記憶體方案可以執行與記憶體大小相匹配的模型。16 GB 可執行 7B~8B 量化模型,32 GB 可執行 13B 左右,64 GB 以上可執行 30B 左右的模型,但由於用 CPU 執行,出結果的速度比 GPU 慢。
用 CPU 執行的 LLM 實用嗎?
用於輸出短答案的工作完全夠用。文件分類、摘要、資訊提取、生成嵌入等結果較短的工作,CPU 也能很好地處理;實時大量生成長文的服務則適合 GPU 伺服器。
n8n 適合在哪種方案上執行?
個人或小團隊的 n8n 在 4 到 8 GB 記憶體上運行非常流暢。如果您有許多工作流程或處理大文件,請選擇 12 GB 或以上的 NVMe 方案,並按照 n8n 應用頁面上的安裝指南使用 Docker 部署。
可以在 VPS 上呼叫 OpenAI API 或其他 LLM API 嗎?
可以,伺服器向外發出的 HTTPS 請求可以自由使用。把 API 金鑰放在伺服器的環境變數中,由智慧體或 n8n 呼叫即可,API 使用規則請遵循各服務的條款。
AI 自動化伺服器最多能建立幾台?
一個帳戶最多可建立10台伺服器。可以把智慧體伺服器、資料庫伺服器和本地模型伺服器分開,也可以按客戶所在地區分別部署聊天機器人伺服器。
智慧體可以傳送郵件嗎?
可以,連線使用587連接埠的郵件傳送服務即可傳送。所有伺服器為保護 IP 信譽都關閉了25連接埠,把郵件傳送服務的 SMTP 資訊或 API 配置給智慧體使用即可。
模型檔案太大、磁碟不夠怎麼辦?
建立伺服器時在 50~1000 GB 之間加掛額外磁碟,就能充裕地存放模型檔案和資料。大記憶體方案使用 NVMe 磁碟,載入模型的速度也很快。
AI 伺服器費用如何支付?
您的伺服器會根據您選擇的計費週期(1、3、6 或 12 個月)建立。最低付款金額為 $25。
