AI エージェント VPS、AI 自動化サーバー

CPU でモデルを動かすと、GPU より回答がゆっくり出ます。3B~8B サイズの量子化モデルはチャットのように読める程度の速度ですが、長い文章を一度に生成したり、複数の人が同時に使ったりすると待ち時間が長くなります。そのため CPU サーバーのローカルモデルは、分類、短い要約、情報の抽出のように短い回答を大量に出す作業に最も適しています。

Ollama の案内では、7B モデルはメモリ 8 GB、13B モデルは 16 GB、33B モデルは 32 GB 以上が推奨されています。OS やほかのプログラムもメモリを使うので1段階余裕のあるプランを選び、まず小さなモデルで品質と速度を確認してから大きくしていく順番がおすすめです。

速い応答が必要なサービス、70B 以上の大きなモデル、画像生成、ファインチューニングには GPU が必要です。こうした作業は GPU サーバーのページでご確認いただき、VPS は GPU サーバーや LLM API を呼び出すエージェントとワークフローを担う役割に分ければ、コストと速度を両立できます。

サーバー作成時にイメージで Docker アプリを選ぶと、Ubuntu 24.04 上に Docker Engine と Docker Compose がインストールされた状態で始まります。接続したら docker volume create n8n_data で保存領域を作り、docker run -d --name n8n -p 5678:5678 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n のコマンドで n8n を起動します。本番のサービスでは、ドメインと HTTPS を接続して使うほうが安全です。

Ollama は curl -fsSL https://ollama.com/install.sh | sh の1行でインストールし、ollama run llama3.2 のようにモデル名を入れるとダウンロードしてすぐに実行します。インストールするとサーバー内で11434番ポートの API が開き、同じサーバーの n8n や Python のコードがこのアドレスを呼び出してローカルモデルを使います。

Ollama の API は標準でサーバー内からだけ受け付けるので、そのままにしておくのがおすすめです。外部から使う必要があるなら、WireGuard のような VPN 経由で入るか、Nginx のプロキシに認証を付けて、許可した人だけが使えるようにしてください。

LLM の API キーはコードに直接書かず、環境変数か権限を絞ったファイルに置いてください。API 側で利用上限を決めておけば、エージェントが繰り返し実行に陥っても料金が急に増えることはありません。サーバーには SSH キーだけで接続し、n8n のような管理画面は強いパスワードと HTTPS で守ります。

エージェントがウェブを読み込み、コマンドを実行するツールを使う場合は、権限を狭く与えることが重要です。エージェント用の Linux ユーザーを別に作って必要なフォルダだけを使わせるか、Docker コンテナ内で動かせば、ミスが起きてもサーバー全体には広がりません。

エージェントのアラートメールはポート587を使用するメール配信サービスを通じて送信し、Telegram や Discord の Webhook も併用すると便利です。自動バックアップオプションをオンにするとワークフローとチャット履歴も保存され、復元が必要な場合は最初の支払い後にサポートページから依頼します。