Vultr GPUサーバー on Ubuntu — A100/H100インスタンスでAI推論環境構築

GPUサーバーを借りてAI推論を試したいけれど、どのサービスを選べばいいか迷っていませんか？結論から言うと、東京リージョンがあって料金体系が明快な Vultr の Cloud GPU は、日本から触る最初のGPUクラウドとして有力な選択肢です。この記事では、VultrのGPUインスタンスを Ubuntu 24.04 LTS で立ち上げ、Ollama + PyTorch でAI推論環境を構築する手順を解説します。

本記事では、Vultr公式の料金ページを実際にブラウザで取得し、日本からのping遅延・Ubuntu 24.04のNVIDIAドライバ事情・SSH鍵生成・Ollamaの起動までを、すべて手元で動かした実データで裏付けています。骨格段階で想定していた「A100 $3.20/hr」のような数字は、実際に公式ページを叩いたらまったく違っていました。その実態も含めて正直にお伝えします。

目次

1. Vultr GPUプランの選び方（実料金）
2. 日本からのリージョン遅延比較（実測）
3. インスタンス作成とSSH接続
4. NVIDIAドライバのインストール
5. CUDA Toolkit のインストール
6. Ollama でLLM推論環境を構築
7. PyTorch + GPU 動作確認
8. コスト管理と停止・削除の手順
9. まとめ

Vultr GPUプランの選び方（実料金）

Vultr の Cloud GPU は、公式の料金ページ（vultr.com/pricing）で各GPUの構成と時間単価が公開されています。2026年6月14日に料金ページを Playwright で取得したところ、提供されているNVIDIA GPUは H100 / A100 / L40S / A40 / A16 / GH200 の6系統でした（AMD の MI300X / MI325X / MI355X も提供あり）。実際に取得した料金が次の表です。

骨格段階では「A100 SXM4 $3.20/hr」「A100 PCIe 40GB $2.10/hr」「L40S $3.25/hr」と想定していましたが、実際に公式ページを取得した数字は大きく違いました。とくに目を引いたのは次の2点です。

• H100が思ったより安い：8枚構成の HGX H100 は $1.990/GPU/hr。単発の A100 PCIe 80GB（$2.397/hr）より1GPUあたりは安く、最新世代のH100がコスパで上回るという結果でした。
• A100 PCIeは40GBではなく80GB：Vultrの A100 PCIe は80GB版で、LLaMA系70Bクラスの量子化モデルも単GPUに載せやすい構成です。

用途別の目安は次の通りです。7B〜13BクラスのLLM推論なら L40S（48GB, $1.671/GPU/hr）や A100 PCIe（80GB）が手頃です。70Bクラスや学習を回すなら H100 / HGX A100 のマルチGPU構成（NVLink付き）が向いています。画像生成（Stable Diffusion系）は映像コアを持つ L40S が好相性です。

下のスクリーンショットは、実際に取得した Vultr 料金ページの Cloud GPU セクションです（2026-06-14撮影）。GPUごとに構成・GPU RAM・vCPU・Hourly Price が一覧化されています。

日本からのリージョン遅延比較（実測）

GPUインスタンスを選ぶとき、日本からのレイテンシも重要です。Vultr は各データセンターに *-ping.vultr.com という計測用エンドポイントを公開しています。2026年6月14日に日本国内（macOS）から ping -c 10 を実行して各リージョンの遅延を実測しました。

結果は東京が 平均 21.1 ms と圧倒的に低遅延でした。続いてシンガポール 87.9 ms、ロサンゼルス 129.6 ms、シリコンバレー 135.0 ms、フランクフルト 246.3 ms という順です。SSHでの操作感を重視するなら東京一択ですが、GPUの空き状況は地域で変動するため、API経由のバッチ推論なら遅延より空きを優先してもよいでしょう。

インスタンス作成とSSH接続

手順1：Vultrアカウントを作成してGPUインスタンスを選択

まずVultrアカウントを作成してコントロールパネルにログインします。

「Deploy」→「Cloud GPU」を選択し、上の料金表で選んだプランを指定します。OSは Ubuntu 24.04 LTS を選んでください（LTSなのでドライバ・パッケージのサポートが安定しています）。下は Vultr の Cloud GPU 製品ページ（2026-06-14撮影）で、提供GPUの全体像を確認できます。

手順2：SSH鍵を生成してインスタンスに登録する

SSH公開鍵はデプロイ前に登録しておくと安全です。ローカルで次のコマンドを実行して ED25519 鍵ペアを生成します。SSH（Secure Shell：暗号化された遠隔ログインの仕組み）の鍵認証はパスワードより安全です。

上記は ubuntu:24.04 公式Dockerイメージ内で実際に実行した結果です（OpenSSH 9.6p1、2026-06-14確認）。出力された公開鍵（.pub の中身）を Vultr コントロールパネルの「SSH Keys」に登録してから、インスタンスをデプロイします。

手順3：インスタンスへSSH接続

NVIDIAドライバのインストール

Ubuntu 24.04 LTS では apt から直接 NVIDIA ドライバをインストールできます。どのバージョンが入手できるか、実際に ubuntu:24.04 コンテナで apt-cache search を叩いて確認しました。

結果、2026年6月14日時点で nvidia-driver-535 から nvidia-driver-595 まで（それぞれ -open／-server 版を含む）が apt から導入可能でした。実環境では1つずつ指定するより、ubuntu-drivers に最適なドライバを自動選択させるのが簡単です。

手順4：ドライバ動作確認

再起動後、nvidia-smi でGPUが認識されているか確認します。実GPUインスタンス上では、たとえばA100 80GBなら次のような表示になります。

CUDA Toolkit のインストール

PyTorch や TensorFlow をビルド・実行するには CUDA Toolkit が必要になる場面があります。Ubuntu 24.04 では apt にも nvidia-cuda-toolkit がありますが、apt版のバージョンは CUDA 12.0（12.0.140）と古めでした（Dockerで実確認）。

Ollama でLLM推論環境を構築

Ollama はコマンド1本でLLMをダウンロード・実行できるツールです。GPUが認識された状態なら自動的にGPU推論になります。実際に ollama/ollama の公式Dockerイメージを起動して、バージョンとAPIの挙動を確認しました（v0.30.8、2026-06-14）。

手順5：Ollama のインストール

インストールが終わると、Ollamaは systemd サービスとして自動起動し、APIがポート 11434 で待ち受けます。実際にブラウザで http://localhost:11434/ にアクセスすると「Ollama is running」と表示されました（下のスクリーンショット）。これが出ていれば、API経由でのモデル呼び出しが可能な状態です。

手順6：モデルをダウンロードして推論実行

GPU搭載インスタンスなら、ollama run 時に自動でGPUへモデルがロードされます。8BクラスのモデルはA100クラスのGPUで数十〜100トークン/秒以上の生成速度が見込めます（モデル・量子化・GPUにより変動）。CPUのみだと1〜2トークン/秒程度なので、GPU推論の恩恵は体感ではっきり分かるレベルです。

llama3:70b（70Bモデル）でも、A100 80GB なら量子化なしで全量がVRAMに乗ります。もっと大きなモデルを試したいときは、Vultrの HGX A100/H100 のマルチGPU構成（NVLink付き）を選べばモデル分割もしやすいです。

PyTorch + GPU 動作確認

Python でのAI開発では PyTorch が定番です。Ubuntu 24.04 では Python 3.12.3 が apt の標準候補で、pip でフレームワークを導入できます（候補バージョンはDockerで確認）。

手順7：PyTorch の CUDA 対応版をインストール

手順8：GPU 認識確認（Python）

実GPUインスタンス上では、次のように torch.cuda.is_available() が True を返し、GPU名が表示されれば成功です（GPU非搭載の本検証環境では再現例として示します）。

参考として、ローカルDocker（ubuntu:24.04、4スレッド）で sysbench のCPUベンチを3回計測しました。次の図のとおり、値は 3,762〜14,005 events/sec（3回平均 7,820.6）と大きくブレています。

このブレは、共有CPU・サーマルスロットリングが効くローカルDocker特有のものです。専有vCPUを持つVultr実インスタンスでは、ここまで大きくはブレません。VPSのCPU性能を厳密に比較したい場合は、実機で再計測するのが前提になります。GPU推論ではCPUよりGPU性能が支配的ですが、データ前処理やトークナイズではCPUコア数も効いてきます。

コスト管理と停止・削除の手順

GPUインスタンスは時間課金です。使い終わったらすぐ対処しないと、意図しない高額請求につながります。操作ごとの違いを整理しておきましょう。

まとめ

Vultr GPUインスタンスを使った Ubuntu 24.04 LTS でのAI推論環境構築は、次の流れで完了します。

• VultrのNVIDIA GPUは HGX H100 $1.990/GPU/hr、A100 PCIe 80GB $2.397/hr、L40S $1.671/GPU/hr（2026-06-14 公式実取得）
• 8枚構成のH100が単発A100 PCIeより1GPUあたり安いという、想定外の結果だった
• 日本から東京リージョンへの ping は平均 21.1 ms（実測）と国内最速クラス
• Ubuntu 24.04 では nvidia-driver-535〜595 が apt で導入可能。ubuntu-drivers install で自動選択できる
• apt の CUDA Toolkit は 12.0 と古め。最新は pip の +cuXXX wheels が確実
• Ollama（v0.30.8）はインストール後ポート11434でAPIが起動する（実起動で確認）
• 使い終わったら スナップショット → 削除 でコストを最小化する

VPSでの開発環境構築全般については、以下の記事も参考にしてください。

より手軽に、あるいは比較しながらGPU環境を試したい場合は、以下の代替サービスも検討してみてください。