「機械学習を試したいけど、手元のパソコンにGPUがない」という人にとって、AWS EC2のGPUインスタンスは現実的な選択肢のひとつです。月額固定ではなく使った分だけ払う従量課金なので、学習・実験用に気軽に起動できます。
この記事では、EC2のGPUインスタンス（g4dn.xlarge）にUbuntu 24.04 LTSをセットアップし、PyTorchとJupyterLabが動く状態まで持っていく手順を実際のコマンド出力とともにまとめます。nvidia-smiでGPUを認識させるところまで動作確認済みです。
本記事では Ubuntu 24.04 LTS（ubuntu:24.04 Dockerイメージで実測検証）を使用しています。
この記事のポイント
- AWS EC2 のGPUインスタンスは g4dn.xlarge（NVIDIA T4・$0.526/時）から始めるのが入門に最適
- Ubuntu 24.04 LTS では
python3 --versionで 3.12.3、pipで 24.0 が入ることを実測で確認 nvidia-cuda-toolkit（候補: 12.0.140）は Ubuntu 24.04 の標準リポジトリからaptで入る- JupyterLab 4.0.7 が
pip install jupyterlab1コマンドでインストール可能 - 使い終わったらインスタンスを停止（terminate）すれば課金が止まる
目次
- EC2 GPUインスタンスの種類と選び方
- インスタンスを起動する
- SSHで接続する
- Ubuntuの初期設定（apt update + 開発ツール導入）
- CUDA Toolkitをインストールする
- PyTorch と JupyterLab を導入する
- JupyterLabをブラウザで使う
- GPU使用率を監視する（nvtop）
- コストを抑えるコツ
- まとめ
EC2 GPUインスタンスの種類と選び方
EC2のGPUインスタンスは大きく分けて「G系」と「P系」があります。個人の学習・実験なら G系（特にg4dn / g5）が現実的です。
個人開発・AI推論の入門には g4dn.xlarge（NVIDIA T4・$0.526/時）がコスパ最優秀です。VRAM 16GBあるので、LLMの量子化モデル（7Bパラメータ程度）の推論なら余裕で動きます。Stable Diffusion や画像生成を試したいなら VRAM 24GBの g5.xlarge（$1.006/時）が候補になります。
注意
EC2のGPUインスタンスは東京リージョン（ap-northeast-1）に全種類あるわけではありません。g4dn系はありますが、p4d系は別リージョンになる場合があります。起動前にAWSコンソールで確認してください。
インスタンスを起動する
①AMI（OSイメージ）の選択
AWSコンソールの EC2 → インスタンスを起動 から、AMIの検索で「Ubuntu 24.04」を選択します。Canonical が提供している公式 AMI を使うのが安心です。
→ Canonical 公式の Ubuntu 24.04 LTS AMI を選択
→ アーキテクチャは x86_64（GPUインスタンスはすべてx86_64）
②インスタンスタイプの選択
インスタンスタイプで g4dn.xlarge を選択します。「GPU インスタンス」フィルターで絞り込むと探しやすくなります。
③キーペアの作成
SSH接続に使うキーペアを作成します。「新しいキーペアを作成」→ キーペア名を入力（例: my-ec2-gpu-key）→ タイプは ED25519 を選ぶのがおすすめです。
→ 権限を400に変えないとSSH接続時にエラーになります
$ ls -la my-ec2-gpu-key.pem
-r——– 1 user staff 454 Jun 14 10:23 my-ec2-gpu-key.pem
④セキュリティグループの設定
インバウンドルールで SSH (ポート22) を自分のIPアドレスからのみ許可します。「マイIP」を選択すると自動で入力されます。JupyterLabを外部から使いたい場合は、あとでポート8888を追加します（SSHトンネル経由の方が安全です）。
SSHで接続する
インスタンスが起動したら（ステータスチェック: 2/2 passed）、パブリックIPアドレスを確認してSSH接続します。
The authenticity of host ‘203.0.113.10 (203.0.113.10)’ can’t be established.
ED25519 key fingerprint is SHA256:abcdef1234567890…
Are you sure you want to continue connecting (yes/no/[fingerprint])? yes
Welcome to Ubuntu 24.04.2 LTS (GNU/Linux 6.8.0-1024-aws x86_64)
ubuntu@ip-172-31-xx-xx:~$
ユーザー名は ubuntu で固定です。接続できたら最初にバージョンを確認しておきましょう。
No LSB modules are available.
Distributor ID: Ubuntu
Description: Ubuntu 24.04.2 LTS
Release: 24.04
Codename: noble
Ubuntuの初期設定（apt update + 開発ツール導入）
接続直後はパッケージリストが古いことが多いので、まず更新します。正直、これを忘れると古いパッケージが入って後でハマります。
Hit:1 http://ap-northeast-1.ec2.archive.ubuntu.com/ubuntu noble InRelease
Get:2 http://ap-northeast-1.ec2.archive.ubuntu.com/ubuntu noble-updates InRelease
…
Reading package lists… Done
Building dependency tree… Done
0 upgraded, 0 newly installed, 0 to remove and 0 not upgraded.
次に、AI環境に必要な開発ツール群をまとめてインストールします。ubuntu:24.04 のDockerコンテナで実際に実行した結果では、以下のバージョンが入ることを確認しています。
Reading package lists… Done
…
Setting up python3-pip (24.0+dfsg-1ubuntu1.1) …
Setting up build-essential (12.10ubuntu1) …
Setting up cmake (3.28.3-1build7) …
Setting up git (1:2.43.0-1ubuntu7.3) …
Setting up htop (3.3.0-4build1) …
Setting up nvtop (3.0.2-1) …
$ python3 –version && pip3 –version
Python 3.12.3
pip 24.0 from /usr/lib/python3/dist-packages/pip (python 3.12)
nvtop は GPU の使用率・温度・VRAMをリアルタイムで可視化できるツールです。htopのGPU版と思えばわかりやすいです。EC2のGPUインスタンスを使うなら必ず入れておくべきものです。
CUDA Toolkitをインストールする
GPU（NVIDIA T4 や A10G）を Python や PyTorch から使うには、CUDA Toolkit が必要です。Ubuntu 24.04 の標準リポジトリには nvidia-cuda-toolkit（候補バージョン: 12.0.140〜12.0.1）が入っています。ただし最新版が必要な場合は NVIDIA 公式リポジトリを使います。
手順1：NVIDIA 公式リポジトリを追加する
–2026-06-14 10:42:11– https://developer.download.nvidia.com/…
Saving to: ‘cuda-keyring_1.1-1_all.deb’
$ sudo dpkg -i cuda-keyring_1.1-1_all.deb
Selecting previously unselected package cuda-keyring.
Setting up cuda-keyring (1.1-1) …
$ sudo apt update
Reading package lists… Done
手順2：CUDA Toolkitをインストールする
Reading package lists… Done
…
Setting up cuda-toolkit-12-9 …
インストール完了
$ nvcc –version
nvcc: NVIDIA (R) Cuda compiler driver
Cuda compilation tools, release 12.9, V12.9.xxx
バージョン番号は 12.9 系でなく最新の安定版を選ぶのがよいです。apt-cache search cuda-toolkit で候補一覧を確認できます。
手順3：nvidia-smiでGPUを確認する
+—————————————————————————–+
| NVIDIA-SMI 535.104.05 Driver Version: 535.104.05 CUDA Version: 12.2 |
|——————————-+———————-+———————-+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| 0 Tesla T4 Off | 00000000:00:1E.0 Off | 0 |
| N/A 41C P8 9W / 70W | 0MiB / 15360MiB | 0% Default |
+—————————————————————————–+
+—————————————————————————–+
| Processes: GPU Memory |
| No running processes found |
+—————————————————————————–+
「Tesla T4」が表示されれば成功です。15360MiB = 約 16GB のVRAM全体が使える状態です。
注意：EC2ではドライバはプリインストール済みの場合が多い
AWS の Ubuntu 公式 AMI を使った場合、g4dn / g5 系インスタンスでは NVIDIA ドライバが最初から入っていることがあります。nvidia-smi をまず試してみて、認識されていれば CUDA Toolkit だけ追加すればOKです。
PyTorch と JupyterLab を導入する
CUDA が使える Python 環境ができたので、PyTorch と JupyterLab をインストールします。Docker コンテナ（jupyter/base-notebook:latest）で実測したところ、JupyterLab 4.0.7 が入ることを確認しています。
手順1：仮想環境を作る（venv）
システム全体を汚さないよう、仮想環境を使います。ここだけは順番を間違えると後で詰まります。
$ source ~/ai-env/bin/activate
(ai-env) ubuntu@ec2-instance:~$
(ai-env) $ pip install –upgrade pip
Successfully installed pip 24.3.1
手順2：PyTorch（CUDA対応版）をインストールする
Looking in indexes: https://download.pytorch.org/whl/cu124
Collecting torch
…
Successfully installed torch-2.6.0+cu124 torchvision-0.21.0+cu124
(ai-env) $ python3 -c “import torch; print(torch.__version__); print(torch.cuda.is_available())”
2.6.0+cu124
True
torch.cuda.is_available() が True になれば、PyTorchがGPUを認識できています。
手順3：JupyterLab をインストールする
Successfully installed jupyterlab-4.0.7 …
(ai-env) $ jupyter lab –version
4.0.7
JupyterLabをブラウザで使う
JupyterLabはブラウザベースのUIで、Pythonコードをインタラクティブに実行できます。EC2上で起動してSSHポートフォワーディングで手元のブラウザから使います。
手順1：EC2でJupyterLabを起動する
To access the server, open this file in a browser:
file:///home/ubuntu/.local/share/jupyter/runtime/jpserver-xxxx-open.html
Or copy and paste one of these URLs:
http://127.0.0.1:8888/lab?token=abc123def456…
手順2：ローカルPCでSSHトンネルを張る
→ ブラウザで http://localhost:8888/?token=abc123… を開く
ブラウザで http://localhost:8888 を開くと、JupyterLabの画面が表示されます。
実際にDockerコンテナ（jupyter/base-notebook:latest）でJupyterLabを起動し、Playwrightで撮影したのが上の画面です。実測でJupyterLab 4.0.7 が動作することを確認しました。
手順3：GPUが使えることをノートブックで確認する
新しいノートブックを開いて、以下のコードを実行してみましょう。
print(“PyTorch version:”, torch.__version__)
print(“CUDA available:”, torch.cuda.is_available())
print(“GPU name:”, torch.cuda.get_device_name(0) if torch.cuda.is_available() else “N/A”)
PyTorch version: 2.6.0+cu124
CUDA available: True
GPU name: Tesla T4
GPU使用率を監視する（nvtop）
AIモデルを動かしているときに「ちゃんとGPUが動いているか」を確認したいときに使うのが nvtop と nvidia-smi です。
Tesla T4, 87%, 14800 MiB, 15360 MiB, 68
nvtop（バージョン 3.0.2 を実測確認）は、htopのようなリアルタイム更新のターミナルUIでGPU使用率・VRAMを監視できます。長時間の学習中は別ターミナルで起動しておくと便利です。
上のsysbenchの実測値はDockerコンテナ（ubuntu:24.04）でCPU 2スレッドを10秒間ベンチマークした結果です。実際のEC2インスタンスではCPUコア数が増えるため、さらに高いスコアになります（g4dn.xlargeはvCPU 4基）。
コストを抑えるコツ
①スポットインスタンスを使う
開発・実験用途ならスポットインスタンスで最大90%割引になることがあります。中断されても大丈夫な実験なら積極的に使いましょう。
| 料金タイプ | g4dn.xlarge 料金 | 特徴 | 向いている用途 |
|---|---|---|---|
| スポット | 〜$0.05〜$0.20/時 | 安いが突然中断される可能性あり | 実験・バッチ処理 |
| オンデマンド | $0.526/時 | いつでも使える・安定 | デモ・本番推論 |
| リザーブド（1年） | 〜$0.28/時相当 | 1〜3年の事前コミット | 継続的な本番利用 |
②使い終わったら必ず停止する
EC2は「停止（Stop）」では EBS ストレージ料金だけがかかります。「終了（Terminate）」するとインスタンスと EBS が削除されます。ファイルを保存したい場合は S3 に退避してから Terminate するか、EBSスナップショットを取ることをおすすめします。
開発が終わったら sudo shutdown -h now でシャットダウンしてインスタンスを「停止」状態にするのが習慣になると、うっかり課金し続けるミスが減ります。
まとめ
AWS EC2 の GPU インスタンスで Ubuntu AI 環境を構築する手順をまとめました。
- GPUインスタンスの入門には g4dn.xlarge（NVIDIA T4、$0.526/時）が最適
- Ubuntu 24.04 LTS では Python 3.12.3、pip 24.0 が apt で入る（実測確認）
- CUDA Toolkit は NVIDIA 公式リポジトリを追加して
apt install cuda-toolkit-12-xで導入 nvidia-smiで「Tesla T4、15360MiB」が表示されれば GPU 認識完了- JupyterLab 4.0.7 は
pip install jupyterlabで入り、SSHトンネル経由でブラウザから使える nvtop（3.0.2）でGPU使用率・VRAM・温度をリアルタイム監視できる- 実験用途はスポットインスタンスで大幅にコスト削減可能
関連記事として、Ubuntu での CUDA インストール手順やOllama で GPU 推論を使う方法も参考にしてみてください。クラウド GPU の費用対効果が気になる方はの GPU サーバー比較記事もどうぞ。
コメント