Ubuntu ローカルAI完全スタック — Ollama+Open WebUI+ComfyUI+WhisperX統合構成

ローカルLLM

「Ubuntu でローカルAIを動かしたいけど、どこから手を付ければいいのかわからない」という方は多いと思います。Ollama・Open WebUI・ComfyUI・WhisperX——それぞれ単体の導入記事はたくさんあるのですが、これらを1台のマシンで統合して動かす完全ガイドはなかなか見つかりません。

本記事では Ubuntu 24.04 LTS 上に、LLMチャット(Ollama + Open WebUI)・画像生成(ComfyUI)・音声文字起こし(WhisperX)を組み合わせた「ローカルAI完全スタック」を構築する手順を、実際にコマンドを動かして取得した結果とともに紹介します。バージョンや数字はすべて 2026-06-14 に実機・Docker・公式APIで確認した実測値です。

結論から言うと、4つのコンポーネントはポートが Ollama=11434・Open WebUI=3000・ComfyUI=8188 とデフォルトで分かれており、同じ Ubuntu マシンで問題なく共存できます。CPU だけでも動きますが、画像生成と音声認識は GPU があると大幅に速くなります。

この記事のポイント

  • Ollama は公式スクリプト一発で導入でき、実測で ollama version is 0.30.8、REST API は {"version":"0.30.8"} を返した
  • Open WebUI は最新 v0.9.6 を Docker で起動し、ブラウザから ChatGPT ライクにLLMを操作できる(実画面あり)
  • ComfyUI は最新 v0.24.0、WhisperX は 3.8.6(いずれも一次ソースで実取得)
  • Ubuntu 24.04 の apt には docker.io 29.1.3 / python3 3.12.3 / ffmpeg 6.1.1 が収録されている(実測)
  • 小型モデル qwen2.5:0.5b の実推論で約 73.6 tokens/sec(モデルロード済み・CPU)を計測

目次

  1. 動作確認済み環境
  2. スタック全体の構成
  3. Step 1: Ollama のインストールと実推論
  4. Step 2: Open WebUI を Docker で起動
  5. Step 3: ComfyUI のセットアップ
  6. Step 4: WhisperX のインストール
  7. Step 5: スタック統合と動作確認
  8. よくあるエラーと解決策
  9. まとめ

動作確認済み環境

本記事のコマンドは、Ubuntu 24.04 公式 Docker イメージ・ollama/ollama コンテナ・各 AI ツールの公式リポジトリ/PyPI で実際に確認しています。まずベースとなる Ubuntu のバージョンと、各コンポーネントの実測バージョンを見ておきましょう。

Ubuntu 24.04.4 LTS の環境情報と Ollama 0.30.8 稼働確認(実測)
Ubuntu 24.04.4 LTS の環境情報と Ollama 0.30.8 稼働確認(実測)

Ubuntu は VERSION="24.04.4 LTS (Noble Numbat)" を確認しました(docker run --rm ubuntu:24.04/etc/os-release を実出力)。各コンポーネントの「いま本当の最新版」は、PyPI の JSON API と GitHub API を実際に叩いて取得しています。

ローカルAI 4コンポーネントの最新バージョン(一次ソース実取得)
ローカルAI 4コンポーネントの最新バージョン(一次ソース実取得)
コンポーネント バージョン(実測) 役割
Ubuntu 24.04.4 LTS(Noble Numbat) ホストOS
Ollama 0.30.8 LLM 推論エンジン
Open WebUI v0.9.6 LLM チャット UI
ComfyUI v0.24.0 画像生成 UI
WhisperX 3.8.6 音声文字起こし
Docker 29.1.3(apt: docker.io) コンテナ管理
Python 3.12.3(Ubuntu 24.04 apt) ComfyUI / WhisperX 実行

注意:GPU について

ComfyUI と WhisperX は GPU(CUDA / Metal)があると大幅に高速化されます。CPU のみでも動作しますが、Stable Diffusion の画像生成は数分〜十数分かかることがあります。本記事の推論ベンチは aarch64 の Docker(CPU)で計測しているため、x86_64 + GPU の環境ではさらに速くなります。なお apt のパッケージバージョン(docker.io 29.1.3 など)はアーキテクチャに依存せず同じ文字列です。

スタック全体の構成

まず全体像を把握しておきましょう。4つのコンポーネントがどのポートで待ち受け、どう連携するかを図で確認します。

Ubuntu ローカルAI完全スタック構成図(概念図)
Ubuntu ローカルAI完全スタック構成図(概念図)

構成のポイントは次の3点です。

  • Ollama(:11434) が LLM の推論エンジンとして動き、REST API で Open WebUI から呼び出される
  • Open WebUI(:3000)ComfyUI(:8188) はどちらもブラウザから操作する。それぞれ独立して動作する
  • WhisperX はコマンドラインツールとして使い、文字起こし結果を Ollama に渡す使い方が多い

ポートが重ならないので、1台の VPS や自宅サーバーにまとめて入れても衝突しません。ここからは各コンポーネントを順番に入れていきます。

Step 1: Ollama のインストールと実推論

①前提パッケージのインストール

まず Ubuntu の apt を最新化し、スタック全体で使う前提パッケージ(ffmpeg / python3-venv / curl / git など)を入れます。docker run --rm ubuntu:24.04 で実際にインストールし、入ったバージョンを確認しました。

前提パッケージの apt 一括インストール実ログ(Ubuntu 24.04 実測)
前提パッケージの apt 一括インストール実ログ(Ubuntu 24.04 実測)



ubuntu@linuxlab: ~
$ sudo apt update && sudo apt install -y \
ffmpeg python3-venv python3-pip curl ca-certificates git

$ ffmpeg -version | head -1; python3 –version; curl –version | head -1
ffmpeg version 6.1.1-3ubuntu5
Python 3.12.3
curl 8.5.0 (aarch64-unknown-linux-gnu) libcurl/8.5.0 OpenSSL/3.0.13 …
git version 2.43.0

Ubuntu 24.04 LTS では ffmpeg 6.1.1Python 3.12.3pip 24.0curl 8.5.0git 2.43.0 が入りました(docker run --rm ubuntu:24.04 で実測、2026-06-14)。22.04 と 24.04 でこれらのバージョンは次のように異なります。

スタック前提パッケージの apt バージョン比較(Ubuntu 22.04 vs 24.04 実測)
スタック前提パッケージの apt バージョン比較(Ubuntu 22.04 vs 24.04 実測)

22.04 より 24.04 を推奨

docker.io(29.1.3)と docker-compose-v2(2.40.3)は 22.04 / 24.04 とも同じバージョンが配布されますが、Python は 22.04=3.10 / 24.04=3.12、ffmpeg は 4.4 / 6.1 と差があります。WhisperX は requires_python >=3.10,<3.14 なので、新しい 24.04 のほうがトラブルが少ないです。

②Ollama のインストール

Ollama は apt には収録されていません。公式インストールスクリプトを使います。このスクリプトを実際に取得して中身を確認したところ、456行・約15.9KBで、systemd サービスの作成と /usr/local/bin への配置を行う内容でした(curl https://ollama.com/install.sh を実取得、2026-06-14)。




ubuntu@linuxlab: ~
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Installing ollama to /usr/local/bin…
>>> Creating ollama systemd service…
>>> Ollama install complete!
$ ollama –version
ollama version is 0.30.8

systemd 環境ではインストール後に自動起動します。起動を確認するには curl http://localhost:11434/api/version で API の疎通を見ます。

③Ollama API とモデルの実推論

ここでは実際に ollama/ollama の Docker コンテナで Ollama 0.30.8 を起動し、小型モデル qwen2.5:0.5b(397MB)を pull して REST API で推論してみました。

Ollama でモデルを pull して実推論(実測メトリクス)
Ollama でモデルを pull して実推論(実測メトリクス)



ubuntu@linuxlab: ~
$ curl -s http://localhost:11434/api/version
{“version”:”0.30.8″}
$ ollama pull qwen2.5:0.5b
pulling 832dd9e00a68: 100% |████████████| 398 MB
success
$ curl -s http://localhost:11434/api/generate -d \
‘{“model”:”qwen2.5:0.5b”,”prompt”:”Linuxとは?10字で。”,”stream”:false}’
{“response”:”Linuxはオープンソースのソフトウェア開発環境…”,
“eval_count”:29,”done_reason”:”stop”}

実測では eval_count=29 トークンを eval_duration=0.39秒 で生成し、約 73.6 tokens/sec(モデルロード済みの2回目以降)でした。なお初回呼び出しはモデルのメモリロードを含むため、同じプロンプトでも total_duration が約33秒かかります。今回は aarch64 エミュレーション + CPU 推論なので、x86_64 + GPU の実機ではこの数倍以上のスループットが期待できます。

モデルのダウンロードには時間がかかります

軽量な qwen2.5:0.5b でも約400MB、llama3.1:8b は約4.7GBあります。ダウンロード中にターミナルを閉じると再開が必要になるので、tmuxscreen での実行をおすすめします。

Step 2: Open WebUI を Docker で起動

Ollama が動いたら、ブラウザから操作できる ChatGPT ライクな UI「Open WebUI」を立ち上げます。実測時点の最新は v0.9.6(GitHub スター 141,419)で、Docker で管理するのが最もシンプルです。

①Docker と Docker Compose のインストール




ubuntu@linuxlab: ~
$ sudo apt install -y docker.io docker-compose-v2
Setting up docker.io (29.1.3-0ubuntu3~24.04.2) …
$ sudo usermod -aG docker $USER # グループ変更後は再ログイン
$ docker –version
Docker version 29.1.3, build 29.1.3-0ubuntu3~24.04.2

Ubuntu 24.04 の apt では docker.io 29.1.3docker-compose-v2 2.40.3 が取得できました(実測、2026-06-14)。

②docker-compose.yml の作成と起動

Open WebUI からホスト側の Ollama に接続するため、OLLAMA_BASE_URLhost.docker.internal:11434 を指定するのがポイントです。




ubuntu@linuxlab: ~/ai-stack
$ cat > docker-compose.yml << ‘EOF’
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
ports:
– “3000:8080”
environment:
– OLLAMA_BASE_URL=http://host.docker.internal:11434
extra_hosts:
– “host.docker.internal:host-gateway”
volumes:
– open-webui:/app/backend/data
restart: unless-stopped
volumes:
open-webui:
EOF
$ docker compose up -d
✔ Container ai-stack-open-webui-1 Started

起動後、ブラウザで http://localhost:3000 を開きます。初回はスプラッシュ画面の「Get started」を押すと、ログイン/アカウント作成画面が表示されます。実際にアクセスした画面がこちらです。

Open WebUI のサインイン画面(実起動)
Open WebUI のサインイン画面(実起動)

最初に作成したアカウントが自動的に管理者になります。ログインすると ChatGPT ライクなメインチャット画面が開き、画面上部のモデル選択から Ollama で pull したモデルを選んで会話できます。

Open WebUI のメインチャット画面(実起動)
Open WebUI のメインチャット画面(実起動)
著者アイコン
著者アイコン

Open WebUI の初回起動は1〜2分かかります。DBのマイグレーションや埋め込みモデルのダウンロードが走るためです。docker compose logs -f で進捗を確認できます。コンテナが healthy になってからアクセスしましょう。

③バージョンと管理設定の確認

管理者でログインすると、Settings > General から Open WebUI のバージョンや認証設定を確認できます。実際の画面では v0.9.6 (latest) と表示され、PyPI / GitHub で取得したバージョンと一致していました。

Open WebUI の管理設定画面(v0.9.6 を表示)
Open WebUI の管理設定画面(v0.9.6 を表示)

Step 3: ComfyUI のセットアップ

ComfyUI は Stable Diffusion 系のワークフローベース画像生成UIです。実測時点の最新は v0.24.0(GitHub スター 116,894)。Python の仮想環境を使って起動します。

①リポジトリのクローンと仮想環境の作成




ubuntu@linuxlab: ~
$ git clone https://github.com/comfyanonymous/ComfyUI.git
Cloning into ‘ComfyUI’…
done.
$ cd ComfyUI && python3 -m venv venv && source venv/bin/activate
(venv) $

②PyTorch と ComfyUI 依存ライブラリのインストール

GPU なし(CPU モード)の場合は CPU 版 PyTorch を入れます。GPU(CUDA)環境では --index-url https://download.pytorch.org/whl/cu124 など CUDA バージョンに合わせて変更してください。




ubuntu@linuxlab: ~/ComfyUI
(venv) $ # CPU モードの場合
(venv) $ pip install torch torchvision torchaudio \
–index-url https://download.pytorch.org/whl/cpu
(venv) $ pip install -r requirements.txt
Successfully installed …

③起動と動作確認




ubuntu@linuxlab: ~/ComfyUI
(venv) $ python main.py –cpu –listen 0.0.0.0 –port 8188
Starting server
To see the GUI go to: http://0.0.0.0:8188

ブラウザで http://localhost:8188 を開くと ComfyUI のワークフローエディタが表示されます。Stable Diffusion のモデルファイル(.safetensors)を ComfyUI/models/checkpoints/ に置くと画像生成ができます。

モデルの置き場所

ComfyUI でモデルを使うには ComfyUI/models/checkpoints/.safetensors ファイルを配置します。Civitai や Hugging Face からダウンロードできます(数GB以上になることがあります)。

Step 4: WhisperX のインストール

WhisperX は OpenAI Whisper を高速化し、話者分離と正確なタイムスタンプを追加したライブラリです。実測時点の最新は 3.8.6 で、主要依存は faster-whisper 1.2.1pyannote.audio 4.0.4(いずれも PyPI で実取得、2026-06-14)。

①インストール

WhisperX は pip で入ります。依存に PyTorch が含まれるため、ComfyUI とは別の仮想環境に分けるのがおすすめです。requires_python>=3.10,<3.14 なので、Ubuntu 24.04 の Python 3.12 で問題なく動きます。




ubuntu@linuxlab: ~
$ python3 -m venv whisperx-env && source whisperx-env/bin/activate
(whisperx-env) $ pip install whisperx
Collecting whisperx
Downloading whisperx-3.8.6-py3-none-any.whl
Collecting faster-whisper>=1.0.2 (from whisperx)
Collecting pyannote-audio>=3.1.1 (from whisperx)
Successfully installed whisperx-3.8.6 faster-whisper-1.2.1 …
(whisperx-env) $ pip show whisperx | head -2
Name: whisperx
Version: 3.8.6

WhisperX は内部で ffmpeg を使うため、Step 1 で入れた ffmpeg 6.1.1 が必要です。入っていないと ffmpeg not found で止まります。

②文字起こしの実行




ubuntu@linuxlab: ~
(whisperx-env) $ whisperx audio.mp3 –model base –language ja
[00:00.000 –> 00:05.123] こんにちは、Ubuntu でローカルAIを試しています
[00:05.123 –> 00:10.456] Ollama と WhisperX を組み合わせると便利です
Saved transcript: audio.json, audio.vtt, audio.srt

--model base はダウンロードサイズが約142MBで、精度と速度のバランスが良い設定です。より高精度が必要な場合は --model large-v2(約3GB)を使います。CPU でも動きますが、長い音声は GPU があると体感が大きく変わります。

Step 5: スタック統合と動作確認

4つのコンポーネントをすべて起動した状態で、連携を確認します。

①起動順序

正直、起動順序を間違えると連携がうまくいかないことがあります。次の順番を守ってください。

  1. ollama serve(または systemd で自動起動)→ LLM エンジンを先に
  2. docker compose up -d → Open WebUI を起動(Ollama 起動後に)
  3. python main.py --cpu → ComfyUI を起動(モデルを置いてから)
  4. WhisperX → 必要なときに CLI で呼び出す(常駐不要)

②ポート一覧

サービス ポート アクセス URL 用途
Ollama 11434 http://localhost:11434/api/version LLM REST API(Open WebUI が自動接続)
Open WebUI 3000 http://localhost:3000 LLM チャット UI(ブラウザ操作)
ComfyUI 8188 http://localhost:8188 画像生成ワークフロー UI
WhisperX CLI のみ 音声ファイルのテキスト化(都度実行)

③動作確認コマンド




ubuntu@linuxlab: ~
$ curl -s http://localhost:11434/api/version # Ollama
{“version”:”0.30.8″}
$ docker compose ps # Open WebUI
NAME STATUS
ai-stack-open-webui-1 Up (healthy)
$ curl -s http://localhost:8188/system_stats # ComfyUI
{“system”:{“os”:”posix”, …}}

3つの API がすべて応答すれば、ローカルAIスタックの統合は完了です。

よくあるエラーと解決策

①Ollama: connection refused になる

curl http://localhost:11434/api/versionconnection refused が出る場合、Ollama が起動していません。systemctl status ollama で確認し、inactive (dead) なら systemctl start ollamasystemctl enable ollama で起動・自動起動を設定します。

②Open WebUI: Ollama に接続できない

Docker コンテナ内から localhost を指定しても、ホストの Ollama には届きません。docker-compose.ymlOLLAMA_BASE_URLhttp://host.docker.internal:11434 になっているか確認してください(localhost だと繋がりません)。

③ComfyUI: No module named 'torch'

仮想環境を有効化せずに起動すると発生します。source venv/bin/activate を実行してから python main.py を起動してください。

④WhisperX: ffmpeg not found

WhisperX は音声デコードに ffmpeg を使います。sudo apt install -y ffmpeg(Ubuntu 24.04 では 6.1.1 が入ります)でインストールしてから再実行してください。

まとめ

Ubuntu 24.04 LTS 上に Ollama・Open WebUI・ComfyUI・WhisperX を統合する手順を、実測値とともに紹介しました。

  • Ollama 0.30.8 は公式スクリプト一発で導入でき、curl http://localhost:11434/api/version{"version":"0.30.8"} を確認できる(実測)
  • Open WebUI v0.9.6 は Docker で管理し、OLLAMA_BASE_URL=http://host.docker.internal:11434 でホストの Ollama に接続する
  • ComfyUI v0.24.0 は Python 仮想環境 + python main.py --cpu で起動し、:8188 にブラウザでアクセスできる
  • WhisperX 3.8.6 は pip install whisperx で入り、whisperx audio.mp3 --language ja で日本語文字起こしができる
  • 各サービスのポートは Ollama:11434 / Open WebUI:3000 / ComfyUI:8188 と分かれており、1台のマシンで共存できる

「VPSを借りてこのスタックを動かしたい」という場合は、下記のVPS選びの記事も参考にしてください。RAM 8GB以上・ストレージ 50GB以上を目安にし、画像生成や large モデルを快適に使うなら GPU 搭載プランがおすすめです。

コメント

タイトルとURLをコピーしました