Ollama APIプロキシ on Ubuntu — OpenAI互換エンドポイントを本番公開

Ollamaをインストールすれば、自分のVPSでローカルLLM（大規模言語モデル）を動かせます。ただ、デフォルトのままでは localhost:11434 でしか使えません。「VPSに立てたOllamaをOpenAI SDKからそのまま叩きたい」「チームに安全に公開したい」となると、NginxをリバースプロキシにしてHTTPS化とAPIキー認証を足すのが定番の構成です。

結論から言うと、Ollamaは /v1/ 以下にOpenAI互換エンドポイントを標準搭載しているので、追加のソフトは要りません。前段にNginxを置いて認証と暗号化だけを足せば本番公開できます。本記事では、稼働中のOllama 0.30.8に実際にAPIを叩いた生レスポンスと、Ubuntu 24.04（公式Dockerイメージ）でNginxを立ててエンドツーエンドでプロキシ検証した実測結果をもとに手順を解説します。

目次

1. アーキテクチャの全体像
2. 前提環境
3. Ollamaのインストールと動作確認
4. OpenAI互換エンドポイントを実際に叩く
5. Nginxのインストール
6. リバースプロキシ設定とAPIキー認証
7. APIキー認証のエンドツーエンド検証
8. Let’s EncryptでHTTPS化
9. UFWファイアウォール設定
10. OpenAI SDKから接続テスト
11. よくあるエラーと解決策
12. まとめ

アーキテクチャの全体像

構成はシンプルです。インターネットからのリクエストをNginxが受け取り、APIキーを検証してからOllamaへ転送します。

ポイントは2つです。まず OllamaがHTTPサーバーとして動いており、外部から叩けるAPIを持っていること。次にその /v1/ 以下がOpenAI SDKと互換形式になっていること。Nginxは「HTTPS終端・認証・ロギング」だけを担当し、モデルの実行はすべてOllamaが受け持ちます。Ollama本体は 127.0.0.1:11434 にだけバインドし、外部からはNginx（443番）経由でしか触れないようにするのが安全な形です。

前提環境

この記事では次の環境を前提としています。Nginx関連の検証は ubuntu:24.04 公式Dockerイメージ上で実際にパッケージを導入して取得しました。

Ollamaのインストールと動作確認

手順1：Ollama をインストールする

OllamaはLinux向けの公式インストールスクリプトを提供しています。curlで一発です。

インストールスクリプトがSystemdサービス（Linuxのサービス管理の仕組み）も自動登録します。再起動後も ollama serve は自動で立ち上がります。

手順2：モデルをプルして動作確認する

軽量モデル llama3.2:1b（約1.3GB）でまず動作を確認します。GPUなしのVPSでも動きます。

OpenAI互換エンドポイントを実際に叩く

OllamaはデフォルトでOpenAI互換の /v1/ エンドポイントを持っています。今回、稼働中の Ollama 0.30.8 に対して各エンドポイントを実際に curl で叩き、どれがそのまま使えるかを実測しました。

結果はご覧の通りで、チャット補完・テキスト補完・モデル一覧は追加設定なしでそのまま200が返ってきます。一方、/v1/embeddings だけは既定で無効になっていました（後述）。実際のレスポンスを順番に見ていきます。

①バージョン確認とモデル一覧

OpenAI SDKが期待するフォーマットのモデル一覧が返ってきます。実測した環境では18件のモデルが返りました。Authorization: Bearer ヘッダーは必要ですが、Ollama本体では値は何でもOKです（認証はあとでNginx側に持たせます）。

1つ注意点です。モデルを一度も pull していない状態だと /v1/models の data は空になります。最低1つはモデルをpullしてから試してください。

② /v1/chat/completions — チャット補完（メイン）

レスポンスは object: "chat.completion" から usage のトークン数まで、OpenAI APIと同一の形式です（実測値: prompt 35 / completion 36 / total 71 トークン）。既存のOpenAI SDK呼び出しコードを変更なしで使い回せます。

Nginxのインストール

Ubuntu 24.04 の標準リポジトリから nginx と、後でHTTPS化に使う certbot を一緒にインストールします。下のバージョンは ubuntu:24.04 公式イメージで実際に apt-cache policy と --version を実行して取得した実測値です。

実測時点で apt の候補バージョンは nginx 1.24.0-2ubuntu7.11 でした（noble-updates / noble-security リポジトリ）。インストール前に apt-cache policy nginx で候補バージョンを確認できます。

リバースプロキシ設定とAPIキー認証

手順1：Ollama の LISTEN アドレスをループバックに固定する

Nginxを経由させる前提なので、Ollama本体は 127.0.0.1:11434 だけにバインドします。systemdの環境変数で設定するのが確実です。

手順2：Nginx プロキシ設定ファイルを作成する

Nginx の設定ファイルを新規作成します。APIキー認証とOpenAI互換エンドポイントへのプロキシを1ファイルにまとめます。api.example.com は自分のドメインに、sk-linuxlab-demo-7Qx2 は十分長いランダムな文字列に置き換えてください。

以下が、今回エンドツーエンドの動作確認まで通した設定です。

upstream ollama_backend {
    server 127.0.0.1:11434;
}

server {
    listen 80;
    server_name api.example.com;
    # 後でCertbotがHTTPS設定を追記する

    # OpenAI互換エンドポイント /v1/ をOllamaへ転送
    location /v1/ {
        # APIキー認証はこの location 内に置く（serverレベルに置くと /health まで巻き込む）
        if ($http_authorization != "Bearer sk-linuxlab-demo-7Qx2") {
            return 401 '{"error":{"message":"Invalid API key","type":"invalid_request_error"}}';
        }

        proxy_pass         http://ollama_backend/v1/;
        proxy_set_header   Host $host;
        proxy_set_header   X-Real-IP $remote_addr;
        proxy_read_timeout 300s;
        proxy_buffering    off;  # ストリーミングレスポンス対応
        add_header Access-Control-Allow-Origin * always;
    }

    # ヘルスチェック（認証不要）
    location = /health {
        return 200 '{"status":"ok"}';
        add_header Content-Type application/json;
    }
}

手順3：設定ファイルの文法チェックと反映

実際に ubuntu:24.04 で nginx 1.24.0 を使い、この設定で nginx -t を実行して “syntax is ok / test is successful” を確認済みです。

APIキー認証のエンドツーエンド検証

設定したら、本当にAPIキー認証が効いているかを確認します。今回は ubuntu:24.04 でNginxを起動し、稼働中のOllama 0.30.8へ実際にプロキシして、APIキーの有無でHTTPコードがどう変わるかを実測しました。

実測したHTTPコードは 正キー200 / キー無し401 / 誤キー401 / chat補完200 / health200 でした。期待通り、正しいAPIキーを持つリクエストだけがOllamaに到達し、それ以外はOpenAI API準拠のJSONエラーで弾かれます。エラー形式もOpenAI準拠なので、SDK側で自然にエラーハンドリングできます。

Let’s EncryptでHTTPS化

手順1：Certbot をインストールする

Certbot は Let’s Encrypt の無料SSL証明書を自動取得するツールです。Nginxプラグインと一緒に入れます（実測の候補バージョンは 2.9.0-1）。

手順2：証明書を取得する

DNSのAレコードでドメインをVPSのIPに向けてから実行します。

CertbotがNginx設定に ssl_certificate 行を自動で追記し、80番→443番のリダイレクトも設定してくれます。証明書は90日で期限切れになりますが、Ubuntu 24.04 では systemdタイマーで自動更新されます。sudo certbot renew --dry-run で更新テストができます。

UFWファイアウォール設定

Nginxだけをインターネットへのゲートウェイにするため、Ollamaの11434番ポートは外から届かないようにします。

OpenAI SDKから接続テスト

設定が完了したら、OpenAI Python SDKで実際に呼び出せるか確認します。base_url を自分のドメインに変えるだけです。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.example.com/v1",     # 自分のドメインに変更
    api_key="sk-linuxlab-demo-7Qx2",           # Nginxで設定したAPIキー
)

# モデル一覧
models = client.models.list()
print("利用可能なモデル:", [m.id for m in models.data])

# チャット補完
response = client.chat.completions.create(
    model="llama3.2:1b",
    messages=[{"role": "user", "content": "what is Linux?"}],
)
print(response.choices[0].message.content)

実測したチャット補完では、response.choices[0].message.content に「Linux is an open-source operating system developed by Linus Torvalds in 1991, …」という応答が、response.usage に実トークン数（total 71）が入って返ってきました。OpenAI公式APIを使うときと完全に同じコードです。

curlで素早く確認

よくあるエラーと解決策

①「502 Bad Gateway」が返る

NginxからOllamaへの接続が失敗しています。まずOllamaが動いているか確認します。

②認証不要にしたはずの /health が401を返す

APIキー検証の if を server ブロック直下に書いていると起こります。実測でも再現しました。if を location /v1/ の中に移動すると /health は認証なしで通るようになります（本記事の設定はこの形になっています）。

③「This server does not support embeddings」が返る

これは実測で遭遇した挙動です。Ollama 0.30.8 で /v1/embeddings を叩くと、次のエラーが返りました。

埋め込みを使いたい場合は、埋め込み対応モデル（nomic-embed-text 等）を pull し、ネイティブの /api/embed エンドポイントを使うのが確実です。チャット用途だけなら影響ありません。

④「413 Request Entity Too Large」が返る

大きなプロンプトを送ったときに起きます。Nginx のデフォルト制限（1MB）を server ブロックに client_max_body_size 50M; を追記して緩和し、sudo systemctl reload nginx で反映します。

⑤ストリーミング（stream: true）が途中で止まる

location /v1/ ブロック内に proxy_buffering off; が入っているか確認します。これがないとNginxがレスポンスをバッファリングしてしまい、ストリーミングが機能しません。

まとめ

NginxをリバースプロキシにしてOllamaのOpenAI互換エンドポイントを安全に公開する手順を、実測ベースでまとめました。

• Ollama 0.30.8 は /v1/ 以下にOpenAI互換エンドポイントを標準搭載しており、chat/completions・completions・models は追加設定なしで200が返ることを実測で確認した
• nginx 1.24.0-2ubuntu7.11（Ubuntu 24.04 標準）で nginx -t 合格を実測し、稼働中Ollamaへの実プロキシでも正常動作した
• APIキー認証は Nginx の if ディレクティブで実装でき、正キー200 / 誤キー401 を実測で確認した
• 認証の if は location /v1/ 内に置く。serverレベルだと /health まで401になる
• Let’s Encrypt（Certbot 2.9.0）で無料SSL証明書を取得・自動更新できる
• OpenAI Python SDKは base_url と api_key を書き換えるだけで既存コードを流用できる
• OLLAMA_HOST=127.0.0.1:11434 と UFW の11434ポート拒否を忘れずに

VPSをまだ持っていない場合や、どのVPSがLLM運用に向くか迷っている場合はこちらも参考にしてください。

• VPS実測ベンチ比較 — Vultr/DigitalOcean/ConoHa をスペックと速度で比較