—
title: “Whisper モデル別の文字起こし速度を比較 — tiny/base/small を GPU で実測”
category: ベンチマーク
tags: [Python, Docker, RunPod, Whisper, 音声認識, ベンチマーク]
description: “OpenAI Whisper を faster-whisper + RTX 4090 でベンチマーク。tiny・base・small の処理時間（RTF）と出力文字数をモデル別に比較する。”
date: 2026-06-21
slug: bench-whisper-models
—
この記事のポイント
- Whisper は音声をテキストに変換するオープンソース AI モデル。API キー不要でローカル完結・オフライン利用可能
tiny・base・smallの3モデルを GPU で実測。すべてのモデルで RTF が 0.05 未満の高速処理を確認- GPU だと 11 秒の音声は最速 0.284 秒（small モデル、RTX 4090）
- float16 で推論すれば VRAM 使用量を抑えつつ高速化できる
OpenAI が公開している Whisper は音声をテキストに変換できる AI モデルです。日本語にも対応し、API キーなしで自前のマシンで動かせるため、個人情報を含む音声も外部に出さずに文字起こしできます。しかしモデルが5種類あり、「どれくらいの性能差があるのか」「本当に使えるのか」が気になるところです。
結論から言うと、実測した3モデルはどれも GPU で実用的な速度で動作しました。パラメータ数の多い small が base よりも高速で、コスパの良い選択肢です。
本記事では Docker 環境に faster-whisper をインストールして環境構築し、RunPod の RTX 4090 で tiny・base・small の3モデルを実際にベンチマークした結果をお見せします。
目次
- Whisper モデルの基本スペック
- ベンチマーク環境の構築
- RTX 4090 でモデル別ベンチマーク
- 文字起こし結果 — 出力文字数の比較とモデル選定の目安
- コスパの検証 — クラウドGPU でどこまで運用できるか
- まとめ
Whisper モデルの基本スペック
Whisper には5つのモデルがあります。パラメータ数が増えるほど精度が上がりますが、処理に必要な VRAM も増えて速度は下がります。
tiny は39Mパラメータで VRAM 約1GB、base は74Mパラメータ。small 以降は精度が跳ね上がり、特に large-v3 は1,550M パラメータで VRAM 約10GB を必要とします。
Whisper はもともとは OpenAI が開発したモデルですが、faster-whisper という Python ライブラリが CTranslate2 を使った再実装を提供しており、4〜8倍の高速化が図られています。本記事では faster-whisper（1.2.1）を使って計測します。
ベンチマーク環境の構築
① Docker コンテナでの環境構築
まずは Ubuntu 24.04 Docker コンテナを作成して faster-whisper をインストールします。依存パッケージは ffmpeg と python3-pip だけです。
‘apt-get update && \
apt-get install -y python3-pip ffmpeg && \
pip3 install –break-system-packages faster-whisper’
…
Successfully installed faster-whisper-1.2.1 ctranslate2-4.8.0
# インストール完了: faster-whisper 1.2.1 + CTranslate2 4.8.0
インストール後のバージョン確認結果です。
② CPU ベンチマーク
GPU 環境の比較のために、ホスト環境の CPU 性能も sysbench で計測しました。AMD Ryzen 9 9950X（16コア/32スレッド）は現行最強クラスです。
Running the test with following options:
Number of threads: 32
…
events per second: 13979.43
…
execution time (avg/stddev): 31.0014 / 0.0008
# 3回実行 → 平均 13,968 events/sec（AMD Ryzen 9 9950X）
③ ディスク I/O
モデルファイルのダウンロード・ロード時間はストレージ速度に影響されます。dd コマンドでシーケンシャル性能を計測しました。
256+0 records in
256+0 records out
268435456 bytes (268 MB, 256 MiB) copied, 0.548256 s, 490 MB/s
—
$ dd if=/tmp/test_bench of=/dev/null bs=1M count=256 iflag=direct
268435456 bytes (268 MB, 256 MiB) copied, 0.53077 s, 506 MB/s
# Write 約490MB/s / Read 約506MB/s（大容量モデルDLでも十分）
RTX 4090 でモデル別ベンチマーク
いよいよ GPU でのベンチマークです。RunPod で RTX 4090 を借りて、faster-whisper の float16 モードで3モデルを計測しました。計測には OpenAI Whisper リポジトリ同梱の jfk.wav（11秒、J.F.ケネディ大統領の演説音声）を使用します。
NVIDIA GeForce RTX 4090, 24564 MiB
…
tiny {‘model’: ‘tiny’, ‘compute_type’: ‘float16’,
‘transcribe_s’: 0.481, ‘audio_s’: 11.0,
‘rtf’: 0.0437}
base {‘model’: ‘base’, ‘compute_type’: ‘float16’,
‘transcribe_s’: 0.309, ‘audio_s’: 11.0,
‘rtf’: 0.0281}
small {‘model’: ‘small’, ‘compute_type’: ‘float16’,
‘transcribe_s’: 0.284, ‘audio_s’: 11.0,
‘rtf’: 0.0258}
DONE
RTF（Real-Time Factor）比較
RTF は音声処理速度の指標です。1.0 未満なら音声の長さより短い時間で完了します。0.05 以下ならリアルタイム音声処理に十分余裕があります。
処理時間の詳細
結果を見ると興味深いことに、base モデル（0.309秒）よりも small モデル（0.284秒）の方が高速でした。通常はパラメータ数が増えるほど重いはずですが、CTranslate2 の最適化が small サイズで特に効いていることが考えられます。
small モデルが base よりも速いという結果は意外でした。パラメータ数が多いぶん VRAM は 2GB と少し多めですが、11秒の音声を0.284秒で処理できるのは驚異的です。
RTF の見方
RTF = 処理時間 ÷ 音声時間。RTF 0.0258 は「音声中で2.58%の時間で処理完了」を意味します。11秒の音声なら 11 × 0.0258 = 0.284秒 で計算できます。値が小さいほど処理が速く、リアルタイム用途に有利です。
GPU vs CPU の速度差
ちなみに、faster-whisper を CPU のみで動かすと tiny モデルでも数秒〜十数秒かかります。CPU の性能によって差は出るものの、GPU の恩恵は圧倒的です。
RTX 4090 では 全モデルが 0.5秒未満。大量の音声を一括処理するには GPU 環境が不可欠です。
文字起こし結果 — 出力文字数の比較とモデル選定の目安
jfk.wav（11秒の英語音声）を各モデルで文字起こしした際、出力された文字数は以下の通りでした。
- tiny: 108 文字
- base: 109 文字
- small: 108 文字
3モデルの出力文字数に大きな差はありませんでした。これは明瞭な英語音声だったため、小さなモデルでも十分に対応できたものと考えられます。
なお、本記事では文字起こし速度（RTF）と出力文字数を計測しており、WER（Word Error Rate）などの精度指標は算出していません。精度の違いはノイズを含む音声や多人数の会話など、より複雑な条件で顕著になるとされています。OpenAI の Technical Report でもパラメータ数の多いモデルほど高精度であることが報告されていますが、本記事での実測は速度ベンチマークが主目的です。
medium（769M）や large-v3（1,550M）も存在し、これらはさらに高精度ですが、VRAM はそれぞれ 5GB / 10GB 必要です。精度が求められる研究用途では large-v3 がベストですが、通常の文字起こしでは small で十分です。
コスパの検証 — クラウドGPU でどこまで運用できるか
RunPod の RTX 4090 は $0.69/時間 です。実測では Pod の作成・SSH接続・モデルDL・計測まで合計で約74秒かかりました。計測自体は数秒で完了します。
試しに11秒の音声を1,000回分（合計3時間相当の音声）を RunPod RTX 4090 で処理した場合を試算してみましょう。
💰 RunPod RTX 4090 でのコスパ試算（small モデル使用）
- 11秒音声 × 1,000件 = 処理時間
0.284秒 × 1,000 = 284秒 ≈ 4.7分 - RunPod の稼働時間は約2分（モデルDL込みで74秒の計測 + 余裕を見て約2分）
- 費用 =
$0.69 × (2/60) ≈ $0.023（約3.5円） - 1,000件の文字起こしに約3.5円。1件あたり0.0035円です
VPS での常時運用と比べると、RunPod は「使いたいときにだけ課金」されるので、大量の音声を一括処理する場合に限っては圧倒的に安上がりです。一方、日常的に数分の音声を逐次処理するなら VPS を常時稼働させたほうが便利です。
GPU を持っていない場合でも、クラウドなら RTX 4090 を時間課金で使えます。Vultr GPU Instance や Lambda Labs などの選択肢もあります。
まとめ
Whisper のモデル別文字起こし速度を GPU で実測しました。
- Whisper は5モデル（tiny/large-v3 まで）。tiny・base・small の3モデルを GPU で実測し、11 秒音声が最速 0.284 秒で処理完了（small モデル）
- small モデルは base よりも高速（0.284秒 vs 0.309秒）。VRAM も 2GB 程度で済むため、コスパの良い選択肢
- tiny モデルは最軽量で VRAM 1GB 程度。リソースが限られる環境で使えるが、複雑な音声では base 以上の方が安定する
- medium や large-v3 も存在し、VRAM はそれぞれ 5GB / 10GB 必要。研究用途以外では small で十分
- RTX 4090 なら全モデルが RTF 0.05 未満。音声の約20〜40倍速で処理完了
- faster-whisper（CTranslate2 ベース）で OpenAI 原版の4〜8倍高速化を実現
GPU 環境を持っていれば Whisper の導入は極めてかんたんです。pip install faster-whisper の1行で依存関係込みでインストールできます。GPU のない環境でも RunPod で1時間数百円から RTX 4090 を借りて試せますので、まずはクラウドで動作を確認してから GPU 購入を検討するのがおすすめです。
GPU は LLM 推論だけでなく、音声認識・画像生成・3D レンダリングでも圧倒的な速度差があります。VPS でのサーバー運用に興味が出てきたら、こちらも参考にしてください。
VPS でのサーバー構築に興味が出てきたら、https://linuxlab.jp/ubuntu-server-setup/ も参考にしてください。
コメント