概要
EmbeddingGemma 2 は本来埋め込みモデルですが、 音声認識 にも応用可能。 MacBook Air 上で1時間の音声を約13秒で文字起こし。 音声データは 完全にデバイス内 で処理され、 プライバシー を保護。 誤認識率は 約5% で、今後の改善も予定。 無料ダウンロード が可能で、 macOS 14+・Apple Silicon 対応。
EmbeddingGemma 2を使った音声認識モデルの概要
- EmbeddingGemma 2 は、テキスト・画像・音声・動画を 共通空間 で扱う マルチモーダル埋め込みモデル
- 本来の目的は埋め込みだが、 音声→テキスト変換(音声認識) にも応用
- 音声エンコーダ はそのまま利用し、 小型リーダーモデル のみ追加学習
- 約2時間、8×H100で英語音声データを学習
- 本体モデル は音声認識用に訓練されていない
- 音声を短いスライスに分割し、 約22.9万語の英単語 から最も近い語を選択し文字起こし
- 句読点・大文字 は追加の小型モデルで補正
動作環境・ダウンロード
- macOS 14+・Apple Silicon 搭載Macに対応
- 無料でダウンロード可能 (初回起動時にモデル約715 MBをダウンロード)
- Neural Engine 上で処理、 音声データは外部送信なし
- 音声ファイルを直接ドラッグ&ドロップ、またはRight Optionキーを押しながら話すことで任意アプリに入力可能
速度比較・ベンチマーク
- Embedding Gemma Transcribe (Neural Engine利用、base M3 MacBook Air, 8GB)
- 1時間の音声を約12.6秒 で文字起こし(288倍速)
- IBM Granite Speech 5.0 Turbo (GPU利用、同環境)
- 約25.7秒(150倍速)
- NVIDIA Parakeet TDT 0.6B v3 (FluidAudio、M4 Pro/M5 Pro)
- 156倍速~335倍速
- Phonon-2, a Parakeet v3 fine-tune (FluidAudio、M5 Pro)
- 480倍速
- ※異なるハードウェア・音声データでの比較のため、あくまで目安
精度・今後の展望
- 単語誤認識率:約5% (最先端モデルは2~3%)
- リーダーモデルの追加学習 による精度向上が今後の課題
- より優れたトレーニングで 誤認識率の低減 を目指す
利用方法・特徴
- プライバシー重視 :音声データは 完全にローカル処理
- 簡単操作 :ファイルのドロップ、またはショートカットキーで どのアプリにも音声入力
- 無料提供、誰でも手軽に試用可能
今後の展開
- リーダーモデルの再学習 による精度向上
- 他言語対応 や 追加機能 の検討
- コミュニティフィードバック を活かした継続的なアップデート