whisper.cpp
ggml
Inferenz-Engine in C/C++ für OpenAI Whisper – lokale Spracherkennung auf CPU, GPU oder Apple Silicon, mit quantisierten Modellen und OpenAI-ähnlichem Server.
- Hersteller
- ggml
- Kategorie
- KI & Assistenten
- Lizenz
- Open Source
- Preismodell
- Kostenlos
- Bereitstellung
- Self-Hosted, Desktop, Mobile
Wofür
whisper.cpp führt die Spracherkennungsmodelle von OpenAI Whisper ohne Python-Umgebung aus. Die Engine ist in C/C++ geschrieben, nutzt dieselbe Tensor-Bibliothek ggml wie llama.cpp und läuft auf CPUs, NVIDIA-, AMD- und Intel-GPUs, Apple Silicon (Metal, Core ML) sowie auf Mobilgeräten und im Browser (WebAssembly). Unterstützt werden alle Whisper-Größen von tiny bis large-v3 und large-v3-turbo sowie destillierte Varianten wie Distil-Whisper.
Durch Quantisierung (z. B. Q5_0 oder Q8_0) schrumpfen die Modelle deutlich: large-v3 belegt als Q5_0-Datei rund 1,1 GB statt 3,1 GB, large-v3-turbo rund 0,6 GB.
Typische Einsatzgebiete
- Transkription von Besprechungen, Diktaten und Interviews auf dem eigenen Rechner, ohne Cloud
- Kleiner Transkriptionsdienst im Unternehmensnetz über den mitgelieferten HTTP-Server
- Spracherkennung in Desktop- und Mobil-Apps (iOS, Android, macOS, Windows, Linux)
- Echtzeit-Mitschrift vom Mikrofon (Beispielprogramm
whisper-stream) - Betrieb auf Edge-Geräten wie dem Raspberry Pi
Datenschutz & Betrieb
whisper.cpp läuft vollständig lokal; es gibt keinen gehosteten Dienst. Der Code steht unter der MIT-Lizenz, die aktuelle Version ist 1.9.5 vom 6. Oktober 2026. Fertige Container gibt es für CPU, CUDA, Vulkan und MUSA. Eine Sprachaktivitätserkennung (Silero VAD) ist eingebaut und hilft, Halluzinationen in Sprechpausen zu vermeiden.
Das ggml-Team hat sich im Februar 2026 Hugging Face angeschlossen; das Projekt bleibt quelloffen.
Integration & Automatisierung
Der whisper-server stellt eine HTTP-Schnittstelle nach dem Vorbild der OpenAI-Transkriptions-API bereit und lässt sich damit aus Automatisierungen wie n8n oder eigenen Anwendungen ansprechen. Für die Einbindung in Programme gibt es Bindings unter anderem für Go, Java, Ruby und JavaScript. Vorkonvertierte Modelldateien stehen auf Hugging Face bereit.