ggml
Team um Georgi Gerganov hinter der Tensor-Bibliothek ggml und llama.cpp – seit Februar 2026 Teil von Hugging Face, das Projekt bleibt quelloffen.
Profil
ggml ist eine in C geschriebene Tensor-Bibliothek für maschinelles Lernen auf gewöhnlicher Hardware. Ihr Entwickler Georgi Gerganov veröffentlichte darauf aufbauend 2023 llama.cpp, das zur Grundlage großer Teile der lokalen KI-Landschaft wurde. Die Entwicklung liegt bei der Organisation ggml-org auf GitHub mit einer breiten Community von Beitragenden.
Produktstrategie
Sämtlicher Code steht unter der MIT-Lizenz. Im Februar 2026 ist das ggml-Team zu Hugging Face gewechselt; beide Seiten haben erklärt, dass llama.cpp vollständig quelloffen bleibt und das Team die technische Richtung weiter eigenständig bestimmt. Ende August 2026 hat NVIDIA angekündigt, Hugging Face zu übernehmen — Gerganov hat daraufhin bekräftigt, dass das Projekt hardwareunabhängig bleiben soll.
Einordnung
Das Dateiformat GGUF aus diesem Umfeld ist heute der verbreitete Standard, um quantisierte Modelle für den lokalen Betrieb weiterzugeben. Werkzeuge wie Ollama, LM Studio oder Unsloth Studio setzen auf llama.cpp auf.
Software von ggml
llama.cpp
KI & AssistentenInferenz-Engine in C/C++ für offene Sprachmodelle auf gewöhnlicher Hardware – CPU, GPU oder Apple Silicon, mit quantisierten GGUF-Modellen.
whisper.cpp
KI & AssistentenInferenz-Engine in C/C++ für OpenAI Whisper – lokale Spracherkennung auf CPU, GPU oder Apple Silicon, mit quantisierten Modellen und OpenAI-ähnlichem Server.