Ressourcen

Software

Werkzeuge, mit denen Unternehmen arbeiten — eingeordnet mit Hersteller, Lizenz und Einsatzgebiet.

llama.cpp

ggml

Inferenz-Engine in C/C++ für offene Sprachmodelle auf gewöhnlicher Hardware – CPU, GPU oder Apple Silicon, mit quantisierten GGUF-Modellen.

whisper.cpp

ggml

Inferenz-Engine in C/C++ für OpenAI Whisper – lokale Spracherkennung auf CPU, GPU oder Apple Silicon, mit quantisierten Modellen und OpenAI-ähnlichem Server.