Claude Desktop
AnthropicDesktop-Anwendung für Claude von Anthropic – mit Zugriff auf lokale Dateien und Werkzeuge über das Model Context Protocol (MCP).
Ressourcen
Software
Werkzeuge, mit denen Unternehmen arbeiten — eingeordnet mit Hersteller, Lizenz und Einsatzgebiet.
Hermes Agent
Nous ResearchQuelloffener KI-Agent von Nous Research mit dauerhaftem Gedächtnis – erreichbar über Messenger, E-Mail und Kommandozeile.
Hermes Desktop
Nous ResearchNative Desktop-App zu Hermes Agent für macOS, Windows und Linux – derselbe Agent mit grafischer Oberfläche statt Terminal.
KTransformers
KVCache.AIInferenz-Framework, das sehr große Mixture-of-Experts-Modelle auf wenige GPUs und viel Systemspeicher verteilt – lokal betreibbar statt im Rechenzentrum.
LM Studio
Element LabsDesktop-Anwendung für lokale Sprachmodelle – Modelle suchen, herunterladen, testen und als OpenAI-kompatiblen Dienst bereitstellen, ohne Kommandozeile.
MLX
AppleFramework für maschinelles Lernen von Apple, zugeschnitten auf Apple Silicon – Grundlage für schnelle lokale Inferenz und Fine-Tuning auf dem Mac.
Open WebUI
Open WebUISelbst gehostete Chat-Oberfläche für Sprachmodelle – mit Benutzerverwaltung, Rechten und Dokumentenablage für den Einsatz im Unternehmen.
Qdrant
QdrantVektordatenbank für semantische Suche und RAG – speichert Texte als Vektoren und findet inhaltlich passende Stellen statt exakter Treffer.
Unsloth Studio
Unsloth AINo-Code-Oberfläche zum lokalen Feinabstimmen, Ausführen und Exportieren offener Modelle – aus eigenen Dokumenten, ohne Programmierung.
exo
EXO LabsVerbindet mehrere Macs und Workstations zu einem lokalen Inferenz-Cluster – für Modelle, die auf einem einzelnen Rechner keinen Platz haben.
llama.cpp
ggmlInferenz-Engine in C/C++ für offene Sprachmodelle auf gewöhnlicher Hardware – CPU, GPU oder Apple Silicon, mit quantisierten GGUF-Modellen.
vLLM
vLLM ProjectInferenz-Server für offene Sprachmodelle auf eigener GPU-Hardware – ausgelegt auf viele gleichzeitige Anfragen, mit OpenAI-kompatibler Schnittstelle.
whisper.cpp
ggmlInferenz-Engine in C/C++ für OpenAI Whisper – lokale Spracherkennung auf CPU, GPU oder Apple Silicon, mit quantisierten Modellen und OpenAI-ähnlichem Server.