Unsloth Studio

Wofür

Unsloth Studio ist eine Weboberfläche, die lokal auf dem eigenen Rechner läuft und die Trainingsbibliothek von Unsloth ohne Programmierung zugänglich macht. Aus eigenen Dateien — PDF, DOCX, CSV, JSON oder Text — lässt sich damit ein offenes Modell feinabstimmen, direkt im Chat testen und anschließend in einem gängigen Format exportieren.

Das Werkzeug richtet sich an Fachabteilungen und kleine Teams, die ein Modell an eigene Sprache, Begriffe oder Abläufe anpassen wollen, ohne eine eigene Trainingsumgebung aufzubauen. Studio befindet sich derzeit im Beta-Stadium.

Typische Einsatzgebiete

• Ein offenes Modell mit internen Dokumenten auf Fachterminologie und Tonalität des Hauses anpassen
• Modelle vor dem Einsatz im Chat mit eigenen Beispielen vergleichen
• Feinabgestimmte Modelle als GGUF für llama.cpp oder als Safetensors für vLLM exportieren
• Quantisierte GGUF- und MLX-Modelle lokal ausführen, inklusive Werkzeugaufrufen und Websuche
• Einstieg in das Thema Fine-Tuning, bevor in eine größere Infrastruktur investiert wird

Datenschutz & Betrieb

Studio läuft unter macOS, Windows, Linux und WSL, wahlweise als Desktop-Anwendung oder als lokal gestarteter Webdienst, und kann vollständig offline arbeiten. Trainingsdaten und Modelle verlassen den Rechner dann nicht. Für den Zugriff von anderen Geräten lässt sich optional ein HTTPS-Tunnel über Cloudflare einrichten; alternativ steht ein Google-Colab-Notebook bereit, bei dem die Verarbeitung in der Google-Cloud stattfindet.

Die Trainingsbibliothek steht unter Apache-2.0, die Studio-Oberfläche unter der AGPL-3.0. Wer Studio intern betreibt, ist davon nicht berührt; wer es verändert und Dritten als Dienst anbietet, muss die Änderungen offenlegen.

Hinweis: Beim Feinabstimmen gehen die Trainingsdaten in das Modell ein. Personenbezogene oder vertrauliche Inhalte sollten vorher bereinigt werden — sie lassen sich aus einem fertig trainierten Modell nicht mehr gezielt entfernen.

Integration & Automatisierung

Studio unterstützt über 500 offene Modelle und mehrere GPUs. Exportierte Modelle lassen sich mit llama.cpp, MLX, vLLM oder Ollama weiterbetreiben. Laut Hersteller können zudem Coding-Agenten wie Claude Code oder Codex angebunden werden, die dann ein lokal betriebenes Modell nutzen.