KI lokal nutzen – die ersten Schritte

Worum es geht

Viele Büroaufgaben ließen sich mit KI schneller erledigen – wenn da nicht die Kundendaten wären, die man ungern an einen Dienst im Internet schickt. Diese Serie zeigt Ihnen, wie Sie eine KI direkt auf Ihrem eigenen Rechner betreiben: Ihre Texte verlassen das Gerät nicht, es fallen keine Kosten pro Anfrage an, und nach der Einrichtung funktioniert alles auch ohne Internet.

Für wen

Für alle, die täglich am PC arbeiten und KI für Texte, E-Mails und Dokumente nutzen möchten. Sie brauchen kein technisches Vorwissen – wenn Sie ein Programm installieren können, sind Sie gut vorbereitet.

Aufbau

Die Serie folgt einem Bild, das sich durch alle Teile zieht: vier Schichten, die zusammen ein lokales KI-System ergeben – die Hardware, ein Programm als Motor, das eigentliche KI-Modell und die Oberfläche, an der Sie arbeiten. Sie bauen das System von unten nach oben auf.

1. Orientierung: Was lokal bedeutet und wann es sich lohnt.
2. Hardware: Prüfen, ob Ihr Rechner geeignet ist.
3. Motor: Ollama oder LM Studio auswählen und installieren.
4. Modell: Das passende Modell finden und zum ersten Mal chatten.
5. Praxis: Vier typische Büroaufgaben lokal erledigen.
6. Ausbau: Einen KI-Assistenten wie Hermes Desktop anbinden.

Ein durchgehendes Beispiel begleitet Sie: Sabine Kraus, Assistentin der Geschäftsführung in einer Schreinerei, richtet sich Schritt für Schritt ihre eigene lokale KI ein. Lesen Sie die Teile am besten in dieser Reihenfolge.