Lokale KI 5: Vier Aufgaben aus dem Arbeitsalltag lokal erledigen

Ziel

Nach diesem Teil setzen Sie Ihre lokale KI für vier typische Aufgaben aus dem Büroalltag ein: Texte umformulieren, Protokolle zusammenfassen, Texte übersetzen und Fragen zu einem Dokument stellen. Sie wissen außerdem, wo die Grenzen liegen und wann Sie ein Ergebnis besonders sorgfältig prüfen sollten.

Voraussetzungen

• Ein Modell läuft in Ollama, wie in Lokale KI 4: Das passende Modell finden und zum ersten Mal chatten beschrieben.
• Hilfreich, aber nicht nötig: die Grundlagen aus Prompting: wie Sie einer KI sagen, was Sie wollen. Dort lernen Sie, Ihre Aufträge an die KI so zu formulieren, dass die Ergebnisse besser werden.

Schritt für Schritt

Schritt 1: Erkennen, wofür lokale KI taugt

Die Modelle, die auf einem Bürorechner laufen, sind kleiner als die großen Cloud-Dienste. Für viele Alltagsaufgaben reicht das völlig aus – vor allem, wenn es um Texte geht, die Sie selbst mitbringen. Schwierig wird es dort, wo die KI etwas wissen müsste, das sie nicht vor sich hat.

Gehen wir die vier grünen Aufgaben der Reihe nach durch – jeweils mit einem Beispiel aus Sabines Arbeitstag.

Schritt 2: Eine E-Mail umformulieren

Sabine muss einem Kunden mitteilen, dass sich die Lieferung seiner Küchenfronten verzögert. Ihr erster Entwurf klingt ihr zu knapp. Sie gibt der KI den Entwurf und sagt dazu, was sie möchte:

Formuliere diese E-Mail freundlicher und etwas ausführlicher, aber nicht länger
als acht Sätze. Ton: höflich, sachlich, ohne Floskeln. Wir siezen den Kunden.

Sehr geehrter Herr Lindner, die Fronten kommen erst KW 46 statt KW 44.
Lieferant hat Lackprobleme. Montage verschiebt sich entsprechend.
Neuer Termin folgt. Gruß S. Kraus

Der Schlüssel liegt in den Angaben zu Ton, Länge und Anrede. Je klarer Sie sagen, was Sie wollen, desto weniger müssen Sie nacharbeiten. Gefällt Ihnen das Ergebnis nur zum Teil, schreiben Sie einfach im selben Gespräch weiter, etwa: „Der zweite Absatz ist gut, der Schluss bitte kürzer.“

Schritt 3: Ein Protokoll zusammenfassen

Nach jeder Baubesprechung hat Sabine zwei Seiten Stichworte. Daraus soll eine kurze Übersicht für den Chef werden. Sie kopiert ihre Notizen in das Eingabefeld und schreibt darüber:

Fasse diese Besprechungsnotizen in höchstens fünf Stichpunkten zusammen.
Liste danach alle Aufgaben mit der zuständigen Person und dem Termin auf.

Hinweis: Prüfen Sie bei Zusammenfassungen immer Namen, Termine und Zahlen gegen Ihre Notizen. Kleinere Modelle verwechseln gelegentlich, wer was übernimmt.

Schritt 4: Einen Text übersetzen

Für eine Baustelle arbeitet die Schreinerei mit einem Montagetrupp aus Polen zusammen. Sabine möchte die wichtigsten Hinweise zur Baustelle auf Polnisch mitgeben:

Übersetze die folgenden Baustellenhinweise ins Polnische.
Behalte die Aufzählung bei und übersetze Fachbegriffe sinngemäß.

Für Alltagstexte, interne Hinweise und das schnelle Verstehen fremdsprachiger E-Mails ist das gut geeignet. Bei Verträgen oder Texten, die nach außen gehen, sollte eine Person, die die Sprache beherrscht, noch einmal draufschauen.

Schritt 5: Fragen zu einem Dokument stellen

Die vielleicht nützlichste Aufgabe: Sie geben der KI ein Dokument und stellen Fragen dazu. Das Ollama-Fenster macht das einfach. Ziehen Sie eine PDF- oder Textdatei mit der Maus in das Fenster und fragen Sie zum Beispiel:

Welche Zahlungsfristen und Skonto-Regeln nennt dieser Rahmenvertrag?
Zitiere die Stelle, auf die du dich beziehst.

Die Bitte um die Fundstelle ist ein guter Trick: So können Sie im Original schnell nachprüfen, ob die Antwort stimmt.

Bei längeren Dokumenten gibt es allerdings einen Haken. Eine KI kann immer nur eine begrenzte Menge Text gleichzeitig im Blick behalten – das sogenannte Kontextfenster. Gemessen wird es in Token, das sind kleine Wortstücke, in die die KI jeden Text zerlegt. Mehr dazu erklären Was sind Token? So zerlegt, liest und berechnet KI Ihren Text und Kontextfenster verstehen: Was eine KI im Blick behält und wie sie sich erinnert.

Auf den meisten Bürorechnern stellt Ollama ab Werk nur ein kleines Fenster von 4 000 Token bereit. Das reicht für eine kurze E-Mail, aber nicht für einen zwanzigseitigen Vertrag. Das Tückische: Die KI warnt Sie nicht, sondern liest einfach nur einen Teil.

So stellen Sie das Kontextfenster größer:

1. Öffnen Sie in der Ollama-App die Einstellungen (englisch „Settings“).
2. Suchen Sie den Schieberegler für die Kontextlänge („Context length“).
3. Stellen Sie ihn bei einem Rechner der Klasse A auf 16k, also 16 000 Token. Bei Klasse B oder C können Sie 32k wählen.

Ein größeres Fenster braucht zusätzlichen Platz auf der Arbeitsfläche. Wird Ihr Rechner danach spürbar langsamer, gehen Sie eine Stufe zurück.

Tipp: Die in Teil 4 empfohlenen Modelle von Gemma und Qwen können auch Bilder lesen. Ziehen Sie zum Beispiel das Foto eines handschriftlichen Aufmaßzettels in das Fenster und bitten Sie die KI, die Maße als Liste abzutippen.

Schritt 6: Die Grenzen kennen

Damit Sie Ihrer lokalen KI zu Recht vertrauen, sollten Sie ihre Schwächen kennen:

• Kein aktuelles Wissen. Die KI kann nicht im Internet nachsehen. Fragen nach aktuellen Preisen, Gesetzesänderungen oder Nachrichten beantwortet sie aus einem veralteten Wissensstand – oder sie rät.
• Erfundene Angaben. Jedes Sprachmodell formuliert gelegentlich etwas überzeugend, das nicht stimmt. Fachleute sprechen von Halluzinationen. Bei kleineren Modellen kommt das häufiger vor. Zahlen, Fristen und rechtliche Aussagen prüfen Sie deshalb immer selbst.
• Komplexe Aufgaben am Stück. Lange, verschachtelte Aufträge überfordern kleinere Modelle. Zerlegen Sie solche Aufgaben in mehrere kleine Schritte.

Und noch eine gute Nachricht zum Schluss: Auch Ihre Gesprächsverläufe bleiben auf Ihrem Rechner. Was Sie nicht mehr brauchen, löschen Sie in der Liste der bisherigen Gespräche.

Zusammenfassung

• Lokale KI ist stark bei allem, was Sie ihr als Text mitgeben: umformulieren, zusammenfassen, übersetzen und Dokumente befragen.
• Gute Ergebnisse entstehen durch klare Angaben zu Ton, Länge und Form – und durch Nachfragen im selben Gespräch.
• Für längere Dokumente stellen Sie das Kontextfenster in den Einstellungen größer, sonst liest die KI nur die ersten Seiten.
• Aktuelle Fakten, Zahlen und rechtliche Aussagen prüfen Sie immer selbst.

Wer mehr möchte als einen Chat, liest im letzten Teil weiter: Lokale KI 6: Einen KI-Assistenten wie Hermes Desktop anbinden.