Lokale KI 3: Ollama oder LM Studio – den KI-Motor auswählen und installieren

Ziel

Nach diesem Teil wissen Sie, was eine Host-Software ist und warum Sie eine brauchen. Sie kennen die Unterschiede zwischen Ollama und LM Studio, haben sich für eines der beiden Programme entschieden und es auf Ihrem Rechner installiert.

Voraussetzungen

• Sie haben Ihren Rechner in Lokale KI 2: Reicht mein Rechner? Die Hardware prüfen einer Klasse zugeordnet.
• Windows 10 in der Version 22H2 oder Windows 11 – oder ein Mac mit Apple-Chip und macOS 14 („Sonoma“) oder neuer.
• Eine Internetverbindung für den Download und etwa 5 GB freier Platz für das Programm selbst. Die Modelle kommen in Teil 4 dazu.

Schritt für Schritt

Schritt 1: Verstehen, was der „Motor“ macht

Ein KI-Modell ist eine Datei – und eine Datei allein tut nichts. Im Bild unserer Küche: Ein Rezept kocht sich nicht von selbst. Es braucht jemanden, der es liest und umsetzt.

Diese Aufgabe übernimmt die Host-Software. „Host“ ist englisch für Gastgeber: Das Programm beherbergt das Modell und kümmert sich um alles, was dafür nötig ist. Konkret erledigt es vier Dinge:

1. Es lädt Modelle aus dem Internet herunter und legt sie auf Ihrer Festplatte ab.
2. Es holt ein Modell auf die Arbeitsfläche, also in den Speicher, sobald Sie es brauchen.
3. Es nimmt Ihre Frage entgegen, lässt das Modell rechnen und gibt Ihnen die Antwort zurück.
4. Es öffnet eine Tür für andere Programme. Über diese Tür kann später zum Beispiel ein KI-Assistent wie Hermes Desktop dieselbe KI mitbenutzen.

Zur Tür noch ein Wort, weil Ihnen die Bezeichnung später begegnen wird: localhost bedeutet schlicht „dieser Rechner hier“. Die Zahl dahinter ist so etwas wie eine Türnummer, an der das Programm auf Anfragen wartet. Bei Ollama ist das die 11434. Die Tür ist nur von Ihrem eigenen Rechner aus erreichbar, nicht aus dem Internet.

Schritt 2: Ollama und LM Studio vergleichen

Beide Programme sind kostenlos, laufen unter Windows und auf dem Mac und können dieselben Modelle ausführen. Sie unterscheiden sich vor allem darin, wie viel sie Ihnen zeigen.

	Ollama	LM Studio
Bedienung	schlichtes Chatfenster, wenige Einstellungen	umfangreiche Oberfläche mit vielen Reglern
Modelle finden	übersichtliche Liste mit kurzen Namen	große Suche mit Hinweis, ob ein Modell auf Ihren Rechner passt
Oberfläche auf Deutsch	nein	ja, umstellbar
Kosten	kostenlos	kostenlos, seit Juli 2025 auch ausdrücklich für die berufliche Nutzung
Quellcode	offen einsehbar (Open Source)	nicht offen
Andere Programme anbinden	ja, sehr verbreitet	ja

Für diese Serie empfehlen wir Ollama als Hauptweg. Es kommt mit den wenigsten Knöpfen aus, und fast jedes Programm, das eine lokale KI mitbenutzen möchte – auch Hermes Desktop aus Teil 6 –, lässt sich daran am einfachsten anschließen.

LM Studio ist die bessere Wahl, wenn Sie gern stöbern, verschiedene Modelle vergleichen und alles mit der Maus einstellen möchten. Praktisch ist auch, dass LM Studio beim Suchen anzeigt, ob ein Modell auf Ihren Rechner passt.

Hinweis: Sie können beide Programme installieren. Lassen Sie aber nicht beide gleichzeitig ein großes Modell laden – sonst teilen sich zwei Köche dieselbe Arbeitsfläche, und beide werden langsam.

Schritt 3: Ollama installieren

Unter Windows:

1. Öffnen Sie im Browser die Seite ollama.com/download und wählen Sie Windows. Es wird die Datei OllamaSetup.exe heruntergeladen.
2. Öffnen Sie die Datei mit einem Doppelklick und folgen Sie dem Installationsassistenten. Sie brauchen dafür keine Administratorrechte – Ollama installiert sich in Ihr eigenes Benutzerkonto.
3. Nach der Installation startet Ollama von selbst. Unten rechts in der Taskleiste, im Infobereich neben der Uhr, erscheint ein kleines Lama-Symbol. Falls Sie es nicht sehen, klicken Sie dort auf den kleinen Pfeil nach oben.

Auf dem Mac:

1. Laden Sie auf ollama.com/download die Version für macOS herunter.
2. Öffnen Sie die heruntergeladene Datei und ziehen Sie Ollama in den Ordner Programme.
3. Starten Sie Ollama aus dem Programme-Ordner und bestätigen Sie die Rückfrage von macOS mit „Öffnen“. Das Lama-Symbol erscheint oben rechts in der Menüleiste.

Schritt 4: Prüfen, ob alles läuft

Öffnen Sie das Ollama-Fenster: unter Windows über das Startmenü, auf dem Mac über den Programme-Ordner oder einen Klick auf das Lama-Symbol. Sie sehen ein schlichtes Chatfenster mit einem Eingabefeld und einer Auswahl für das Modell. Noch ist kein Modell da – das holen Sie in Teil 4.

Wer ganz sichergehen möchte, kann eine kleine Probe machen, ohne irgendetwas einzutippen außer einer Adresse: Geben Sie im Browser http://localhost:11434 ein. Erscheint die Zeile „Ollama is running“, ist der Motor angesprungen und die Tür für andere Programme offen.

Achtung: Erscheint stattdessen eine Fehlermeldung, läuft Ollama nicht. Starten Sie das Programm erneut über das Startmenü beziehungsweise den Programme-Ordner und prüfen Sie, ob das Lama-Symbol auftaucht.

Alternative: LM Studio installieren

Falls Sie sich für LM Studio entschieden haben, ist der Weg ähnlich:

1. Laden Sie auf lmstudio.ai die Version für Ihr Betriebssystem herunter.
2. Installieren Sie das Programm wie gewohnt – unter Windows per Doppelklick auf die Setup-Datei, auf dem Mac durch Ziehen in den Programme-Ordner.
3. Beim ersten Start führt Sie LM Studio durch eine kurze Einrichtung. Die Sprache der Oberfläche können Sie in den Einstellungen auf Deutsch umstellen.

LM Studio setzt unter Windows einen Prozessor der letzten Jahre voraus und empfiehlt mindestens 16 GB Arbeitsspeicher. Auf dem Mac braucht es einen Apple-Chip und macOS 14 oder neuer; ältere Macs mit Intel-Prozessor werden nicht unterstützt.

Die weiteren Teile dieser Serie zeigen die Schritte mit Ollama. Die Begriffe und Faustregeln gelten für LM Studio genauso.

Zusammenfassung

• Die Host-Software ist der Koch: Sie lädt Modelle herunter, bringt sie auf die Arbeitsfläche, beantwortet Fragen und öffnet eine Tür für andere Programme.
• Ollama ist schlicht und lässt sich gut mit anderen Programmen verbinden. LM Studio bietet mehr Einstellungen, eine deutsche Oberfläche und eine komfortable Modellsuche.
• Nach der Installation sitzt das Lama-Symbol in der Taskleiste beziehungsweise Menüleiste, und unter http://localhost:11434 meldet sich der laufende Motor.

Jetzt fehlt nur noch das Rezept: Lokale KI 4: Das passende Modell finden und zum ersten Mal chatten.