Vom Gehirn zum Sprachmodell: was neuronale Netze wirklich sind

Allgemein Einstieg

Sie können nach diesem Artikel erklären, was ein neuronales Netz vom menschlichen Gehirn geborgt hat, was es bewusst weggelassen hat und wie daraus ein Sprachmodell wird, das Wort für Wort weiterschreibt.

Hörbeitrag · Kapitel 1/6 — Ein Satz, den Sie schon zu Ende gedacht haben
0:00 / 2:13

Ziel

Nach diesem Artikel können Sie in eigenen Worten erklären, woher der Name „neuronales Netz“ kommt, was die Technik sich beim Gehirn abgeschaut hat und was sie bewusst weggelassen hat. Sie verstehen außerdem, wie aus demselben Grundprinzip ein Sprachmodell wird — also die Art von System, die hinter heutigen KI-Assistenten steckt. Und Sie erkennen, ab welcher Stelle der Vergleich mit dem Gehirn in die Irre führt.

Voraussetzungen

Keine. Sie brauchen weder Biologie noch Mathematik. Jeder Fachbegriff wird beim ersten Auftreten erklärt.

Wenn Sie den technischen Aufbau eines Netzes noch einmal von Grund auf nachlesen möchten, finden Sie ihn im Artikel Neuronale Netze verstehen: wie ein Computer aus Beispielen lernt. Nötig ist das für diesen Text nicht — hier geht es um die Brücke vom Kopf zum Rechner.

Schritt für Schritt

1. Ihr Kopf ergänzt ständig — und merkt es nicht

Lesen Sie diesen angefangenen Satz: „Ich streiche das Brot mit …“

Etwas in Ihrem Kopf hat das letzte Wort schon eingesetzt, bevor Sie darüber nachdenken konnten. Wahrscheinlich „Butter“. Vielleicht „Marmelade“. Ganz sicher nicht „Zahnpasta“ — obwohl das grammatikalisch einwandfrei wäre.

Niemand hat Ihnen je eine Regel dafür beigebracht. Sie haben in Ihrem Leben einige Millionen Sätze gehört und gelesen, und aus dieser Erfahrung ist eine Erwartung geworden. Genau dieses Kunststück — aus sehr vielen Beispielen eine Erwartung bilden, ohne eine einzige aufgeschriebene Regel — ist der Kern dessen, was ein neuronales Netz tut. Der Rest dieses Artikels erklärt, wie man so etwas in einen Rechner bekommt.

2. Eine Nervenzelle: viele Zuflüsse, eine einzige Entscheidung

In Ihrem Kopf arbeiten rund 86 Milliarden Nervenzellen. Jede einzelne von ihnen ist erstaunlich schlicht. Man kann sie sich als Becken vorstellen, in das viele kleine Zuflüsse münden: Jede Nervenzelle bekommt Signale von hunderten oder tausenden anderen Zellen. Manche Zuflüsse sind kräftig, andere kaum ein Rinnsal. Steigt der Pegel im Becken über eine bestimmte Marke, kippt die Zelle um und gibt selbst ein Signal weiter. Bleibt der Pegel darunter, passiert nichts.

Mehr entscheidet eine einzelne Nervenzelle nicht. Sie denkt nicht, sie erkennt nichts, sie weiß nichts. Sie wägt Zuflüsse ab und gibt entweder weiter oder nicht.

Als Ingenieure in den 1940er-Jahren nach einem Rechenmodell für Lernen suchten, haben sie genau diese eine Eigenschaft übernommen — und alles andere weggelassen. Das Ergebnis heißt künstliches Neuron oder schlicht Knoten: Es nimmt mehrere Zahlen entgegen, multipliziert jede mit einem Gewicht (einer Zahl, die sagt, wie stark dieser Zufluss zählen soll), zählt alles zusammen und gibt nur dann etwas weiter, wenn die Summe eine Schwelle überschreitet.

Merksatz: Ein künstliches Neuron ist kein Nachbau einer Nervenzelle. Es ist eine Rechenvorschrift, die sich ein Bild bei ihr geborgt hat.

3. Lernen ist ein Trampelpfad

Stellen Sie sich eine Wiese vor, über die anfangs niemand geht. Nimmt jemand einmal die Abkürzung, sieht man kaum etwas. Gehen hundert Menschen sie hundertmal, entsteht ein deutlicher Pfad — und weil der Pfad da ist, nehmen ihn noch mehr Leute. Was oft benutzt wird, wird breiter. Was liegen bleibt, wächst zu.

Im Gehirn passiert etwas erstaunlich Ähnliches: Verbindungen zwischen Zellen, die regelmäßig gemeinsam aktiv sind, werden kräftiger; ungenutzte werden schwächer. Deshalb fällt Ihnen ein Handgriff nach der zwanzigsten Wiederholung leichter als beim ersten Mal.

Genau hier setzt das künstliche Netz an — nur dass der Trampelpfad eine Zahl ist. Das Gewicht an einer Verbindung wird nach jedem Beispiel ein winziges Stück nach oben oder unten gedreht, je nachdem, ob die Antwort besser oder schlechter wurde. Nach sehr vielen Runden stehen alle Gewichte so, dass das Netz die Beispiele trifft.

4. Was die Technik übernommen hat — und was nicht

Es lohnt sich, diese Liste einmal ausdrücklich zu lesen, weil fast alle Missverständnisse über künstliche Intelligenz aus der rechten Spalte stammen.

Übernommen wurden vier Dinge: viele Eingänge statt eines einzigen, eine unterschiedliche Gewichtung dieser Eingänge, eine Schwelle als Entscheidung, und die Anordnung in Schichten — also mehrere Reihen von Knoten hintereinander, bei denen jede Reihe das Ergebnis der vorigen weiterverarbeitet.

Weggelassen wurde alles andere: die Chemie, mit der echte Zellen arbeiten. Der Zeitverlauf — eine Nervenzelle feuert in Impulsen, ein Knoten rechnet in einem Rutsch. Der Körper, der ständig neue Reize liefert. Schlaf, Hunger, Hormone, Gefühle. Und vor allem: die Fähigkeit, im laufenden Betrieb dazuzulernen.

Hinweis: Fachleute nennen so etwas eine didaktische Reduktion — man behält den einen Gedanken, der trägt, und streicht den Rest. Das ist eine Stärke des Modells, keine Schwäche. Es wird nur dann zum Problem, wenn jemand die Reduktion vergisst und aus dem Bild eine Behauptung macht: „Das Netz denkt wie ein Gehirn.“ Das tut es nicht.

5. Wie aus Wörtern Zahlen werden

Bis hierhin könnte das Netz Äpfel sortieren oder Handschriften lesen. Für Sprache fehlt ein Zwischenschritt, denn ein Netz rechnet ausschließlich mit Zahlen — mit Buchstaben kann es nichts anfangen.

Die Lösung ist eine Landkarte der Bedeutungen. Jedes Wort bekommt darauf einen festen Ort, und zwar so, dass Wörter, die in ähnlichen Zusammenhängen vorkommen, nah beieinander liegen. „Mehl“ liegt in der Nähe von „Backofen“ und „Teig“. „Zylinderkopfdichtung“ liegt weit weg davon, aber dicht bei „Motor“. Diese Landkarte hat niemand von Hand gezeichnet — sie entsteht beim Training aus den Texten selbst, nach genau dem Trampelpfad-Prinzip aus Abschnitt 3.

Statt eines Wortes bekommt das Netz also eine Ortsangabe auf dieser Landkarte. Und Orte sind Zahlen. Damit ist die Sprache in eine Form gebracht, mit der ein Netz rechnen kann.

6. Jedes Wort schaut sich im Satz um

Der entscheidende Fortschritt der letzten Jahre steckt in einem zweiten Kunstgriff. Er heißt Aufmerksamkeit, und man kann ihn sich als Besprechung vorstellen: Bevor ein Teilnehmer etwas sagt, hört er einmal kurz in die Runde und gewichtet, wer für seinen Beitrag gerade wichtig ist.

Genau das tut jedes Wort in einem Satz. Nehmen Sie den Satz „Ich habe das Geld auf die Bank gebracht“. Das Wort „Bank“ ist für sich genommen mehrdeutig — Sitzgelegenheit oder Geldinstitut. Es schaut sich im Satz um, findet „Geld“ und „gebracht“, gewichtet diese beiden stark und alle anderen schwach, und rückt daraufhin auf der Landkarte in Richtung Geldinstitut. In „Wir saßen auf der Bank im Park“ passiert dasselbe mit anderem Ergebnis.

Jedes Wort tut das gleichzeitig, über alle anderen Wörter, und zwar in jeder Schicht des Netzes erneut. Daher kommt der Eindruck, das Modell verstehe Zusammenhänge: Es hat für jedes Wort ausgerechnet, welche anderen Wörter für dessen Bedeutung gerade zählen.

7. Und am Ende steht immer dieselbe Frage

Was ein Sprachmodell am Ende ausgibt, ist erstaunlich bescheiden: eine Bewertung, wie wahrscheinlich jedes einzelne Wort als nächstes kommt. Dann wählt es eines davon aus, hängt es an den Satz an — und stellt die Frage von vorn.

Damit sind wir wieder bei Ihrem Brot vom Anfang.

Merksatz: Ein Sprachmodell wählt das wahrscheinlichste nächste Wort, nicht das wahre. Genau deshalb kann es flüssig formulieren und trotzdem sachlich danebenliegen.

8. Wo der Vergleich mit dem Gehirn bricht

Vier Unterschiede sollten Sie im Hinterkopf behalten, wenn im Betrieb über KI gesprochen wird.

Erstens der Verbrauch: Ihr Gehirn kommt mit rund 20 Watt aus, etwa so viel wie eine sparsame Glühbirne. Das Training eines großen Sprachmodells läuft über Wochen in einem Rechenzentrum.

Zweitens der Zeitpunkt des Lernens: Sie lernen in jeder Minute dazu. Ein Modell lernt einmal beim Training; danach werden die Gewichte eingefroren. Was im Gespräch wie Erinnerung wirkt, ist nur der Text, der gerade im Fenster steht — er ist nach dem Gespräch wieder weg.

Drittens die Verankerung: Sie wissen, wie sich warmes Brot anfühlt. Das Modell kennt das Wort „warm“ ausschließlich daraus, in welchen Nachbarschaften es in Texten vorkommt. Es hat keinen Körper und keine Erfahrung.

Viertens die Absicht: Eine Nervenzelle gehört zu einem Menschen, der etwas will. Ein Knoten gehört zu einer Rechnung, die kein Ziel kennt. Was wie Absicht aussieht, ist die Vorgabe, die Sie hineingeben.

Achtung: Weil ein Modell ausschließlich aus Texten gelernt hat, übernimmt es auch deren Schieflagen und Fehler. Prüfen Sie inhaltlich wichtige Aussagen deshalb immer gegen eine belastbare Quelle, egal wie souverän die Antwort klingt.

Zusammenfassung

  • Ein künstliches Neuron hat der Nervenzelle genau einen Gedanken abgeschaut: viele unterschiedlich stark gewichtete Zuflüsse, eine Schwelle, eine Entscheidung. Alles Biologische wurde bewusst weggelassen.
  • Lernen heißt in beiden Welten, dass häufig genutzte Verbindungen stärker werden — im Kopf als Trampelpfad, im Modell als Zahl an der Verbindung.
  • Für Sprache wird jedes Wort zu einer Ortsangabe auf einer Landkarte der Bedeutungen, und jedes Wort gewichtet, welche anderen Wörter im Satz für es zählen.
  • Am Ende steht immer dieselbe Frage nach dem nächsten Wort. Ein Sprachmodell wählt das wahrscheinlichste, nicht das wahre — deshalb bleibt die inhaltliche Prüfung Ihre Aufgabe.
EinsteigerNeuronale NetzeSprachmodell