Gemma 4 12B

Offenes, dichtes Multimodal-Modell von Google DeepMind (11,95B) mit encoder-freier Unified-Architektur – Text, Bild und Audio in einem Decoder, 256K-Kontext, Apache-2.0.

Überblick

Gemma 4 12B ist die zuletzt erschienene Variante der Gemma-4-Familie und trägt den Zusatz „Unified": Statt separater Encoder für Bild und Audio projiziert das Modell rohe Bildpatches und Audio-Wellenformen über leichtgewichtige lineare Schichten direkt in den Embedding-Raum des LLM. Alle Modalitäten laufen damit durch einen einzigen Decoder-Transformer.

Use Cases

Multimodale Aufgaben mit Text-, Bild- und Audioeingabe in einem Modell
Reasoning in Wissenschaft und Technik (GPQA Diamond 78,8 %)
Mathematik auf ungewöhnlich hohem Niveau für die Größenklasse (AIME 2026 77,5 %)
Long-Context-Workflows bis 256K Tokens, lokal auf einer Consumer-GPU

Stärken & Grenzen

Stärken: Native Audio-Eingabe ohne separates Encoder-Stack – im offenen 12B-Segment selten. Mathematik und Reasoning liegen deutlich über dem, was diese Größenklasse üblicherweise leistet: Mit 77,5 % auf AIME 2026 erreicht das Modell fast das Niveau des mehr als doppelt so großen 26B A4B (88,3 %) und schlägt die E-Varianten um mehr als 35 Punkte. Kontextfenster 256K wie bei den großen Geschwistern.

Grenzen: Von Artificial Analysis bislang nicht vermessen – es gibt weder einen AA Intelligence Index noch unabhängig nachgemessene Werte. Alle eingetragenen Zahlen stammen aus Googles eigener Model Card. Bei den agentischen und Long-Context-Benchmarks fällt es klar hinter das 31B zurück (MRCR v2 43,4 % gegenüber 66,4 %). Ausgabe nur Text.

Praxis-Erfahrung

Reines Open-Weights-Modell ohne First-Party-API-Listenpreis. Gewichte als google/gemma-4-12B-it auf Hugging Face, dazu offizielle QAT-Quantisierungen (-qat-q4_0-gguf) für den lokalen Betrieb. BenchLM führt das Modell mit Gesamtscore 47,29/100 auf geschätztem Rang 137 – die Einordnung ist wegen der dünnen unabhängigen Datenlage mit Vorsicht zu lesen.

Hinweis zur Videoeingabe: Googles Architektur-Tabelle nennt für das 12B Unified die Modalitäten „Text, Image, Audio". Der Fließtext derselben Model Card und Artificial Analysis führen zusätzlich Video. Die Card folgt hier der Spezifikationstabelle; Video ist nicht als Eingabemodalität gesetzt.

Gut zu wissen

Lizenz: Apache-2.0 (kommerziell frei); Release 03.06.2026, rund zwei Monate nach den übrigen Gemma-4-Varianten
Architektur: Dense, 11,95B, encoder-frei; Kontext 256K
Die Audio-Unterstützung ist nativ, nicht über ein vorgeschaltetes ASR-Modell gelöst

Weitere Benchmarks (Zusatzquellen)

Weitere berichtete Werte, für die in der Score-Tabelle oben kein Eintrag vorliegt.

Quelle: Google DeepMind (offizielle Model Card, HF):

Codeforces Elo 1659 · BigBench Extra Hard 53,0 % · MATH-Vision 79,7 %
CoVoST (Audio) 38,5 (ohne Chinesisch) · MRCR v2 8-needle 128k 43,4 %