Gemma 4 26B A4B

Überblick

Gemma 4 26B A4B ist die MoE-Variante der Gemma-4-Familie von Google DeepMind. Bei 25,2B Gesamtparametern aktiviert das Modell pro Token nur rund 3,8B Parameter (8 von 128 Experten plus 1 Shared Expert). Dadurch erreicht es die Generierungsgeschwindigkeit eines kleinen 4B-Modells bei einer Qualität, die nahe an das dense 31B-Modell heranreicht. Google positioniert es offiziell als „good place to start" für viele Aufgaben.

Use Cases

• Lokale Inferenz auf Consumer-Hardware: läuft auf einer einzelnen RTX 3090/4090 (24 GB) – BF16 oder Q4 (~14 GB)
• RAG-Pipelines mit großen Kontext-Payloads dank 256K-Kontextfenster
• Agentische Workflows mit nativem Function Calling und konfigurierbarem Thinking-Modus
• Multimodale Aufgaben: Bild-/Dokumentenanalyse, OCR (mehrsprachig), Chart- und UI-Verständnis
• Coding-Unterstützung und strukturierte Ausgaben

Stärken & Grenzen

Stärken: Sehr gutes Verhältnis aus Qualität und Geschwindigkeit durch die MoE-Architektur. Großes Kontextfenster (256K), starke Reasoning- und Vision-Werte für die Größenklasse, Apache-2.0-Lizenz und breite Tooling-Unterstützung (vLLM, SGLang, Ollama, llama.cpp, LM Studio). In der unabhängigen Einordnung von Artificial Analysis erreicht die Reasoning-Variante einen Intelligence Index von 26 (Index v4.1) und liegt damit deutlich über dem Median offener Modelle vergleichbarer Größe. Im Größenvergleich überzeugt es bei Instruction Following (IFBench 72 %), visueller Reasoning-Aufgabe (MMMU-Pro 69–74 %) und wissenschaftlichem Reasoning (GPQA Diamond 79–82 %).

Grenzen: Trotz nur 3,8B aktiver Parameter müssen alle 25,2B Parameter in den VRAM geladen werden – die aktive Parameterzahl senkt nicht den Speicherbedarf. Bei Long-Context-Retrieval (MRCR v2 128k: 44,1 %; AA-LCR 55,7 %) und an der absoluten Qualitätsspitze (HLE 18 %, CritPt 0 %) liegt das dense 31B bzw. die Spitzengruppe deutlich vorn. Schwach ausgeprägt sind hochkomplexe agentische Aufgaben (GDPval-AA 11 %, 𝜏³-Banking 12 %, ITBench-AA 24 %, Terminal-Bench Hard 13,6 %) sowie faktische Verlässlichkeit (AA-Omniscience: Accuracy 18 %, Non-Hallucination-Rate 19 %). Die Reasoning-Variante ist zudem vergleichsweise verbose (rund 73M Output-Tokens im Intelligence-Index-Lauf von Artificial Analysis gegenüber einem Median von 24M), was bei tokenbasierter Abrechnung ins Gewicht fällt. Kein Audio-Input (nur die E2B/E4B/12B-Modelle unterstützen Audio).

Praxis-Erfahrung

Das Modell ist für lokale Setups attraktiv, weil es bei moderatem VRAM-Bedarf (Q4 ~14 GB) Reasoning- und Vision-Leistung auf einem Niveau liefert, das sonst größere dense Modelle erfordert. Empfohlene Sampling-Parameter laut Hersteller: temperature 1.0, top_p 0.95, top_k 64. Thinking-Modus wird über das <|think|>-Token im System-Prompt aktiviert. Bei multimodalen Prompts gehört das Bild vor den Text.

Achtung: Für dieses Modell existiert kein belastbarer SWE-bench-Verified-Wert. Googles Model Card enthält gar keine SWE-bench-Zeile; die kursierenden 17,4 % stammen aus einem einzelnen Blogpost ohne Methodikangabe, den Qwen in seine Vergleichstabelle übernommen hat.

Gut zu wissen

• Lizenz: Apache-2.0, freie Gewichte (pretrained + instruction-tuned); Release 31.03.2026 laut Googles Releases-Seite (MTP-Varianten 16.04.2026)
• Hardware: min. 14 GB VRAM (Q4), ~28 GB für BF16; alle 25,2B müssen geladen werden
• Quantisierungen breit verfügbar (GGUF, compressed-tensors); Draft-Modell für Speculative Decoding inklusive
• Mehrsprachig: 140+ Sprachen im Pre-Training, 35+ out-of-the-box
• API-Preise (Median über Anbieter, Artificial Analysis): ~$0,13 / 1M Input-Tokens, ~$0,40 / 1M Output-Tokens, Cache-Hit ~$0,10; blended (3:1) ~$0,20. Günstigste Anbieter (DeepInfra, Cloudflare) deutlich darunter
• Alternativen: Gemma 4 E4B für 8-GB-GPUs / schnellere lokale Starts; Gemma 4 31B Dense für maximale Qualität

Weitere Benchmarks (Zusatzquellen)

Weitere berichtete Werte, für die in der Score-Tabelle oben kein Eintrag vorliegt.

Quelle: Google DeepMind (offizielle Model Card, HF) – Spalte Gemma 4 26B A4B:

• Codeforces Elo 1718 · BigBench Extra Hard 64,8 % · MATH-Vision 82,4 %
• MedXPertQA MM 58,1 % · OmniDocBench 1.5 0,149 · MRCR v2 8-needle 128k 44,1 %
• HLE ohne Tools 8,7 % · HLE mit Suche 17,2 % · CoVoST und FLEURS nicht gemessen (kein Audio-Encoder)

Quelle: Artificial Analysis (Stand 07/2026, Index v4.1) – Intelligence Index 26 (Launch-Artikel 04/2026: 31, ältere Index-Version) · Agentic-Index 28,6 · Coding-Index 39,3 · Terminal-Bench Hard 13,6 %

Quelle: BenchLM (Chatbot-Arena-Subkategorien, Stand 07.07.2026): Coding-Elo 1480 · Hard-Prompts-Elo 1461 · Multi-Turn-Elo 1446 · Instruction-Following-Elo 1439 · Math-Elo 1466 · Creative-Writing-Elo 1402 (Text-Overall-Elo 1438 steht oben in der Score-Tabelle).