Jais 3 36B-A4B

Überblick

Jais 3 36B-A4B (Repo-Name Jais-3-MoVA-36B-A4B) ist das sparse Mitglied der Jais-3-Familie, die das Institute of Foundation Models (IFM) der MBZUAI gemeinsam mit Inception42 am 15.10.2026 veröffentlicht hat. Die Familie umfasst sechs Größen von 0,9B bis 375B-A23B; jede setzt auf dem nachtrainierten K2-Horizon-Modell gleicher Größe auf. Das 36B-A4B ist ein Mixture-of-Experts-Modell mit rund 4B aktiven Parametern pro Token, ausgelegt auf Arabisch und Englisch, Reasoning und agentische Aufgaben (Tool-Aufrufe, Terminal, Coding). Gewichte und Code stehen unter Apache-2.0.

Use Cases

• Lokal betriebene Agenten mit Tool-Aufrufen, etwa für Datei- und Dokumentenverarbeitung oder Terminal-Automatisierung
• Coding-Assistenz in Agent-Harnesses (laut Hersteller SWE-bench Verified 72,8 %)
• Arabisch-englische Assistenzsysteme, Übersetzung und Kundenkommunikation in arabischsprachigen Märkten
• Lange Dokumente und Akten bis 512K Token Kontext

Stärken & Grenzen

• Stark: Effizienz. Mit nur rund 4B aktiven Parametern erreicht das Modell laut IFM im agentischen Mittel 57,4 % – deutlich vor Gemma 4 31B (36,4 %) und nahe am dichten Jais 3 32B (60,0 %).
• Stark: Herstellerzahlen im Coding: SWE-bench Verified (Offline) 72,8 %, Terminal-Bench 2.1 67,3 %, MCPMark 69,3 %.
• Stark: Lizenz und Offenheit. Apache-2.0, dazu veröffentlichte Trainingsrezepte, Code und geprüfte arabische Benchmark-Datensätze.
• Grenze: Sprachfokus Arabisch und Englisch. Zu Deutsch macht der Hersteller keine Angaben; vor einem Einsatz mit deutschen Texten sind eigene Tests nötig.
• Grenze: In mehreren Wissens- und Arabisch-Kategorien liegt das dichte Gemma 4 31B laut IFM-Tabelle vorn (z. B. Arabic MMLU 89,5 gegenüber 87,7 %), und Qwen3.8-27B schneidet bei Terminal-Bench 2.1 (79,8 %) und im agentischen Mittel (61,0 %) besser ab.
• Grenze: Reines Text-zu-Text-Modell. Der Chat-Template weist Bild- und andere Nicht-Text-Inhalte ausdrücklich zurück; Dateien müssen vorher in Text umgewandelt werden.
• Grenze: Alle Benchmark-Zahlen stammen vom Hersteller. Artificial Analysis, LMArena und BenchLM führen das Modell (Stand 18.10.2026) nicht.

Praxis-Erfahrung

• Der Chat-Template belegt Tool-Definitionen (Darstellung als JSON, XML oder Markdown) und Tool-Aufrufe in einem eigenen <ifm|tool_calls>-Block; für vLLM ist der Parser k2_horizon vorgesehen.
• Die Reasoning-Tiefe ist über reasoning_effort steuerbar: high (Standard, <ifm|think>), medium (think_fast) und low (think_faster). IFM empfiehlt high mit mindestens 32.768 Ausgabetoken. Mit welcher Stufe die Benchmarks gemessen wurden, nennt die Model Card nicht – die Scores stehen deshalb ohne Stufenangabe in der Tabelle.
• Empfohlenes Sampling: top-p 0,95, top-k 20; Temperatur 1,0 im englischen Thinking-Modus, 0,7 im arabischen Thinking-Modus, sonst 0,2.
• Serving über vLLM (ab 0.30.0) und SGLang (ab 0.5.20); die Beispielbefehle nutzen Tensor-Parallelität 2 und Expert-Parallelität.
• Eigene Tests im Haus stehen noch aus; diese Card beruht auf Herstellerangaben.

Gut zu wissen

• Parameter: Die safetensors-Metadaten weisen 37,44 Mrd. Parameter aus; der Hersteller bezeichnet das Modell als 36B. Ein großer Teil der Differenz dürfte auf das Vokabular mit 250.624 Token entfallen.
• Architektur (config.json): K2HorizonForCausalLM, 48 Layer (Layer 0–2 dicht), Hidden Size 2.560, 32 Attention-Heads mit 8 KV-Heads, 100 Experten mit Top-8-Routing plus ein Shared Expert, Softplus-Attention-Gating, RoPE-Theta 10 Mio.
• Kontext: 524.288 Positionen laut config.json; der Hersteller spricht von 512K Token.
• Hardware: Laut IFM passt das Modell in BF16 (rund 75 GB) auf eine H200. Mit den mitgelieferten FP8-, GGUF- und MLX-Varianten (4-/8-Bit) ist auch Workstation- oder Apple-Silicon-Hardware realistisch.
• Hosting: Gewichte auf Hugging Face (inception42/Jais-3-MoVA-36B-A4B, Sammlung unter IFM). Ein gehostetes API-Angebot des Herstellers oder ein EU-Hosting ist nicht dokumentiert; in der Ollama-Library ist das Modell nicht gelistet.
• Familie: Daneben gibt es Jais 3 in 0,9B, 3,7B, 7B, 32B (dicht) und 375B-A23B sowie „Uno“-Varianten der dichten Größen.

Weitere Benchmarks

Quelle IFM (offizielle Model Card und Launch-Blog, Stand 15.10.2026), ohne passenden CRM-Schlüssel:

• Arabisch: Arabic-Mittel 82,5 · AraGen v3 (3C3H) 68,6 · Arabic MMLU 87,7 · Belebele 94,4 · AraSTEM 94,7 · Arabic GSM8K 92,2 · GAT Math 97,5 · MedAraBench 85,4 · IslamicQA 89,7 · Arabic IFBench 92,0 · SimpleQA Verified (Ar) 31,5 · Harmlessness 78,8
• Kategorien (Blog): Knowledge & Reasoning 88,7 · Arabic Language & Culture 85,0 · Dialekte 79,8 · Übersetzung 90,8 · Instruction Following 86,0 · Factuality 48,8 · Long Context 73,0
• Agentisch: Agentic-Mittel 57,4 · GAIA v2 (Arabisch) 51,5 · Arabic File Processing 52,3 · GDPval 67,7 · MCPMark 69,3 · WildClawBench 40,3 · Apex-Agents 23,6 · BrowseComp-Plus 71,8

Hinweis zu den Zahlen: Arabic IFBench ist nicht mit IFBench vergleichbar, und das von IFM genannte GDPval ist nicht die Artificial-Analysis-Fassung GDPval-AA. Beide Werte stehen daher nur hier im Text.

Artificial Analysis führt mit Stand 18.10.2026 keines der Jais-3-Modelle (nur das Basismodell K2 Horizon 375B A23B, ohne Index-Wert). LMArena und BenchLM listen die 36B-A4B-Variante ebenfalls nicht; BenchLM führt lediglich Jais 3 375B-A23B.