Mistral-Medium-3.5-128B

Überblick

Mistral-Medium-3.5-128B ist das erste „merged" Flaggschiff von Mistral AI: ein dichtes 128B-Modell mit 256K-Kontext, das Instruction-Following, Reasoning und Coding in einem einzigen Satz Gewichte vereint. Es löst Mistral Medium 3.1 und Magistral in Le Chat ab und ersetzt Devstral 2 im Coding-Agenten Vibe. Der Reasoning-Aufwand ist pro Request konfigurierbar (none/high). Der Vision-Encoder wurde von Grund auf für variable Bildgrößen trainiert. Auf dem AA Intelligence Index erreicht es 39 – Rang 2 seiner Größenklasse (Median 15).

Use Cases

• Agentisches Coding und Software-Engineering (SWE-bench Verified 77,6 %; ersetzt Devstral 2 in Vibe)
• Agentische Tool-Nutzung mit nativem Function Calling und JSON-Output (τ³-Telecom 91,4 %)
• Multimodale Aufgaben mit Text- und Bildeingabe
• Reasoning und mathematische/wissenschaftliche Fragestellungen (GPQA Diamond 75 %)
• Mehrsprachige Anwendungen (u. a. Deutsch, Englisch, Französisch, Chinesisch, Arabisch)

Stärken & Grenzen

Stärken: Sehr hoher Intelligence Index (39) für die Größenklasse, vereint Instruct + Reasoning + Vision in einem Modell. Starke agentische Fähigkeiten und Long-Context-Reasoning (AA-LCR 61 %). Konfigurierbarer Reasoning-Effort, starke System-Prompt-Treue.

Grenzen: Für ein offenes Modell dieser Größe teuer ($1,50/$7,50 pro 1M) und mit ~70 t/s langsamer als der Klassenschnitt (86 t/s). Sehr verbose (90M Output-Tokens im Intelligence-Index-Lauf, Median 16M). Höhere Latenz (TTFT ~2,0 s). Niedrige Non-Hallucination Rate (18 %). Ausgabe nur Text.

Praxis-Erfahrung

Empfohlene Settings: reasoning_effort="high" mit temperature 0.7 / top_p 0.95 für komplexe und agentische Aufgaben; none für schnelle Antworten. Listenpreise (Mistral-API): $1,50/1M Input, $7,50/1M Output. Self-Hosting via vLLM (empfohlen, TP=8), SGLang, Transformers, llama.cpp oder Ollama (ollama run mistral-medium-3.5, ~80 GB). Ein EAGLE-Speculative-Modell wird zur Beschleunigung bereitgestellt.

Gut zu wissen

• Lizenz: Modified MIT License (kommerzielle Nutzung erlaubt, Ausnahmen für umsatzstarke Unternehmen); Release 04/2026
• Architektur: Dense, 128B; Kontext 256K; FP8/BF16; von Grund auf trainierter Vision-Encoder
• Weitere Artificial-Analysis-Werte ohne Eintrag in der Score-Tabelle: τ³-Banking 14 %, CritPt 0 %, AA-Omniscience Accuracy 25 %, Non-Hallucination Rate 18 %, AA-Briefcase 0 %
• AA-Werte abgelesen aus den Übersichtscharts (29.06.2026); SWE-bench Verified (77,6 %) und τ³-Telecom (91,4 %) aus der offiziellen Mistral-Model-Card