MiniCPM-V 4.7 35B-A3B

Überblick

MiniCPM-V 4.7 35B-A3B ist das größere Modell der Vision-Language-Reihe MiniCPM-V 4.7 von OpenBMB (Tsinghua-NLP-Labor und ModelBest), veröffentlicht am 12. Oktober 2026 unter Apache-2.0. Es ist das erste Mixture-of-Experts-Modell der Reihe: 35,2 Mrd. Parameter gesamt, davon rund 3 Mrd. aktiv je Token. Das Sprach-Backbone stammt aus Alibabas Qwen-3.6-Familie, dazu kommt ein eigener Bildencoder mit früher Kompression der Bild-Token (LLaVA-UHD v4). OpenBMB zielt ausdrücklich auf lokalen Betrieb bis hinunter auf Tablets und Smartphones.

Use Cases

• Dokumenten- und Belegerfassung: OCR, Formulare, Tabellen und Diagramme lokal auslesen
• Bild- und Screenshot-Auswertung in internen Workflows, ohne Daten an eine Cloud zu geben
• Video-Verständnis (Zusammenfassung, Ereignissuche) auf eigener Hardware
• Multimodale Agenten mit Werkzeugaufrufen auf kleiner GPU oder Apple-Silicon-Rechnern

Stärken & Grenzen

Stärken (alle Werte Herstellerangaben, Instruct-Modus, 4x-Bildkompression)

• Dokumente und OCR: OmniDocBench v1.6 94,24, OCRBench 91,20, OCRBench v2 68,47, CharXiv Reasoning 75,60 – jeweils vor Qwen3.6-35B-A3B, Qwen3.8-27B und Gemma 4 31B in OpenBMBs eigener Vergleichstabelle.
• Allgemeines Bildverständnis: MMBench 91,72, MMStar 80,67, MMMU 80,22, MathVista 88,00.
• Video: Video-MME (ohne Untertitel) 76,40, LongVideoBench 68,90.
• Werkzeugnutzung: τ²-Bench 84,65 – in OpenBMBs Tabelle vor allen Vergleichsmodellen (Qwen3.6-35B-A3B 79,65). Bei BFCL v4 (60,06) liegt es dagegen knapp hinter allen vier Vergleichsmodellen (60,20 bis 63,72).
• Effizienz: Nur ~3B aktive Parameter; OpenBMB nennt über 13 Token/s auf einem iPhone 17 Pro Max (mit SSD-Auslagerung, eigenem Experten-Scheduling und spekulativem Decoding – nicht unabhängig nachgemessen).

Grenzen

• Reine Textaufgaben: MMLU-Pro 83,45, LiveCodeBench v6 56,57, AIME 2026 (avg@16) 76,46, IFBench 47,67 – hier liegen Qwen3.6-27B, Qwen3.8-27B oder Gemma 4 31B in derselben Tabelle teils deutlich vorn.
• GUI-Grounding: ScreenSpot 86,99 gegenüber 92,94 beim Qwen3.6-35B-A3B.
• Instruktionstreue bei Bildern: MM-IFEval 65,41, hinter Gemma 4 31B (69,59).
• Halluzinationen: MMHal-Hallrate 21,88 % – auf dem Niveau der besten Vergleichsmodelle, aber weiterhin jede fünfte Antwort betroffen.
• Keine unabhängigen Messungen: Artificial Analysis und LMArena führen das Modell am 13.10.2026 nicht; alle Zahlen stammen aus OpenBMBs eigener Tabelle, die nur als Bild veröffentlicht ist.

Praxis-Erfahrung

Ein eigener Praxistest steht noch aus.

Gut zu wissen

• Lizenz: Apache-2.0, kommerzielle Nutzung ohne Zusatzbedingungen.
• Hardware: BF16-Gewichte rund 70 GB. Die Ollama-Variante (openbmb/minicpm-v4.7) ist rund 22 GB groß – auf einer 24-GB-GPU bleibt damit nur wenig Platz für den KV-Cache, ein Mac mit 32 GB Unified Memory oder eine 32/48-GB-Karte ist für längere Kontexte realistischer. OpenBMB liefert zusätzlich FP8-, AWQ-, GPTQ-, int4- und GGUF-Fassungen sowie ein DSpark-Draft-Modell für spekulatives Decoding.
• Inferenz: Transformers ab 5.18.0, vLLM, SGLang, llama.cpp und Ollama. Der Parameter downsample_mode („16x" als Voreinstellung, „4x" für feine Details) muss sowohl an apply_chat_template als auch an generate übergeben werden. Die Benchmarks oben gelten für 4x; mit 16x liegen die Werte meist ein bis drei Punkte niedriger (z. B. OCRBench 90,40, OmniDocBench 93,25).
• Kontext: 262.144 Token (max_position_embeddings).
• Reasoning: Das Chat-Template kennt einen Thinking-Modus (enable_thinking, <think>-Segmente) und Werkzeugaufrufe (<tool_call>, tool-Rolle). OpenBMB hat die Benchmarks ausdrücklich im Instruct-Modus gemessen; Werte mit Thinking sind nicht veröffentlicht.
• Sprachen: OpenBMB veröffentlicht keine deutschsprachigen Ergebnisse. Die Textbenchmarks sind englisch bzw. chinesisch (CMMLU 90,21) – vor einem Einsatz mit deutschen Dokumenten eigene Stichproben fahren.
• Hosting: Kein gehosteter API-Endpunkt bekannt; Betrieb lokal bzw. On-Prem.
• Alternativen: Qwen3.6-35B-A3B (gleiche Größenklasse, stärker bei Text und GUI-Grounding), Gemma 4 26B A4B, und innerhalb der Reihe das deutlich kleinere MiniCPM-V 4.7 1B für Edge-Geräte.