Granite Embedding 311M Multilingual R2

Überblick

granite-embedding-311m-multilingual-r2 ist IBMs mehrsprachiges Embedding-Modell der zweiten Generation, veröffentlicht am 29. April 2026 unter Apache-2.0. Es ist für Retrieval in 52 Sprachen optimiert, darunter Deutsch, verarbeitet bis zu 32.768 Token und lässt sich per Matryoshka auf kleinere Vektoren kürzen. Es löst das Granite Embedding 278M Multilingual (R1) ab. Den technischen Hintergrund beschreibt der Report „Granite Embedding Multilingual R2 Models" (arXiv 2605.13521).

Technische Eckdaten

• 311 Mio. Parameter, davon laut IBM-Blog 110 Mio. ohne Embedding-Schicht; großer Anteil durch das Vokabular des Gemma-3-Tokenizers (rund 262.000 Token)
• ModernBERT-Encoder: 22 Layer, Hidden Size 768, 12 Attention-Heads, GeGLU
• Ausgabe: 768 Dimensionen, CLS-Pooling, per Matryoshka auf 512, 384, 256 oder 128 kürzbar
• Eingabe: 32.768 Token, 64-mal so viel wie R1
• Sprachen: Vortraining auf über 200 Sprachen, optimiertes Retrieval für 52, darunter Deutsch, Französisch, Italienisch, Polnisch, Tschechisch, Niederländisch und die skandinavischen Sprachen; dazu Code in Python, Go, Java, JavaScript, PHP, Ruby, SQL, C und C++
• Keine Aufgabenpräfixe; ONNX- und OpenVINO-Gewichte werden mitgeliefert

Use Cases

• Mehrsprachiges RAG über deutsche und internationale Bestände, auch mit sehr langen Dokumenten
• Sprachübergreifende Suche: deutsche Anfrage, Dokumente in anderen der 52 Sprachen
• Code-Suche und Suche in technischer Dokumentation
• Große Indizes mit gekürzten Vektoren (256 Dimensionen) bei geringem Qualitätsverlust

Stärken & Grenzen

Stärken

• Deutlich breiter als R1: 52 statt 12 Sprachen, 32K statt 512 Token, Matryoshka
• Matryoshka-Kürzung kostet laut IBM wenig: MTEB English v2 Retrieval 52,6 bei 768 und 51,6 bei 256 Dimensionen
• Hoher Durchsatz: laut IBM 1.828 Dokumente/s auf einer H100 (Batches à 1.024 Abschnitte mit 512 Token)
• Apache-2.0

Grenzen

• Nicht in Ollama. IBM verweist darauf, dass sich das Modell nach GGUF konvertieren lässt; ein offizieller Ollama-Eintrag oder Community-Upload war nicht auffindbar.
• Keine sprachspezifischen Werte veröffentlicht, auch nicht für Deutsch; die Mehrsprachigkeit ist nur als Durchschnitt über 18 Retrieval-Aufgaben belegt
• Die Matryoshka-Tabelle der Model Card weicht von Haupttabelle und Blog ab (ML-Retrieval bei 768 Dimensionen: 63,9 gegenüber 65,2)
• Bei Reasoning-Retrieval (RaR-b) mit 28,0 schwach

Benchmarks: Quellenlage

Herstellerangaben aus der Hugging-Face-Model-Card:

MTEB ML Retrieval (18)	MTEB Retrieval (eng, v2) (10)	MTEB Code v1 (12)	LongEmbed (6)	RaR-b (17)	Durchschnitt	Docs/s
65,2	52,6	63,8	71,7	28,0	56,3	1.828

Matryoshka-Tabelle der Model Card:

Dimensionen	MTEB Retrieval (eng, v2)	MTEB Code v1	ML MTEB Retrieval
768	52,6	63,9	63,9
512	52,5	63,8	63,9
384	52,1	63,7	63,8
256	51,6	63,4	63,5
128	50,4	62,3	62,5

Zusätzlich nennt IBMs Hugging-Face-Blog sprachübergreifendes Retrieval: Belebele 66,5 und MLQA 67,1. Laut Blog liegt das Modell auf Platz 2 unter 500 Mio. Parametern im MTEB-Multilingual-Retrieval-Ranking, laut Model Card unter den ersten drei.

Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen Granite Embedding nicht (Stand 10.10.2026). Unabhängig auslesen ließ sich das MTEB-Leaderboard nicht.

Gut zu wissen

• Betrieb: Sentence Transformers, Transformers, Text Embeddings Inference; ONNX und OpenVINO im Repository
• Kleines Geschwister: granite-embedding-97m-multilingual-r2 aus demselben Release (97M, 384 Dimensionen, ohne Matryoshka, ML-Retrieval 60,3)
• Vorgänger: Granite Embedding 278M Multilingual (R1, in Ollama als granite-embedding:278m)