Granite Embedding English R2
Englisches Embedding-Modell der zweiten Granite-Generation (149M, ModernBERT, 8.192 Token, Apache-2.0) für Unternehmens-Retrieval über lange Dokumente, Code und Tabellen.
- Hersteller
- IBM
- Lizenz
- Apache-2.0
- Betrieb
- Lokal (On-Premise)
- Herkunft
- USA (Armonk, NY)
- Architektur
- Dense Encoder (ModernBERT), 22 Layer, Hidden 768, CLS-Pooling
- Veröffentlichung
- 15.08.2025
- Parameter gesamt
- 149 Mio.
- Aktive Parameter
- 149 Mio.
- Kontextfenster
- 8k Tokens
Überblick
granite-embedding-english-r2 ist das größere Modell der zweiten englischen Granite-Embedding-Generation, veröffentlicht am 15. August 2025 unter Apache-2.0. Es basiert auf ModernBERT, verarbeitet bis zu 8.192 Token und ist auf Retrieval in Unternehmensanwendungen ausgelegt: lange Dokumente, Code, Tabellen und mehrstufige Dialoge. Den technischen Hintergrund beschreibt IBM im Report „Granite Embedding R2 Models" (arXiv 2508.21085).
Technische Eckdaten
- 149 Mio. Parameter, ModernBERT-Encoder: 22 Layer, Hidden Size 768, 12 Attention-Heads, GeGLU
- Wechsel aus globaler Attention (jeder dritte Layer) und lokaler Attention (Fenster 128 Token)
- Ausgabe: 768 Dimensionen, CLS-Pooling. Die Vektoren sind nicht normalisiert; IBM empfiehlt
normalize_embeddings=True. - Eingabe: 8.192 Token, 16-mal so viel wie bei R1
- Nur Englisch, keine Aufgabenpräfixe, keine Matryoshka-Kürzung dokumentiert
Use Cases
- Englische Suche und RAG über lange Dokumente, ohne sie in 512-Token-Abschnitte zerlegen zu müssen
- Code-Retrieval (CoIR) und Suche in Tabellen
- Retrieval für mehrstufige Dialoge im Kundenservice (MTRAG)
- Zusammen mit dem passenden granite-embedding-reranker-english-r2 als zweistufige Pipeline
Stärken & Grenzen
Stärken
- Langer Kontext bei kleiner Modellgröße
- Breit über Unternehmensaufgaben bewertet: Text, Code, lange Dokumente, Tabellen, Dialoge
- Apache-2.0
- Laut IBM 144 Dokumente/s auf einer H100 (512-Token-Abschnitte)
Grenzen
- Nur Englisch. Für Deutsch ist Granite Embedding 311M Multilingual R2 gedacht.
- Nicht in Ollama. Betrieb über Sentence Transformers, Transformers oder Text Embeddings Inference
- Die beiden Benchmark-Tabellen der Model Card weichen bei denselben Benchmarks leicht voneinander ab (siehe unten)
- Keine offizielle IBM-Ankündigung; Quellen sind Model Card, technischer Report und GitHub
Benchmarks: Quellenlage
Herstellerangaben aus der Hugging-Face-Model-Card. Tabelle 1:
| BEIR Retrieval (15) | MTEB-v2 (41) | CoIR (10) | MLDR (En) | MTRAG (4) | Docs/s |
|---|---|---|---|---|---|
| 53,1 | 62,8 | 55,3 | 40,7 | 56,7 | 144 |
Tabelle 2 (Durchschnitt 59,5):
| MTEB-v2 Retrieval (10) | CoIR (10) | MLDR (En) | LongEmbed (6) | Table IR (5) | MTRAG (4) |
|---|---|---|---|---|---|
| 56,4 | 54,8 | 41,6 | 67,8 | 78,53 | 57,6 |
CoIR, MLDR und MTRAG stehen in beiden Tabellen mit leicht abweichenden Werten; IBM erklärt den Unterschied nicht. MTEB-v2 (41) ist der Durchschnitt über die englische MTEB-v2-Suite und damit mit den MTEB-English-v2-Werten anderer Modelle vergleichbar.
Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen Granite Embedding nicht (Stand 10.10.2026). Ein Beitrag von IBM-Forscher Radu Florian nennt Platz 1 unter 500 Mio. Parametern im MTEB-English-Retrieval-Ranking (Stand 06.10.2025); unabhängig auslesen ließ sich das Leaderboard nicht.
Gut zu wissen
- Reihe: Granite Embedding English R2 mit dem kleineren Small English R2 (47M)
- Reranker: granite-embedding-reranker-english-r2 aus demselben Release
- Vorgänger: granite-embedding-125m-english (R1, 512 Token)