Granite Embedding Small English R2
Kompakte Variante der englischen Granite-Embedding-R2-Reihe (47M, 384 Dimensionen, 8.192 Token, Apache-2.0) – schneller als das 149M-Geschwister bei geringem Qualitätsverlust.
- Hersteller
- IBM
- Lizenz
- Apache-2.0
- Betrieb
- Lokal (On-Premise)
- Herkunft
- USA (Armonk, NY)
- Architektur
- Dense Encoder (ModernBERT), 12 Layer, Hidden 384, CLS-Pooling
- Veröffentlichung
- 15.08.2025
- Parameter gesamt
- 47 Mio.
- Aktive Parameter
- 47 Mio.
- Kontextfenster
- 8k Tokens
Überblick
granite-embedding-small-english-r2 ist die kompakte Variante der zweiten englischen Granite-Embedding-Generation, veröffentlicht am 15. August 2025 unter Apache-2.0. Mit 47 Mio. Parametern und 384 Dimensionen ist es auf Durchsatz ausgelegt, verarbeitet aber wie das größere Geschwister bis zu 8.192 Token. Den technischen Hintergrund beschreibt IBM im Report „Granite Embedding R2 Models" (arXiv 2508.21085).
Technische Eckdaten
- 47 Mio. Parameter, ModernBERT-Encoder: 12 Layer, Hidden Size 384, 12 Attention-Heads, GeGLU
- Wechsel aus globaler Attention (jeder dritte Layer) und lokaler Attention (Fenster 128 Token)
- Ausgabe: 384 Dimensionen, CLS-Pooling
- Eingabe: 8.192 Token
- Nur Englisch, keine Aufgabenpräfixe, keine Matryoshka-Kürzung dokumentiert
Use Cases
- Englische Suche mit hohem Durchsatz, z. B. beim initialen Indexieren großer Bestände
- CPU- und Edge-Betrieb mit langem Kontext
- Erste Stufe vor einem Reranker (granite-embedding-reranker-english-r2)
Stärken & Grenzen
Stärken
- Rund ein Drittel der Größe von English R2 bei nur 1,7 Punkten Abstand auf MTEB-v2 (61,1 gegenüber 62,8)
- Laut IBM 199 Dokumente/s auf einer H100 (512-Token-Abschnitte), gegenüber 144 beim größeren Modell
- Langer Kontext und Apache-2.0
- Gegenüber dem Vorgänger granite-embedding-30m-english (R1) höhere Retrieval-Werte (BEIR 50,9 gegenüber 49,1) und 16-mal mehr Kontext
Grenzen
- Nur Englisch
- Nicht in Ollama
- Bei Dialog-Retrieval (MTRAG) deutlich schwächer als das größere Modell (48,1 gegenüber 56,7)
- Die beiden Benchmark-Tabellen der Model Card weichen bei denselben Benchmarks leicht voneinander ab
Benchmarks: Quellenlage
Herstellerangaben aus der Hugging-Face-Model-Card. Tabelle 1:
| BEIR Retrieval (15) | MTEB-v2 (41) | CoIR (10) | MLDR (En) | MTRAG (4) | Docs/s |
|---|---|---|---|---|---|
| 50,9 | 61,1 | 53,8 | 39,8 | 48,1 | 199 |
Tabelle 2 (Durchschnitt 55,6):
| MTEB-v2 Retrieval (10) | CoIR (10) | MLDR (En) | LongEmbed (6) | Table IR (5) | MTRAG (4) |
|---|---|---|---|---|---|
| 53,9 | 53,4 | 40,1 | 61,9 | 75,51 | 48,9 |
CoIR, MLDR und MTRAG stehen in beiden Tabellen mit leicht abweichenden Werten; IBM erklärt den Unterschied nicht.
Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen Granite Embedding nicht (Stand 10.10.2026). Ein Beitrag von IBM-Forscher Radu Florian nennt Platz 2 unter 100 Mio. Parametern im MTEB-English-Retrieval-Ranking (Stand 06.10.2025); unabhängig auslesen ließ sich das Leaderboard nicht.
Gut zu wissen
- Reihe: Granite Embedding English R2 mit dem größeren English R2 (149M)
- Vorgänger: Granite Embedding 30M English (R1, in Ollama Standard-Tag von
granite-embedding)