/Modelle

Granite Embedding 30M English

IBM

Kleinstes Modell aus IBMs erster Embedding-Generation (30M, nur Englisch, 384 Dimensionen) – Standard-Tag von granite-embedding in Ollama, nur 63 MB groß.

In: Text Embedding
Hersteller
IBM
Lizenz
Apache-2.0
Betrieb
  • Lokal (On-Premise)
Herkunft
USA (Armonk, NY)
Architektur
Dense Encoder (RoBERTa-artig), 6 Layer, Hidden 384, CLS-Pooling
Veröffentlichung
18.12.2024
Parameter gesamt
30 Mio.
Aktive Parameter
30 Mio.
Kontextfenster
512 Tokens

Überblick

granite-embedding-30m-english ist das kleinste Modell aus IBMs erster Generation offener Text-Embedding-Modelle (Granite Embedding R1), veröffentlicht am 18. Dezember 2024 unter Apache-2.0. Es ist rein englisch, erzeugt Vektoren mit 384 Dimensionen und ist für schnelles Retrieval gedacht. In Ollama ist es der Standard-Tag latest von granite-embedding. Das mehrsprachige Geschwister mit Deutsch ist Granite Embedding 278M Multilingual.

Technische Eckdaten

  • 30,3 Mio. Parameter, RoBERTa-artiger Encoder: 6 Layer, Hidden Size 384, 12 Attention-Heads
  • Ausgabe: 384 Dimensionen, CLS-Pooling
  • Eingabe: 512 Token, längere Texte werden abgeschnitten
  • Nur Englisch, kein Aufgabenpräfix nötig
  • Aus einem größeren IBM-Lehrermodell destilliert; Training laut IBM-Paper in drei Schritten: retrieval-orientiertes Vortraining, kontrastive Destillation, Anpassung an Unternehmensdomänen

Use Cases

  • Sehr schnelle englische Suche auf CPU und Edge-Geräten
  • Große Indizes, bei denen kleine Vektoren (384 Dimensionen) Speicher sparen
  • Vorfilter in mehrstufigen Retrieval-Pipelines vor einem Reranker

Stärken & Grenzen

Stärken

  • Extrem klein: 63 MB in Ollama; laut IBM-Paper 0,16 s je Anfrage
  • Apache-2.0 mit dokumentierter, unternehmensfreundlich lizenzierter Datenherkunft
  • Keine Präfixe, dadurch einfache Integration

Grenzen

  • Nur Englisch. Wer in Ollama granite-embedding ohne Tag lädt, bekommt dieses Modell. Für deutsche Texte muss ausdrücklich granite-embedding:278m gewählt werden.
  • Nur 512 Token Kontext, keine Matryoshka-Kürzung dokumentiert
  • Code-Retrieval laut IBM-Paper nur zero-shot
  • Technisch überholt durch IBMs eigene Nachfolger: Granite Embedding Small English R2 (47M, 8.192 Token) liegt bei ähnlicher Größenordnung deutlich höher (BEIR 50,9 gegenüber 49,1)

Benchmarks: Quellenlage

Herstellerangaben aus Model Card und technischem Report (arXiv 2502.20204). IBM nennt keine MTEB-Version; nach Zeitpunkt und Aufgabenzahl ist es die ältere englische MTEB-Suite, nicht MTEB v2.

  • MTEB Retrieval (15 BEIR-Datensätze, NDCG@10): 49,1
  • MTEB English, Durchschnitt über sieben Aufgabentypen: 57,3 (Classification 61,2 · Clustering 43,2 · Pair Classification 78,9 · Reranking 58,5 · Retrieval 49,1 · STS 76,2 · Summarization 29,4)
  • CoIR (Code-Retrieval, 10 Aufgaben): 47,0

Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen Granite Embedding nicht (Stand 10.10.2026). Das Modell ist im offiziellen MTEB-Paket registriert; eine Platzierung im Leaderboard ließ sich nicht auslesen.

Gut zu wissen

  • Ollama: granite-embedding = 30m = 30m-en (63 MB, FP16, 512 Token)
  • Revision: Auf Hugging Face gibt es seit August 2025 eine Revision r1.1 in einem eigenen Branch (MTEB Retrieval 48,9, dafür bessere Werte auf IBMs RAG-Dialog-Benchmarks). Ollama liefert den Stand vom Dezember 2024 aus.
  • Reihe: Granite Embedding R1 umfasst außerdem 125M English, 107M Multilingual und 278M Multilingual
  • Nachfolger: Granite Embedding English R2 und Small English R2 (August 2025)

Links