mxbai-embed-large-v1

Überblick

mxbai-embed-large-v1 ist ein offenes englisches Text-Embedding-Modell von Mixedbread, veröffentlicht am 8. März 2024. Es hat die Größe eines BERT-large, erzeugt Vektoren mit 1.024 Dimensionen und ist auf Retrieval in RAG- und Suchanwendungen ausgelegt. In Ollama ist es unter mxbai-embed-large eines der meistgeladenen Embedding-Modelle.

Technische Eckdaten

• 335 Mio. Parameter, BERT-Architektur: 24 Layer, Hidden Size 1.024, 16 Attention-Heads
• CLS-Pooling als Standard; Mean Pooling funktioniert laut Hersteller ebenfalls
• Ausgabe: 1.024 Dimensionen
• Eingabe: bis 512 Token, nur Englisch
• Training: Kontrastives Vortraining auf über 700 Mio. Textpaaren, danach Feinabstimmung auf über 30 Mio. Tripeln mit AnglE-Loss
• Laut Hersteller ohne Überschneidung mit den MTEB-Testdaten trainiert; außer MS MARCO keine MTEB-Trainingsdaten

Use Cases

• Semantische Suche und RAG über englischsprachige Dokumente
• Standard-Embedding in lokalen RAG-Stacks mit Ollama, wenn die Inhalte englisch sind
• Klassifikation und Clustering kurzer englischer Texte

Stärken & Grenzen

Stärken

• Solide Werte über alle MTEB-Aufgabentypen bei moderater Größe, laut Hersteller im März 2024 Spitze unter den BERT-large-großen Modellen
• Apache-2.0, ohne Zugangsbeschränkung
• Laut aktueller Model Card Matryoshka-Kürzung (z. B. auf 512 Dimensionen) und binäre Quantisierung für kleinere Indizes
• Breit unterstützt: Sentence Transformers, Text Embeddings Inference, ONNX, OpenVINO, transformers.js, Ollama

Grenzen

• Nur Englisch: Für deutschsprachige Bestände ist es nicht ausgelegt. Mixedbread bietet dafür das gemeinsam mit deepset trainierte deepset-mxbai-embed-de-large-v1 an.
• Kurzer Kontext von 512 Token; Mixedbread hat bewusst auf Long Context verzichtet, Dokumente müssen in Abschnitte zerlegt werden
• Der Hersteller nennt selbst Schwächen, die eine Version 2 beheben sollte, darunter Präferenzprobleme bei den gefundenen Kandidaten. Ein Nachfolger mit diesem Namen ist bis heute nicht erschienen.
• Älteste Generation unter den hier geführten Embedding-Modellen (Stand März 2024)

Benchmarks: Quellenlage

Herstellerangaben aus der Hugging-Face-Model-Card, MTEB mit 56 Datensätzen (die klassische englische MTEB-Suite; eine Versionsangabe macht Mixedbread nicht):

Aufgabentyp	Wert
Durchschnitt (56 Datensätze)	64,68
Classification	75,64
Clustering	46,71
Pair Classification	87,2
Reranking	60,11
Retrieval	54,39
STS	85,00
Summarization	32,71

Die Werte sind nicht mit den MTEB-v2-Werten neuerer Modelle (z. B. EmbeddingGemma) vergleichbar, weil die Benchmark-Suite eine andere ist.

Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen mxbai-embed-large nicht (Stand 10.10.2026). Eine unabhängige MTEB-Platzierung ließ sich nicht auslesen.

Gut zu wissen

• Prompt: Nur Suchanfragen bekommen das Präfix Represent this sentence for searching relevant passages: ; Dokumente werden ohne Präfix eingebettet.
• Ollama: mxbai-embed-large (670 MB, FP16, 512 Token Kontext); weitere Tags sind identisch
• Gehostet: Mixedbread bietet das Modell zusätzlich über die eigene API mit int8- und Binärquantisierung an
• Verwandte Modelle: mxbai-rerank (v1 und v2) als passender Reranker, deepset-mxbai-embed-de-large-v1 für Deutsch