deepset-mxbai-embed-de-large-v1

Überblick

deepset-mxbai-embed-de-large-v1 ist ein deutsch-englisches Text-Embedding-Modell, das Mixedbread gemeinsam mit dem Berliner Unternehmen deepset entwickelt hat. Es wurde am 18. Juli 2024 unter Apache-2.0 veröffentlicht und auf über 30 Mio. deutschen Textpaaren trainiert. Damit ist es eines der wenigen offenen Embedding-Modelle, die gezielt für Deutsch optimiert sind. deepset ist das Unternehmen hinter dem Open-Source-RAG-Framework Haystack.

Technische Eckdaten

• 487 Mio. Parameter, XLM-RoBERTa-Architektur auf Basis von intfloat/multilingual-e5-large: 24 Layer, Hidden Size 1.024, 16 Attention-Heads
• Vokabular gegenüber dem Basismodell von rund 250.000 auf rund 179.000 Token verkleinert
• Ausgabe: 1.024 Dimensionen, per Matryoshka auf 768, 512, 256, 128 oder 64 kürzbar; zusätzlich binäre Quantisierung
• Eingabe: 512 Token
• Sprachen: Deutsch und Englisch
• Präfixe: query: für Anfragen, passage: für Dokumente
• Training: AnglE-Loss, Mischung aus voller Feinabstimmung und LoRA, auf einem Nvidia DGX mit 8× A100

Use Cases

• Suche und RAG über deutsche Wissensbestände, z. B. Handbücher, Verträge, Intranet
• Juristische Dokumente: Mixedbread berichtet eine Fallstudie mit MAP@10 90,25
• Gemischt deutsch-englische Bestände
• Haystack-Pipelines, für die das Modell mitentwickelt wurde

Stärken & Grenzen

Stärken

• Gezielt auf Deutsch trainiert statt nur mehrsprachig mitabgedeckt
• Laut Hersteller besser als das Basismodell multilingual-e5-large (Durchschnitt NDCG@10 51,7 gegenüber 50,5)
• Starke Kompression: Binäre Vektoren behalten 91,8 % der Qualität bei 32-fach geringerem Speicher; 768 Dimensionen behalten 97,5 %
• Apache-2.0

Grenzen

• Nur 512 Token Kontext
• Nicht in Ollama, weder offiziell noch als Community-Upload auffindbar; Betrieb über Sentence Transformers oder die Mixedbread-API
• Die Hauptzahl 51,7 beruht laut Hersteller auf einer Mischung aus privaten und öffentlichen Benchmarks; eine Aufschlüsselung gibt es nur in einer externen Tabelle
• Unterhalb von 512 Dimensionen fällt die Qualität deutlich ab (256 Dimensionen: 79,4 %)
• Seit Juli 2024 ohne Nachfolger

Benchmarks: Quellenlage

Herstellerangabe aus Model Card und Blog: Durchschnitt NDCG@10 51,7 über eine Mischung privater und öffentlicher deutscher Benchmarks.

Separat zeigt Mixedbreads Blog eine Tabelle zur Matryoshka- und Binärkompression (NDCG@10, andere Benchmark-Auswahl als die Hauptzahl):

Dimensionen	MIRACL (DE, intern)	GermanDPR	LegalQuAD	Newspaper (deepset)	Durchschnitt	Erhalten
1.024	81,17	83,58	47,23	53,21	66,30	100 %
768	80,22	82,15	45,36	50,97	64,68	97,5 %
512	78,39	79,62	42,78	46,32	61,78	93,2 %
256	71,24	70,44	33,48	35,51	52,67	79,4 %
1.024 binär	78,09	79,49	37,05	46,72	60,34	91,8 %

Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen das Modell nicht (Stand 10.10.2026). Unabhängige Messungen auf deutschen Benchmarks ließen sich nicht finden.

Gut zu wissen

• Entwickler: Mixedbread (Repository mixedbread-ai) in Zusammenarbeit mit deepset GmbH (Berlin, gegründet 2018, Haystack)
• Betrieb: Sentence Transformers, Mixedbread-API; als XLM-RoBERTa-Modell grundsätzlich auch in Text Embeddings Inference
• Englische Schwester: mxbai-embed-large-v1 (nur Englisch, 335M)