EmbeddingGemma 2

Überblick

EmbeddingGemma 2 ist das multimodale Embedding-Modell von Google DeepMind, veröffentlicht am 6. Oktober 2026. Es bildet Text, Code, Bilder, Video und Audio in einen gemeinsamen Vektorraum mit 768 Dimensionen ab. Damit lässt sich etwa mit einer Textanfrage in Bildern, Videos oder Sprachaufnahmen suchen. Das Modell basiert auf der Gemma-4-Architektur, ist auf lokalen Betrieb ausgelegt und steht anders als sein Vorgänger unter Apache-2.0.

Technische Eckdaten

• 740 Mio. Parameter gesamt: Textmodell 270 Mio. (130 Mio. Transformer, 140 Mio. Embedder), Vision-Encoder 170 Mio., Audio-Encoder 300 Mio.
• Die Encoder lassen sich einzeln laden: nur Text 270 Mio., Text + Bild 440 Mio., Text + Audio 570 Mio., alles 740 Mio.
• Textteil: 24 Layer, Model-Dimension 512, Sliding-Window-Attention mit globaler Attention in jedem sechsten Layer, Mean Pooling mit Projektion von 512 auf 768
• Ausgabe: 768 Dimensionen, per MRL auf 512, 256 oder 128 kürzbar
• Eingabe: bis 8.192 Token, viermal so viel wie bei Version 1. Laut Google reicht das für rund 5,5 Minuten Audio, 29 Bilder oder 58 Videoframes.
• Tokenkosten: 280 Token je Bild (Spanne 70–1.120), 140 je Videoframe bei 1 fps, 25 je Sekunde Audio
• Über 100 Sprachen; Trainingsdaten in über 140 Sprachen, Stand Januar 2025

Use Cases

• RAG über gemischte Bestände: Handbücher mit Abbildungen, gescannte Dokumente, Schulungsvideos, Besprechungsaufzeichnungen
• Medien- und Videosuche per Textanfrage auf dem eigenen Server
• Code-Suche: Hier legt das Modell gegenüber Version 1 am deutlichsten zu
• Embedding-Schicht für lokale Gemma-4-Anwendungen auf derselben Hardware
• Klassifikation, Clustering und semantische Ähnlichkeit über Aufgabenpräfixe

Stärken & Grenzen

Stärken

• Ein Modell für vier Modalitäten statt getrennter Text-, Bild- und Audio-Embedder
• Modular: Wer nur Text braucht, lädt 270 Mio. Parameter
• Apache-2.0 ohne Zugangsbeschränkung auf Hugging Face
• Deutlich stärker bei Code (MTEB Code 78,68 statt 68,76) und mit viermal längerem Kontext als Version 1
• Laut Google rund 191 MB RAM für reine Text-Embeddings und rund 567 MB für den vollen multimodalen Betrieb, jeweils quantisiert auf einem Pixel 11 Pro

Grenzen

• Bei englischem Text nicht besser als der Vorgänger: MTEB English v2 sinkt von 69,67 auf 68,46. Bei mehrsprachigem Text ist der Zugewinn mit 61,36 statt 61,15 gering. Wer nur Text einbettet, hat damit vor allem bei Code und langem Kontext einen Grund zum Wechsel.
• Bei 128 Dimensionen bricht die multimodale Qualität laut Google deutlich ein (MMEB v2 von 59,01 auf 45,65)
• Nur vortrainiert, ohne Sicherheits-Tuning; eigene Schutzmaßnahmen liegen beim Betreiber
• Kein float16: Es kann NaN-Werte oder unbemerkt verschlechterte Embeddings liefern. Google empfiehlt bfloat16 oder float32.
• Google veröffentlicht keine eigenen quantisierten Checkpoints; die quantisierten Varianten stammen von Drittanbietern (Ollama, ggml-org, Unsloth, MLX Community)

Benchmarks: Quellenlage

Alle Werte sind Herstellerangaben aus Googles Model Card (Mean (Task), sofern nicht anders angegeben):

Dimensionen	MTEB Multilingual v2	MTEB English v2	MTEB Code v1	MIEB lite	MMEB v2 gesamt	MSEB Retrieval	MAEB
768	61,36	68,46	78,68	64,64	59,01	69,54	49,39
512	61,17	68,41	77,24	64,32	58,38	69,18	49,21
256	60,41	67,78	76,18	63,13	56,24	66,76	48,91
128	57,89	65,68	71,41	59,06	45,65	56,71	46,92

Bei 768 Dimensionen nach Modalität: MMEB v2 Image 57,28 (Hit@1), MMEB v2 VisDoc 67,84 (NDCG@5), MMEB v2 Video 50,67 (Hit@1). MIEB lite ist als Mean (TaskType) angegeben.

Google gibt an, dass das Modell bei MTEB Code und MAEB vor allen multimodalen Embedding-Modellen unter 1 Mrd. Parametern liegt, nennt dazu aber keine Vergleichswerte.

Hinweis: Artificial Analysis vermisst keine Embedding-Modelle. BenchLM führt eine Modellseite, aber ohne eigene Messung („Not measured") und gibt nur Googles Werte wieder (Stand 10.10.2026). Eine unabhängige MTEB-Platzierung ließ sich nicht auslesen.

Gut zu wissen

• Prompts: Nur Text bekommt ein Präfix. Anfragen als task: search result | query: {Text}, Dokumente als title: {Titel oder none} | text: {Text}. Bilder, Video und Audio werden ohne Präfix übergeben.
• Ollama: embeddinggemma-2 (Standard 740M, 1,3 GB) sowie Teilmodelle 270m (nur Text, 378 MB), 440m (Text + Bild, 714 MB) und 570m (Text + Audio, 990 MB), jeweils als BF16-, MXFP8- und NVFP4-Variante. Ollama weist als Eingabe nur Text und Bild aus.
• Kontextangabe bei Ollama: Die Tag-Seiten nennen 256K Kontext. Google spezifiziert 8.192 Token; maßgeblich ist die Herstellerangabe.
• Weitere Laufzeiten: Sentence Transformers, vLLM, SGLang, llama.cpp, LM Studio, MediaPipe/LiteRT, transformers.js (WebGPU); Vertex AI Model Garden laut Google in Vorbereitung
• Vorgänger: EmbeddingGemma (Version 1, 308M, nur Text, Gemma-Lizenz) bleibt für reine Text-Workloads mit kurzem Kontext eine Alternative