Arctic Embed

Snowflake

Englische Retrieval-Embeddings von Snowflake (v1, April 2024, Apache-2.0) in fünf Größen von 22M bis 335M – Ollama-Standard ist die L-Variante.

In: Text Embedding
Hersteller
Snowflake
Lizenz
Apache-2.0
Betrieb
  • Lokal (On-Premise)
Herkunft
USA (Bozeman, MT; nach eigener Angabe ohne festen Hauptsitz)
Architektur
Dense Encoder (BERT-large, Basis e5-large-unsupervised), 24 Layer, CLS-Pooling, 1.024 Dimensionen
Veröffentlichung
16.04.2024
Parameter gesamt
335 Mio.
Aktive Parameter
335 Mio.
Kontextfenster
512 Tokens

Überblick

Arctic Embed ist die Text-Embedding-Familie von Snowflake AI Research, veröffentlicht am 16. April 2024 unter Apache-2.0. Diese Card beschreibt die erste Generation (v1), wie sie Ollama unter snowflake-arctic-embed ausliefert: fünf Größen von 22 Mio. bis 335 Mio. Parametern. Der Standard-Tag latest ist die größte Variante snowflake-arctic-embed-l. Alle Modelle sind englisch und auf Retrieval optimiert.

Technische Eckdaten

Variante Ollama-Tag Parameter Dimensionen Kontext Basismodell MTEB Retrieval
xs 22m 22 Mio. 384 512 all-MiniLM-L6-v2 50,15
s 33m 33 Mio. 384 512 e5-small-unsupervised 51,98
m 110m 110 Mio. 768 512 e5-base-unsupervised 54,90
m-long 137m 137 Mio. 768 2.048 nomic-embed-text-v1-unsupervised 54,83
l latest / 335m 335 Mio. 1.024 512 e5-large-unsupervised 55,98
  • Variante l: BERT-large-Architektur mit 24 Layern, Hidden Size 1.024, 16 Heads; CLS-Pooling mit anschließender L2-Normalisierung
  • Training in zwei Stufen: rund 400 Mio. Anfrage-Dokument-Paare (öffentliche Daten plus Snowflakes eigene Websuche-Daten), danach rund 1 Mio. Tripel mit gezielt gesuchten schweren Negativbeispielen
  • m-long verarbeitet mit RoPE-Skalierung bis 8.192 Token, in Ollama sind 2.048 eingestellt

Use Cases

  • Englischsprachige Suche und RAG, wenn Retrieval-Qualität wichtiger ist als Mehrsprachigkeit
  • Abstufung nach Hardware: xs und s für CPU und Edge, l für die beste Trefferqualität der Familie
  • Snowflake-Umgebungen, in denen die Arctic-Modelle auch über Cortex bereitstehen

Stärken & Grenzen

Stärken

  • Konsequent auf Retrieval trainiert; laut Snowflake im April 2024 das einzige Modell unter 1 Mrd. Parametern mit über 55,9 auf dem MTEB-Retrieval-Leaderboard
  • Fünf Größen mit einheitlichem Verhalten, dadurch einfache Skalierung nach Hardware
  • Apache-2.0, kommerziell frei nutzbar
  • Technischer Report offen (arXiv 2405.05374)

Grenzen

  • Nur Englisch. Für mehrsprachige Bestände hat Snowflake Arctic Embed 2.0 nachgeschoben (Ollama: snowflake-arctic-embed2, 568M, 8K Kontext).
  • Keine Matryoshka-Kürzung in v1; diese kam erst mit m-v1.5 (Juli 2024)
  • 512 Token Kontext bei allen Varianten außer m-long
  • Bewertet wurde nur der Retrieval-Teil von MTEB; Snowflake weist selbst darauf hin, dass ein einzelner Benchmark Unterschiede im realen Einsatz über- oder unterschätzen kann
  • Die Model Card verweist selbst auf den Nachfolger snowflake-arctic-embed-l-v2.0

Benchmarks: Quellenlage

Einziger publizierter Wert je Variante ist der Durchschnitt über den Retrieval-Teil von MTEB (NDCG@10), siehe Tabelle oben. Die Werte stammen aus Snowflakes Hugging-Face-Model-Card und beziehen sich auf das englische MTEB-Retrieval-Leaderboard vom April 2024, also vor MTEB v2. Mit den MTEB-v2-Werten neuerer Modelle sind sie nicht direkt vergleichbar.

Hinweis: Artificial Analysis und BenchLM vermessen keine Embedding-Modelle und führen Arctic Embed nicht (Stand 10.10.2026). Alle fünf Varianten sind im offiziellen MTEB-Paket registriert; eine aktuelle Leaderboard-Platzierung ließ sich nicht auslesen.

Gut zu wissen

  • Prompt: Nur Suchanfragen bekommen das Präfix Represent this sentence for searching relevant passages: ; Dokumente werden ohne Präfix eingebettet.
  • Ollama: snowflake-arctic-embed = l / 335m (669 MB), m-long / 137m (274 MB), m / 110m (219 MB), s / 33m (67 MB), xs / 22m (46 MB), alle FP16
  • Nachfolger: Arctic Embed 2.0 (Dezember 2024, mehrsprachig, Matryoshka) unter snowflake-arctic-embed2 in Ollama
  • Weitere Laufzeiten: Sentence Transformers, Hugging Face Transformers, Text Embeddings Inference