Hy-Memory

Überblick

Hy-Memory-30B-A3B ist ein Fachmodell des Tencent-Hunyuan-Teams für eine einzige Aufgabe: das Schreiben von Langzeitgedächtnis in Assistenz- und Agentensystemen. Es entscheidet, welche Informationen aus einem Gesprächs- oder Arbeitsverlauf behalten werden, wie sie dargestellt werden und wie neue Hinweise bestehende Einträge aktualisieren. Das Modell ersetzt dafür das Allzweck-LLM im Schreibpfad externer Memory-Frameworks wie Mem0, MemOS und Tencents eigenem Hy-Memory. Die Gewichte erschienen am 15.10.2026 auf Hugging Face, zusammen mit dem technischen Report (arXiv 2610.22196), unter Apache-2.0.

Use Cases

• Gedächtnisschicht für Chat-Assistenten: Nutzerfakten und Präferenzen aus Gesprächen extrahieren und fortschreiben
• Arbeitsgedächtnis für Agenten in mehrstufigen Aufgaben (laut Tencent Szenarien Chat, Working und Coding)
• Kostengünstiger Ersatz eines großen Cloud-Modells im Memory-Schreibpfad, wenn Gesprächsdaten das eigene Haus nicht verlassen sollen
• Baustein in bestehenden Mem0- oder MemOS-Installationen über eine OpenAI-kompatible Schnittstelle

Stärken & Grenzen

• Stark: Spezialisierung bei kleinem Rechenbedarf. Im Mittel über vier Memory-Frameworks erreicht das Modell laut Tencent 55,49 Punkte und liegt damit knapp vor Claude Opus 5 (54,62) und DeepSeek V4.1 Flash (53,64) in derselben Writer-Rolle.
• Stark: Übertragbarkeit. Auch im nicht trainierten Framework EverMemOS liegt es mit 56,89 Punkten vorn (Claude Opus 5: 54,04).
• Stark: Lizenz und Betrieb. Apache-2.0, rund 3B aktive Parameter, Self-Hosting mit vLLM.
• Grenze: Kein Allzweckmodell. Es ist auf den Memory-Schreibpfad trainiert; für Dialog, Recherche oder Coding selbst ist ein anderes Modell nötig.
• Grenze: Die Abstände zu den Vergleichsmodellen sind klein (unter einem Punkt gegenüber Claude Opus 5), und in einzelnen Teilmetriken liegen andere Writer vorn, etwa Claude Opus 5 bei LoCoMo im Mem0-Harness (69,47 gegenüber 59,54).
• Grenze: Gemessen wurde auf festen 20-%-Stichproben der Benchmarks; unabhängige Messungen fehlen bislang.
• Grenze: Die Model Card nennt nur Englisch und Chinesisch als Sprachen. Zur Qualität mit deutschen Gesprächsverläufen gibt es keine Angaben.

Praxis-Erfahrung

• Das Quickstart-Beispiel betreibt das Modell mit vLLM (getestet mit 0.31.0) als OpenAI-kompatiblen Dienst. Die Anfrage enthält eine System-Anweisung zur Extraktion von Nutzerfakten; das Modell antwortet mit einem JSON-Objekt mit einer memories-Liste.
• Der Chat-Template kennt reasoning_effort mit den Stufen high, low und no_think (Standard bei unbekanntem Wert ist no_think); das Beispiel arbeitet mit no_think. Tool-Definitionen und Tool-Aufrufe sind im Template ebenfalls angelegt.
• Ein BF16-Checkpoint belegt rund 60 GB; ein Hardware-Profil nennt Tencent nicht. Eine Inferenz-API oder Preise des Herstellers gibt es nicht.
• Eigene Tests im Haus stehen noch aus; diese Card beruht auf Herstellerangaben.

Gut zu wissen

• Architektur (config.json): HYV3ForCausalLM, 48 Layer, Hidden Size 2.048, 32 Attention-Heads mit 4 KV-Heads, 128 Experten mit Top-8-Routing plus ein Shared Expert, Vokabular 120.832, RoPE-Theta rund 11,16 Mio.
• Kontext: 262.144 Positionen laut config.json.
• Training: zweistufig – Memory On-Policy Distillation, danach Attributed Memory Reinforcement Learning. Ein Basismodell nennt die Model Card nicht ausdrücklich.
• Hosting: nur Self-Hosting; Gewichte unter tencent/Hy-Memory-30B-A3B, Code unter Tencent-Hunyuan/Hy-Memory auf GitHub. Kein Ollama-Eintrag.
• Alternativen: Für den Memory-Schreibpfad lassen sich auch allgemeine MoE-Modelle ähnlicher Größe wie Qwen3.6-35B-A3B einsetzen; laut Tencent liegen diese in der Writer-Rolle aber rund fünf Punkte zurück (50,37).

Weitere Benchmarks

Quelle Tencent (offizielle Model Card, Stand 15.10.2026), ohne passenden CRM-Schlüssel. Je Framework ist der Wert das gleichgewichtete Mittel aus LoCoMo (Judge), LongMemEval, PersonaMem-v2, Travel SPS, Shopping PS und Code Memory Bench:

• Cross-Harness-Mittel 55,49 · Mem0 54,02 · Hy-Memory 60,55 · MemOS 50,51 · EverMemOS (nicht trainiert) 56,89
• Mem0-Harness: LoCoMo 59,54 · LongMemEval 73,00 · PersonaMem-v2 51,62 · Travel 54,51 · Shopping 18,33 · Code Memory Bench 67,13
• Hy-Memory-Harness: LoCoMo 73,28 · LongMemEval 89,00 · PersonaMem-v2 51,54 · Travel 57,65 · Shopping 21,11 · Code Memory Bench 70,73
• MemOS-Harness: LoCoMo 62,98 · LongMemEval 73,00 · PersonaMem-v2 51,92 · Travel 24,15 · Shopping 21,11 · Code Memory Bench 69,91
• EverMemOS-Harness: LoCoMo 73,28 · LongMemEval 76,00 · PersonaMem-v2 53,28 · Travel 56,56 · Shopping 19,05 · Code Memory Bench 63,19

Artificial Analysis, LMArena und BenchLM führen das Modell mit Stand 18.10.2026 nicht; klassische LLM-Benchmarks wie MMLU-Pro oder GPQA veröffentlicht Tencent für dieses Modell nicht.