Zep-Review: Agenten-Memory auf einem temporalen Graphen

Zep ist ein Agenten-Memory-Dienst: die Anwendung schickt Nachrichten und Aussagen, der Dienst führt pro Benutzer einen temporalen Knowledge Graph, und bei jedem Aufruf liefert er den Kontext, den ein Assistent als Nächstes sehen soll. Er ist der richtige Kauf für ein Team, dessen Agenten daran scheitern, dass sie vergessen, und der falsche für ein Team, das alles selbst betreiben muss, denn der einzige selbst hostbare Teil ist die Bibliothek Graphiti.

Der Dienst sitzt zwischen Anwendung und Modell und ersetzt selbst gebaute Summary-Buffer, Vektorspeicher voller alter Chat-Protokolle und die Memory-Helfer in LangChain und LlamaIndex. Konkurrenz sind Mem0, LangMem, ein Postgres-Tisch plus Embeddings und die Long-Term-Memory-Endpunkte der Modell-Anbieter; der Unterschied: Zep speichert Aussagen mit Gültigkeitsbeginn und -ende statt als flache Liste vergangener Nachrichten.

Was es ist

Das Produkt ist eine verwaltete API: user.add für dauerhafte Aussagen, thread.create und thread.add_messages für Gespräche, graph.get_user_context für Retrieval. Gearbeitet wird beim Eingang: ein Extraktionsschritt macht aus jeder Episode Entitäten, Relationen und Beobachtungen mit Zeitstempel, und der Retrieval montiert einen Kontextblock samt der ihn tragenden Fakten. Die Open-Source-Hälfte ist Graphiti, eine Apache-2.0-Bibliothek, die dieselbe zeitliche Graphenpflege erledigt, inklusive inkrementeller Aktualisierung auf Fakten-Ebene statt eines nächtlichen Voll-Reindex.

• Lizenz und Eigentümer: Graphiti ist Apache-2.0 und wird von Zep Software gepflegt; der Zep-Memory-Dienst selbst ist ein geschlossenes, gehostetes Produkt.
• Self-Hosting: Zep Community Edition wurde im April 2025 eingestellt und der Code in einen Legacy-Ordner verschoben, deshalb läuft die Graph-Engine lokal, der volle Dienst aber nicht.
• Abrechnung: eine Credit pro Episode bis 350 Byte, eine weitere je weiteren 350 Byte oder Teil davon, und ein Achtel-Credit pro Webhook-Aufruf.
• Nicht abgerechnet: Retrieval, Speicherung, Threads, Benutzer und Graph-Speicher kosten nichts, ein leseintensiver Agent bleibt also billig in Betrieb.
• Performance: der Anbieter meldet p95-Retrievallatenz von 148 ms bei 10.000 Knoten und 168 ms bei 100 Millionen Knoten.
• Benchmarks: vom Anbieter gemeldet 94,7 Prozent auf LoCoMo und 90,2 Prozent auf LongMemEval, zwei Memory-Benchmarks mit langen Gesprächen.
• Deployment: Cloud, Cloud mit kundenverwalteten Schlüsseln oder Bring-Your-Own-Cloud in der VPC des Kunden; SOC 2 Type II und ein HIPAA-BAA gehören zur Enterprise-Stufe.

Wie es funktioniert

Jede gesendete Nachricht oder Aussage ist eine Episode. Ein Extraktionsschritt lässt ein Modell Entitäten und Relationen erkennen, schreibt sie mit Gültigkeitsfenster in den Graph und berührt nur die Knoten, die diese Episode betrifft: eine Korrektur schließt das vorherige Intervall, statt es zu überschreiben. Der Retrieval läuft danach durch den Graph rund um das Thema der aktuellen Frage, nimmt die weiterhin gültigen Fakten und die jüngsten Episoden und liefert einen Kontextstring innerhalb eines Token-Budgets.

Die entscheidende Designentscheidung ist temporal und nicht vektorbasiert. Eine Aussage hat eine Lebensdauer, deshalb beantwortet der Graph, was jetzt wahr ist, was sich wann geändert hat und welche von zwei widersprüchlichen Aussagen die andere ablöst. Ein zusammenfassender Puffer kann das ohne ein zweites System nicht, und reines Vector-Retrieval liefert, was textlich ähnlich ist, einschließlich der veralteten Version einer Aussage, die man letzte Woche korrigiert hat.

Erste Schritte

Das Quickstart der gehosteten Version besteht aus vier Aufrufen. Das Snippet unten speichert eine Aussage, öffnet einen Thread, hängt eine Nachricht an und fragt den Kontext ab, den ein Assistent erhalten soll.

from zep_cloud.client import Zep

client = Zep(api_key="zep-...")

# durable facts, extracted into the context graph
client.user.add(user_id="alice", fact="Alice leads the migration off the legacy CRM")

# episodic history: writes are charged as credits by size, retrieval is free
client.thread.create(thread_id="t-1", user_id="alice")
client.thread.add_messages(
    thread_id="t-1",
    messages=[{"role": "user", "content": "Where did we stop on the CRM migration?"}],
)

# what the assistant should see on this turn
context = client.graph.get_user_context(user_id="alice", max_facts=25)
print(context.context)

Zwei Dinge verhalten sich anders als in einem Vektorspeicher. Erstens ist der Eingang asynchron und kostenpflichtig, deshalb ist das natürliche Muster, Nachrichten beim Auflaufen zu schicken und Kontext einmal pro Runde zu lesen. Zweitens liefert der Retrieval Fließtext mit den tragenden Fakten statt Chunk-Ids, was die Zusammenfassungsentscheidung aus dem Prompt in den Dienst verlegt; bequem, aber die Qualität dessen, was das Modell jetzt sieht, ist nun zu einem guten Teil die Extraktionsqualität von Zep und nicht mehr nur der eigene Prompt.

Performance und Kosten

Kosten sind Credits, und Credits sind Byte: eine 700-Byte-Nachricht kostet zwei Credits, Flex mit 50.000 Credits im Monat fasst also etwa 25.000 durchschnittliche Nachrichten, bevor die Überlauf-Rechnung mit 25 Dollar pro 10.000 Credits kommt. Ungewöhnlich ist, dass Retrieval nicht abgerechnet wird, denn genau diesen Aufruf macht ein Agent in jeder Runde; gezahlt wird nur, wenn Memory geschrieben wird.

Die Self-Serve-Tarife sind Free mit 10.000 Credits im Monat, Flex für 125 Dollar mit 50.000 Credits und Flex Plus für 375 Dollar mit 200.000 Credits, mit Überlauf zu 25 Dollar pro 10.000 beziehungsweise 75 Dollar pro 40.000 Credits. Die Latenzzahlen stammen vom Anbieter: p95-Retrieval von 148 ms bei 10.000 Knoten und 168 ms bei 100 Millionen, also kein sichtbares Abfallen mit der Größe, und nichts über die Latenz des darvorlaufenden Extraktionsschritts.

• Den Tarif nach Schreibvorgängen bemessen und nicht nach Lesevorgängen: Nachrichten pro Tag mal durchschnittliche Byte mal Credits mal dreißig.
• Rohes Tool-Material entfernen, bevor es Episode wird; ein zusammengefasstes Tool-Ergebnis kostet einen Bruchteil eines Transkripts.
• Ein Fakten-Budget für den Retrieval setzen, damit der Kontextblock nicht zu einem System-Prompt wächst, den niemand liest.

Nichts davon ist unüblich für einen Memory-Anbieter, sie rechnen alle Schreibvorgänge ab und versprechen billige Lesevorgänge. Das spezifische Risiko liegt im Extraktionsschritt, denn was der Extraktor übersieht, lässt sich später nicht abrufen: über die rohen Nachrichten gibt es, sobald sie zu Fakten reduziert sind, keinen zweiten Durchgang mehr.

Preise

Die Preisliste zeigt kreditbasierte Self-Serve-Tarife und einen verhandelten Enterprise-Tarif. Der bezahlte Einstieg auf der aktuellen Seite ist Flex für 125 Dollar im Monat, darunter gibt es nur noch die Gratis-Stufe; Enterprise ergänzt individuelle Credits, garantierte Rate Limits und die Compliance-Unterlagen.

• Free: 10.000 Credits im Monat, zwei Projekte, ein Memory-MCP-Server-Platz, variable Rate Limits, kein Übertrag.
• Flex: 125 Dollar im Monat für 50.000 Credits, danach 25 Dollar pro 10.000, 600 Anfragen pro Minute, fünf Projekte, 30 Tage Übertrag, Community-Support.
• Flex Plus: 375 Dollar im Monat für 200.000 Credits, danach 75 Dollar pro 40.000, 1.000 Anfragen pro Minute, Observations, Webhooks, Analytics und sieben Tage API-Logs.
• Enterprise: individuelle Credits und Preise, SOC 2 Type II, HIPAA-BAA, ein Jahr Audit- und API-Logs, DPA für EU-Kunden, Deployment in der eigenen VPC.

Wo es scheuert

Mit der Deployment-Schwäche beginnen: Seit die Community Edition im April 2025 eingestellt wurde, läuft die Graph-Engine, Graphiti, lokal, das Produkt aber nicht, deshalb ist ein air-gapped oder reguliertes Deployment eine Enterprise-Geschichte und die Self-Serve-Stufen enthalten weder SOC 2 Type II noch ein BAA. Zweitens ist nur Memory so gut wie die Extraktion, und die Extraktion ist ein Modell-Aufruf, deshalb ist eine halluzinierte Relation oder ein verpasstes Update kein abfragbarer Fehler, sondern still falscher Kontext. Drittens macht die Kreditabrechnung die Kosten davon abhängig, wie gesprächig der Agent ist, und nicht davon, wie viele Benutzer er bedient. Viertens ist ein Graph eine andere Debugging-Fläche als ein Chat-Log: Warum das Modell eine Aussage gesehen hat, erklärt nur der Graph, nicht das Transkript.

Die eigentliche Frage ist, ob Vergessen der Fehlermodus ist. Wenn Agenten sich wiederholen, Entscheidungen zwischen Sitzungen verlieren oder nicht sagen können, was sich geändert hat, beantwortet ein Graph mit Gültigkeitsfenstern das direkt. Wenn das Retrieval ständig das falsche Dokument liefert, ist Memory die falsche Schicht überhaupt, und derselbe Aufwand bei Chunking und Reranking zahlt sich schneller zurück.

Fazit

Zep ist ein gutes Produkt mit klarem Eintrittspreis: Es löst das Vergessen gut, und was es kostet, ist die Möglichkeit, das Ganze selbst zu betreiben. Teams, die Agenten an zahlende Nutzer ausspielen, wo der sichtbare Fehler der Kunde ist, der dieselbe Frage zweimal bekommt, sollten es nehmen. Teams mit Data-Residency-Auflage sollten auf Graphiti aufbauen und den Dienst darum herum selbst besitzen.

1. Nehmen, wenn Agenten daran scheitern zu vergessen, und der Fehler als wiederholte Fragen oder verlorene Entscheidungen zwischen Sitzungen auftaucht.
2. Nehmen, wenn Memory-Schreibvorgänge menschliche Nachrichten sind: Das Credit-Modell ist am billigsten, wenn Episoden kurz und selten sind.
3. Nicht nehmen als selbst gehostetes Deployment, denn seit April 2025 gehört nur Graphiti einem selbst, alles darum herum lebt in Zeps Cloud.
4. Nicht nehmen, wenn die Retrieval-Qualität und nicht das Memory das Problem ist, denn keine Memory-Schicht repariert einen schlechten Index.
5. Den Extraktionsschritt budgetieren: Jedes Schreiben ist ein Modell-Aufruf, deshalb folgen die Kosten der Weitschweifigkeit des Agenten und nicht der Zahl der Nutzer.

Agent Memory ist ein State-Management-Problem im Kostüm der KI: Ein Graph, der Aussagen eine Lebensdauer gibt, ist genau das, was ein Summary-Puffer nicht leisten kann, und die Rechnung ist ein Modell-Aufruf für jede Nachricht, an die man sich erinnern will.

Quellen

1. Zep-Preise: Tarife, Credits und Limits
2. Zep-Dokumentation
3. Graphiti auf GitHub
4. Graphiti-Produktseite
5. Neue Richtung für die Open-Source-Strategie von Zep
6. Graphiti: temporale Knowledge Graphs für KI-Agenten (arXiv)