[{"data":1,"prerenderedAt":715},["ShallowReactive",2],{"blog-langfuse-de":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":34,"cover":59,"og":60,"expertise":61,"locales":62,"lang":64,"title":66,"description":67,"coverAlt":68,"metaTitle":69,"takeaways":70,"faq":76,"toc":89,"blocks":114,"others":475},"langfuse","2026-08-13",10,"llmops",[9,10,11,12,13],"LLM observability","Tracing","OpenTelemetry","Self-hosting","Evaluation",[4,15,16,17,18,19,20,21],"langfuse vs langsmith","llm tracing tool","self-hosted llm observability","langfuse pricing","opentelemetry llm traces","llm cost tracking","prompt versioning",[23,26,28,31],{"name":24,"url":25},"Langfuse","https:\u002F\u002Flangfuse.com",{"name":11,"url":27},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenTelemetry",{"name":29,"url":30},"ClickHouse","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FClickHouse",{"name":32,"url":33},"Observability (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FObservability_(software)",[35,38,41,44,47,50,53,56],{"title":36,"url":37},"Langfuse documentation: observability and application tracing","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fobservability\u002Foverview",{"title":39,"url":40},"Langfuse documentation: get started with tracing","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fobservability\u002Fget-started",{"title":42,"url":43},"Langfuse pricing: cloud plans, billable units and worked examples","https:\u002F\u002Flangfuse.com\u002Fpricing",{"title":45,"url":46},"Langfuse pricing: self-hosted plans and the feature comparison","https:\u002F\u002Flangfuse.com\u002Fpricing-self-host",{"title":48,"url":49},"Self-host Langfuse: deployment options, containers and storage services","https:\u002F\u002Flangfuse.com\u002Fself-hosting",{"title":51,"url":52},"Langfuse changelog: v4 is live (17 August 2026)","https:\u002F\u002Flangfuse.com\u002Fchangelog\u002F2026-08-17-langfuse-v4",{"title":54,"url":55},"Langfuse blog: Langfuse joins ClickHouse (16 January 2026)","https:\u002F\u002Flangfuse.com\u002Fblog\u002Fjoining-clickhouse",{"title":57,"url":58},"GitHub: langfuse\u002Flangfuse, the platform repository","https:\u002F\u002Fgithub.com\u002Flangfuse\u002Flangfuse","\u002Fimages\u002Fblog\u002Flangfuse\u002Fcover.webp","\u002Fimages\u002Fblog\u002Flangfuse\u002Fog.jpg","ai-engineer",[63,64,65],"en","de","hu","Langfuse-Test: Tracing, Prompts und Evals selbst gehostet","Langfuse legt LLM-Traces, Prompt-Versionen und Experimente auf eine MIT-lizenzierte Plattform. Was das Selbsthosten wirklich kostet, wie die Einheitspreise rechnen und wo es verliert.","Ein Rahmen mit drei Fächern: eine Verzweigung, drei gestapelte Blätter und eine Reihe Quadrate.","Langfuse-Test: Tracing zum Selbsthosten · Balázs Csorba",[71,72,73,74,75],"Langfuse ist die vollständigste quelloffene Option für Tracing, Prompt-Verwaltung und Experimente in einem Backend, und die MIT-Lizenz deckt den ganzen Kern ab, nicht eine Demo.","Ein Produktions-Deployment selbst zu hosten sind zwei Anwendungscontainer plus PostgreSQL, ClickHouse, Redis und Object Storage – mehr, als die Docker-Compose-Seite vermuten lässt.","Die Cloud rechnet Datenpunkte ab, keine Plätze: ein Agenten-Turn mit drei Observations und zwei Scores kostet sechs Einheiten, laut Preisseite gibt es Hobby gratis und Core für 29 $ im Monat mit 100.000 Einheiten.","Instrumentierung wird im Hintergrund gepuffert und gebündelt, Tracing kostet also keine Request-Latenz, aber ein Prozess, der ohne Flush endet, verliert das Ende seiner Traces.","Langfuse Cloud stellt v3-Endpunkte am 16. November 2026 ein, eine bestehende v3-Integration braucht also ein Migrationsfenster und kein Upgrade nach Belieben.",[77,80,83,86],{"q":78,"a":79},"Wie teuer ist Langfuse?","Selbst hosten ist unter der MIT-Lizenz kostenlos und ohne Nutzungslimit. Langfuse Cloud hat einen kostenlosen Hobby-Tarif mit 50.000 Einheiten pro Monat, 30 Tagen Datenzugriff und zwei Nutzern, Core für 29 $ pro Monat mit 100.000 Einheiten und 90 Tagen, Pro für 199 $ und Enterprise für 2.499 $. Nutzung über den enthaltenen Einheiten kostet von 8 $ pro 100.000 Einheiten bis zu 6 $ bei hoher Last.",{"q":81,"a":82},"Was zählt als abrechnungseinheit bei Langfuse?","Jeder Tracing-Datenpunkt, den du an die Plattform sendest: ein Trace, eine Observation darin wie ein Span, Event oder Generation, oder ein Score. Ein einzelner Agenten-Turn mit drei Observations und zwei Bewertungs-Scores kostet damit sechs Einheiten. Deshalb ist die Granularität der Instrumentierung wichtiger als die Zahl der Nutzer.",{"q":84,"a":85},"Verlangsamt Langfuse meine Anwendung?","Laut Doku nein: Die SDKs legen Trace-Events lokal in eine Queue und fluschen sie gebündelt im Hintergrund, der Request-Pfad wird also nicht blockiert. In kurzlebigen Prozessen wie Lambda-Handlern, Cronjobs und CLIs musst du am Ende flush() aufrufen, sonst gehen die letzten Observations beim Beenden verloren.",{"q":87,"a":88},"Langfuse oder LangSmith?","Nimm Langfuse, wenn du eine MIT-lizenzierte Plattform im eigenen VPC willst und Traces, Prompts und Experimente in einem Modell. Nimm LangSmith, wenn du auf LangGraph baust und Tracing aus erster Hand mit Annotation-Queues willst, ohne selbst etwas zusammenzubauen. Die Kostenmodelle unterscheiden sich ebenfalls: Langfuse rechnet pro Datenpunkt mit unbegrenzt Nutzern, LangSmith pro Platz plus Traces.",[90,93,96,99,102,105,108,111],{"id":91,"title":92},"what-it-is","Was es ist",{"id":94,"title":95},"how-it-works","Wie es funktioniert",{"id":97,"title":98},"getting-started","Erste Schritte",{"id":100,"title":101},"prompts-and-evals","Prompts und Evaluierungen",{"id":103,"title":104},"cost-and-deployment","Was der Betrieb kostet",{"id":106,"title":107},"where-it-shingles","Wo es hakt",{"id":109,"title":110},"verdict","Urteil",{"id":112,"title":113},"sources","Quellen",[115,119,128,131,134,179,180,183,189,192,193,196,198,201,204,225,226,229,256,259,260,263,295,298,344,347,353,354,357,403,406,407,410,434,439,440],{"type":116,"content":117},"paragraph",[118],"Langfuse ist eine quelloffene Plattform für Tracing, Prompt-Verwaltung und Evaluation von LLM-Anwendungen, und die vollständigste unter denen, die unter einer permissiven Lizenz erscheint. Das Urteil vorweg: Teams, die Tracing, Prompts und Experimente in einem Backend wollen und die ein ClickHouse-Deployment betreuen können, sollten sie nehmen. Teams, die ein Wochenende Aufbau wollen, sollten sie nicht.",{"type":116,"content":120},[121,122,127],"Sie liegt in derselben Schicht wie LangSmith, Arize Phoenix und Helicone und konkurriert an zwei Achsen, die zählen: ob die Plattform im eigenen Netz laufen darf und ob man den eigenen Code oder den Modellanbieter instrumentiert. Langfuse beantwortet die erste Frage für den Kern mit Ja und die zweite auf beide Arten: Drop-in-Wrapper für die üblichen üblichen SDKs, ein Context Manager für alles andere und ein schlichter OpenTelemetry-Endpunkt für Code, der weder Python noch JavaScript ist. Das größere Argument für Tracing von Agenten steht in ",{"tag":123,"to":124,"children":125},"link","\u002Fblog\u002Fagent-observability-opentelemetry",[126],"Agent-Observability mit OpenTelemetry",".",{"type":129,"level":130,"id":91,"text":92},"heading",2,{"type":116,"content":132},[133],"Langfuse ist vier Produkte in einem Deployment: einen Trace-Speicher für LLM-Aufrufe, ein Prompt-Register mit Versionierung und Playground, einen Experiment-Runner über Datensätze und eine Dashboard-Schicht für Kosten, Latenz und Scores. Alle vier laufen mit demselben Code, gehostet oder selbst gehostet, und die selbst gehostete Edition ist kein reduzierter Build.",{"type":135,"ordered":136,"items":137},"list",false,[138,149,154,159,164,169,174],[139,143,144,148],{"tag":140,"children":141},"strong",[142],"MIT-Lizenz für den Kern. ","Das Repository trägt einen Copyright-Hinweis der ClickHouse Inc, und nur die Verzeichnisse unter ",{"tag":145,"children":146},"code",[147],"ee\u002F"," stehen unter einer separaten kommerziellen Lizenz.",[150,153],{"tag":140,"children":151},[152],"Selbst hostbar mit Docker Compose, Helm oder Terraform-Templates für AWS, Azure und GCP, ","mit denselben Containern wie Langfuse Cloud.",[155,158],{"tag":140,"children":156},[157],"Vier Speicherdienste in einem normalen Deployment: ","PostgreSQL, ClickHouse, Redis oder Valkey und S3-kompatibler Object Storage.",[160,163],{"tag":140,"children":161},[162],"SDKs für Python und JavaScript, ","dazu ein dokumentierter OpenTelemetry-Ingestion-Endpunkt mit Versionsheader in jeder Anfrage.",[165,168],{"tag":140,"children":166},[167],"35.468 Stars und 3.940 Forks auf GitHub im Oktober 2026, ","Version v4.54.0 erschien am 7. Oktober 2026.",[170,173],{"tag":140,"children":171},[172],"Seit Januar 2026 im Besitz von ClickHouse, ","die zugleich die Datenbank ist, in der die Traces liegen.",[175,178],{"tag":140,"children":176},[177],"Cloud-Regionen in der EU, den USA und Japan, ","plus eine HIPAA-Region im Enterprise-Tarif.",{"type":129,"level":130,"id":94,"text":95},{"type":116,"content":181},[182],"Der Ingestion-Pfad erklärt sowohl die Betriebslast als auch die Latenzgeschichte. Ein SDK oder ein Collector sendet einen Batch von Events; der Web-Container schreibt diesen Batch sofort in den Object Storage und legt nur eine Referenz in Redis ab; ein Worker holt die Events ab und schreibt sie in ClickHouse, wo Traces, Observations und Scores liegen. PostgreSQL hält die transaktionalen Daten: Projekte, API-Schlüssel, Prompt-Versionen.",{"type":184,"src":185,"alt":186,"wide":187,"caption":188},"image","\u002Fimages\u002Fblog\u002Flangfuse\u002Fdiagram-7.webp","How a trace reaches storage in Langfuse The application or an OpenTelemetry collector sends a batch of events to the Langfuse web container. The web container writes the batch to object storage and leaves a reference in Redis. A worker reads the batch from object storage and writes traces, observations and scores into ClickHouse. PostgreSQL holds the transactional data such as projects and prompt versions, and Redis holds the queue and the API key and prompt caches.",true,"Jedes Event landet im Object Storage, bevor es in die analytische Datenbank kommt.",{"type":116,"content":190},[191],"Daraus folgen zwei Dinge. Ein ClickHouse-Ausfall verliert keine Events, denn der Roh-Batch liegt bereits im Object Storage und wird nachgespielt. Und Trace-Abfragen berühren PostgreSQL nie, weshalb das ClickHouse-Schema als breite, überwiegend unveränderliche Observations-Tabelle ausgelegt ist. Dasselbe Design trägt die Herstellerangabe von mehr als 90 Milliarden Observations pro Monat über die Plattform; das ist eine Unternehmenszahl auf eigener Infrastruktur und kein unabhängiger Benchmark.",{"type":129,"level":130,"id":97,"text":98},{"type":116,"content":194},[195],"Zwei Einstiegspunkte decken die meisten Fälle ab. Der OpenAI-Wrapper erfasst Aufrufe, ohne die Aufrufstellen zu ändern, und der Context Manager ist für Code ohne OpenAI-SDK gedacht oder wenn ein Span mehrere Modellaufrufe umschließen soll. Beide lesen die Zugangsdaten aus der Umgebung, dieselbe Instrumentierung läuft also gegen die EU-, US-, japanische oder HIPAA-Region oder gegen ein selbst gehostetes Deployment.",{"type":145,"code":197},"import os\n\nfrom langfuse import get_client\nfrom langfuse.openai import openai\n\nos.environ[\"LANGFUSE_PUBLIC_KEY\"] = \"pk-lf-...\"\nos.environ[\"LANGFUSE_SECRET_KEY\"] = \"sk-lf-...\"\nos.environ[\"LANGFUSE_HOST\"] = \"https:\u002F\u002Fcloud.langfuse.com\"  # EU region\n\nlangfuse = get_client()\n\n# 1. Drop-in: every OpenAI call is recorded as a generation.\nopenai.chat.completions.create(\n    model=\"gpt-4o\",\n    name=\"calculator\",\n    messages=[{\"role\": \"user\", \"content\": \"1 + 1 = \"}],\n)\n\n# 2. Explicit: a span around one unit of work, a generation inside it.\nwith langfuse.start_as_current_observation(as_type=\"span\", name=\"answer-question\") as span:\n    span.update(input={\"question\": \"What is the capital of France?\"})\n    with langfuse.start_as_current_observation(\n        as_type=\"generation\", name=\"llm-call\", model=\"gpt-4o\"\n    ) as generation:\n        generation.update(output=\"Paris.\")\n    span.update(output=\"answered\")\n\nlangfuse.flush()  # required in short-lived processes",{"type":116,"content":199},[200],"Alles, was bereits OTLP-Spans emittiert, kommt ohne SDKs aus: Der Ingestion-Endpunkt nimmt eine Standard-Payload entgegen, mit den Projektschlüsseln als Basic Auth und der Ingestion-Version im Header. Dieser Weg macht Langfuse zu einer vertretbaren Wahl in einer gemischtsprachigen Landschaft, in der Python-Instrumentierung ein weiterer Dienst wäre, den man pflegen müsste.",{"type":116,"content":202},[203],"Frameworks bekommen erstklassige Integrationen statt Wrapper: Die Doku listet OpenTelemetry, das Vercel AI SDK, LangChain für Python und JavaScript, LlamaIndex, CrewAI, AutoGen, Google ADK und Ollama sowie Proxy-basiertes Logging für Teams, deren Aufrufe ohnehin über LiteLLM laufen. Dieser letzte Punkt entscheidet die Architekturfrage, denn ein Team, das jeden Modellaufruf durch ein Gateway schickt, holt seine Traces aus dem Gateway statt aus der Anwendung.",{"type":205,"variant":206,"title":207,"body":208},"callout","note","Zwei Details, die einen Nachmittag kosten",[209,215],[210,211,214],"Die SDKs fluschen im Hintergrund, weshalb Tracing keine Latenz in den Request bringt und weshalb ein Lambda-Handler, ein Cronjob oder eine CLI, die zuerst beendet wird, ihre letzten Observations verlieren kann. Am Ende des Prozesses ",{"tag":145,"children":212},[213],"flush()"," aufrufen.",[216,217,220,221,224],"Der SDK-Quickstart setzt ",{"tag":145,"children":218},[219],"LANGFUSE_BASE_URL",", während die OpenTelemetry-Seite ",{"tag":145,"children":222},[223],"LANGFUSE_HOST"," für denselben Wert setzt. Den Variablennamen von der Seite nehmen, die zur eigenen SDK-Version passt, statt ihn anzunehmen.",{"type":129,"level":130,"id":100,"text":101},{"type":116,"content":227},[228],"Tracing ist der Teil, den jeder Wettbewerber hat. Ob Langfuse sein schwereres Deployment verdient, entscheidet sich daran, dass Prompts und Evaluierungen auf denselben Traces liegen: Ein Prompt wird in der Oberfläche versioniert, vom SDK mit einem Cache auf der Client-Seite geholt und über Labels freigegeben, während Datensätze und Experimente diesen Prompt gegen gespeicherte Eingaben laufen lassen und die Scores zurück auf die Observations schreiben.",{"type":135,"ordered":136,"items":230},[231,236,241,246,251],[232,235],{"tag":140,"children":233},[234],"Prompt-Versionierung mit Release-Management und Kompositionsfähigkeit, ","mit geschützten Deployment-Labels im Enterprise-Tarif.",[237,240],{"tag":140,"children":238},[239],"Prompt-Caching auf der Client-Seite in den SDKs, ","im Hintergrund nachvalidiert, mit einem Read-Through-Cache in Redis auf dem Server.",[242,245],{"tag":140,"children":243},[244],"LLM-as-a-judge-Evaluatoren, eigene Scores aus Code, ","Erfassung von Nutzer-Feedback und Annotation-Queues in der Oberfläche.",[247,250],{"tag":140,"children":248},[249],"Code-Evaluatoren, die deterministische Python- oder TypeScript-Prüfungen ","auf Live-Observations ausführen, neu in v4.",[252,255],{"tag":140,"children":253},[254],"Monitore, die Kosten-, Latenz- und Qualitätsschwellen überwachen ","und über Slack, Webhooks oder GitHub Actions melden.",{"type":116,"content":257},[258],"Der opinionierte Teil: Das ist der richtige Ort für Offline-Evaluation. Weil ein Experiment seine Scores auf dieselben Observation-Kennungen schreibt, die der Produktions-Trace benutzt, bleibt eine Regression aus einem Dataset-Lauf an die Request-Form nachvollziehbar, die sie ausgelöst hat – genau der Schritt, den die meisten Eval-Werkzeuge einer Tabelle überlassen. Der Preis ist ein Release-Prozess für Prompts, den man selbst besitzt, und ein Prompt-Register, das niemand pflegt, ist schlimmer als gar keines.",{"type":129,"level":130,"id":103,"text":104},{"type":116,"content":261},[262],"Selbst hosten ist kostenlos und ohne Nutzungslimit, damit bleibt nur der Cloud-Preis zu modellieren. Die Cloud rechnet Datenpunkte ab, keine Plätze: Eine Einheit ist jeder Trace, jede Observation und jeder Score, und ein Agenten-Turn mit drei Observations und zwei Scores kostet sechs Einheiten.",{"type":135,"ordered":136,"items":264},[265,270,275,280,285,290],[266,269],{"tag":140,"children":267},[268],"PostgreSQL für transaktionale Daten, ","ClickHouse für Traces, Observations und Scores, Redis für die Queue sowie die API-Schlüssel- und Prompt-Caches.",[271,274],{"tag":140,"children":272},[273],"Events landen vor der Datenbank im Object Storage, ","ein analytischer Ausfall verzögert also Daten, statt sie zu verlieren.",[276,279],{"tag":140,"children":277},[278],"Hintergrund-Migrationen legen lang laufende Schema-Arbeit aus dem Upgrade-Pfad heraus, ","das verkürzt die Stillstandszeit beim Upgrade.",[281,284],{"tag":140,"children":282},[283],"Client-seitiges Data Masking ist in der Open-Source-Edition enthalten; ","serverseitiges Masking, Audit Logs, SCIM, projektbezogenes RBAC und Aufbewahrungsrichtlinien brauchen einen Enterprise-Lizenzschlüssel.",[286,289],{"tag":140,"children":287},[288],"Die selbst gehostete Enterprise-Edition ist an ClickHouse Cloud, BYOC oder Private gebündelt, ","und ihr Preis addiert sich zum kommerziellen ClickHouse-Tarif.",[291,294],{"tag":140,"children":292},[293],"Templates gibt es für Kubernetes, AWS, Azure und GCP; ","Render und Railway werden nur von der Community unterstützt.",{"type":116,"content":296},[297],"Das operative Urteil: Das ist eine Plattform und kein Sidecar. Sie zu betreiben heißt, ClickHouse zu betreiben, also muss jemand im Team ClickHouse kennen. Teams, die es schon betreiben, gewinnen eine Fähigkeit, die sie sonst nicht kaufen könnten; Teams ohne diese Erfahrung sollten auf dem kostenlosen Hobby-Tarif anfangen und das Selbsthosting für den Tag aufheben, an dem die Frage der Datenresidenz real wird.",{"type":299,"head":300,"rows":309},"table",[301,303,305,307],[302],"Tarif",[304],"Preis",[306],"Enthalten",[308],"Was sich ändert",[310,319,328,336],[311,313,315,317],[312],"Hobby",[314],"Kostenlos",[316],"50.000 Einheiten pro Monat",[318],"30 Tage Daten, zwei Nutzer, 1.000 Ingestion-Anfragen pro Minute",[320,322,324,326],[321],"Core",[323],"29 $ pro Monat",[325],"100.000 Einheiten",[327],"90 Tage Daten, unbegrenzt Nutzer, 4.000 Anfragen pro Minute",[329,331,333,334],[330],"Pro",[332],"199 $ pro Monat",[325],[335],"drei Jahre Daten, 20.000 Anfragen pro Minute, SOC 2 und ISO 27001",[337,339,341,342],[338],"Enterprise",[340],"2.499 $ pro Monat",[325],[343],"Audit Logs, SCIM, eigene Ratelimits, Verfügbarkeits-SLA",{"type":116,"content":345},[346],"Nutzung über den enthaltenen Einheiten wird nach gestaffelten Sätzen abgerechnet: 8 $ pro 100.000 Einheiten bis eine Million, 7 $ bis zehn Millionen, 6,50 $ bis fünfzig Millionen und darunter 6 $. Die Preisseite beziffert einen Monat mit einer Million Einheiten auf Core mit 101 $ und einen Monat mit fünfundzwanzig Millionen auf Pro mit Teams-Addon auf 2.176 $. Erst die Zahl der Einheiten modellieren, dann mit einem Preis pro Platz oder pro Gigabyte vergleichen, denn dieselbe Last kann je nach Anzahl der Observations pro Request um eine Größenordnung abweichen.",{"type":205,"variant":348,"title":349,"body":350},"tip","Rabatte, die es gibt und nicht beworben werden",[351],[352],"Beide Preisseiten nennen 50 Prozent Rabatt für Frühphasen-Start-ups im ersten Jahr, bis zu 100 Prozent für Forschung und Studierende, 199 Dollar Monatsguthaben für gemeinnützige Organisationen und 300 Dollar pro Monat für Open-Source-Projekte im ersten Jahr. Danach fragen, nicht vorher, denn genau solche Zeilen verschwinden aus jeder Vergleichstabelle.",{"type":129,"level":130,"id":106,"text":107},{"type":116,"content":355},[356],"Zuerst die Schwächen, denn sie sind die Gründe für etwas anderes. Instrumentierung muss weiterhin geschrieben werden, und eine Anwendung, die drei Anbieter über ein Gateway ruft, braucht drei Integrationen oder eine OpenTelemetry-Pipeline. Die Oberfläche ist dicht, und der Weg von einem Trace zu einem Dashboard, das eine Frage beantwortet, misst sich in Tagen. Die Einheitspreisrechnung bestraft geschwätzige Instrumentierung, denn der billigste Weg, eine Rechnung zu senken, ist weniger Detail zu senden – genau die falsche Instinkt in einem Störfall. Und das Produkt gehört inzwischen einem Datenbankhersteller: ClickHouse hat Langfuse im Januar 2026 gekauft, was der Roadmap klar zugutekam und die kommerzielle Enterprise-Edition zugleich immer mehr zu einem ClickHouse-Gespräch macht.",{"type":299,"head":358,"rows":367},[359,361,363,365],[360],"Werkzeug",[362],"Lizenz",[364],"Wo es läuft",[366],"Stärkste Seite",[368,376,385,394],[369,370,372,374],[24],[371],"MIT-Kern, ee\u002F-Verzeichnisse unter kommerziellem Schlüssel",[373],"Cloud oder eigenes Docker-, Helm- oder Terraform-Deployment",[375],"Traces, Prompts und Experimente in einem Backend",[377,379,381,383],[378],"LangSmith",[380],"Client-SDK unter MIT, die Plattform ist gehostet",[382],"der gehostete Dienst von LangChain",[384],"Teams, die sich bereits für LangGraph entschieden haben",[386,388,390,392],[387],"Arize Phoenix",[389],"Elastic License 2.0",[391],"selbst gehostet, Tracing über OpenInference und OpenTelemetry",[393],"evaluationszentrierte Abläufe über eigene Traces",[395,397,399,401],[396],"Helicone",[398],"Apache-2.0",[400],"selbst gehostet oder Cloud",[402],"jeden Aufruf ohne SDK-Änderung erfassen, über einen Proxy",{"type":116,"content":404},[405],"Der Vergleich, auf den es ankommt, ist nicht der Funktionsumfang. Phoenix ist kostenlos zu betreiben und strenger beim Evaluieren, aber Elastic License 2.0 ist source-available und nicht quelloffen und verbietet dir, es als Dienst anzubieten. Helicone ist der billigste Weg zu Kosten- und Latenzzahlen für jeden Aufruf, um den Preis eines Proxys im Request-Pfad. LangSmith ist die bequemste Option, sobald die Framework-Entscheidung steht, und diejenige, deren Preis mit der Größe des Engineering-Teams wächst.",{"type":129,"level":130,"id":109,"text":110},{"type":116,"content":408},[409],"Langfuse ist das Werkzeug, das diese Kategorie gebraucht hat: eine permissiv lizenzierte Plattform, die nicht verlangt, dass du Frameworks wechselst, einen Proxy in den Request-Pfad legst oder die Rohdaten abgibst. Position beziehen: Für ein Team mit mehreren Agent-Oberflächen und einer echten Rechnung ist es die richtige Voreinstellung, für einen einzelnen Prompt in einem Nebenprojekt die falsche.",{"type":135,"ordered":187,"items":411},[412,417,421,425,430],[413,416],{"tag":140,"children":414},[415],"Nimm es, wenn ","Traces, Prompt-Versionierung und Experimente in einem Ort liegen müssen und jemand ClickHouse betreiben kann.",[418,420],{"tag":140,"children":419},[415],"Prompt-Versionen auditierbar sein müssen, was in Beschaffungsgesprächen in der EU der übliche Fall ist.",[422,424],{"tag":140,"children":423},[415],"du bereits OpenTelemetry emittierst und lieber ein Backend als Instrumentierung pro Framework haben willst.",[426,429],{"tag":140,"children":427},[428],"Nimm es nicht, wenn ","die Anwendung ein paar Modellaufrufe am Tag macht; ein kostenloser Tarif plus strukturierte Logs kostet weniger Aufmerksamkeit.",[431,433],{"tag":140,"children":432},[428],"niemand die Instrumentierung nachjustiert. Die Rechnung wächst mit der Zahl der Observations, nicht mit der Zahl der Nutzer, und die billigste Ersparnis ist, genau die Details abzuschalten, die man um 3 Uhr nachts braucht.",{"type":205,"variant":348,"title":435,"body":436},"Die Migration, die jetzt ansteht",[437],[438],"Langfuse Cloud stellt v3-Endpunkte und -Funktionen ab 16. November 2026 ein, danach werden die alten APIs und Ingestion-Pfade entfernt. Das Changelog sagt, die meisten Projekte brauchten keine Migration und ein Migration Assistant liste nur die Prüfungen, die für das jeweilige Projekt gelten – eine bestehende v3-Integration sollte aber jetzt getestet werden und nicht im November. Selbst gehostete Deployments können nach eigenem Zeitplan aktualisieren.",{"type":129,"level":130,"id":112,"text":113},{"type":135,"ordered":136,"items":441},[442,447,451,455,459,463,467,471],[443],{"tag":444,"href":37,"children":445},"a",[446],"Langfuse-Doku: Observability und Tracing von Anwendungen",[448],{"tag":444,"href":40,"children":449},[450],"Langfuse-Doku: Einstieg ins Tracing",[452],{"tag":444,"href":43,"children":453},[454],"Langfuse-Preise: Cloud-Tarife, abrechenbare Einheiten und Rechenbeispiele",[456],{"tag":444,"href":46,"children":457},[458],"Langfuse-Preise: Self-Hosting-Tarife und Funktionsvergleich",[460],{"tag":444,"href":49,"children":461},[462],"Langfuse selbst hosten: Deployment-Optionen, Container und Speicherdienste",[464],{"tag":444,"href":52,"children":465},[466],"Langfuse-Changelog: v4 ist live (17. August 2026)",[468],{"tag":444,"href":55,"children":469},[470],"Langfuse-Blog: Langfuse kommt zu ClickHouse (16. Januar 2026)",[472],{"tag":444,"href":58,"children":473},[474],"GitHub: langfuse\u002Flangfuse, das Repository der Plattform",[476,533,600,659],{"slug":477,"published":478,"minutes":479,"category":7,"tags":480,"keywords":486,"about":500,"sources":508,"cover":527,"og":528,"expertise":61,"locales":529,"lang":64,"title":530,"description":531,"coverAlt":532},"deepseek-v4-1-flash-1017","2026-10-17",15,[481,482,483,484,485],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[487,488,489,490,491,492,493,494,495,496,497,498,499],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[501,503,505],{"name":481,"url":502},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":484,"url":504},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":506,"url":507},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[509,512,515,518,521,524],{"title":510,"url":511},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":513,"url":514},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":516,"url":517},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":519,"url":520},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":522,"url":523},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":525,"url":526},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[63,64,65],"DeepSeek V4.1 Flash 1017: 890 Byte KV-Cache pro Token, und was ein Agent davon hat","Technischer Deep Dive zu DeepSeek V4.1 Flash 1017: Encoder-Decoder-Aufteilung, CSA2-Cache-Sharing, FP4-KV-Cache, Benchmarks und die echten Kosten pro Agenten-Task.","Links ein hoher Stapel dünner Karten, ein Pfeil, rechts dieselben Karten auf ein Viertel der Höhe zusammengepresst.",{"slug":534,"published":478,"minutes":6,"category":7,"tags":535,"keywords":541,"about":553,"sources":563,"cover":594,"og":595,"expertise":61,"locales":596,"lang":64,"title":597,"description":598,"coverAlt":599},"llm-rate-limits-retries-provider-fallback",[536,537,538,539,540],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[542,543,544,545,546,547,548,549,550,551,552],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[554,557,560],{"name":555,"url":556},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":558,"url":559},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":561,"url":562},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[564,567,570,573,576,579,582,585,588,591],{"title":565,"url":566},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":568,"url":569},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":571,"url":572},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":574,"url":575},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":577,"url":578},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":580,"url":581},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":583,"url":584},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":586,"url":587},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":589,"url":590},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":592,"url":593},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[63,64,65],"LLM-Rate-Limits in Produktion: Retries, Backoff und Provider-Fallback","Wie LLM-Rate-Limits funktionieren, welche Fehler man wiederholt, Backoff mit Jitter, Retries in nur einer Schicht und Fallback-Ketten ohne kaputte Ausgaben.","Kleine Quadrate steigen drei Stufen zu einem breiten Rechteck, dahinter zwei weitere in einer Reihe.",{"slug":601,"published":478,"minutes":602,"category":7,"tags":603,"keywords":608,"about":618,"sources":628,"cover":653,"og":654,"expertise":61,"locales":655,"lang":64,"title":656,"description":657,"coverAlt":658},"prompt-versioning-management",8,[604,605,606,607,24],"Prompt management","Versioning","LLMOps","Evals",[21,609,610,611,612,613,614,615,616,617],"prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[619,622,625],{"name":620,"url":621},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":623,"url":624},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":626,"url":627},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[629,632,635,638,641,644,647,650],{"title":630,"url":631},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":633,"url":634},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":636,"url":637},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":639,"url":640},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":642,"url":643},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":645,"url":646},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":648,"url":649},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":651,"url":652},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[63,64,65],"Prompt-Versionierung in Produktion: Git, Registries, Labels und Rollbacks","Prompts in Produktion versionieren: was zu einer Version gehört, Git oder Prompt-Registry, Labels und Rollbacks, Eval-Gates in CI und Folgen für Caches.","Fünf aufrechte Karten in einer Reihe, die dritte schwenkt an einem Bogenpfeil zurück, ein Tor vor der letzten.",{"slug":660,"published":478,"minutes":661,"category":7,"tags":662,"keywords":667,"about":678,"sources":688,"cover":709,"og":710,"expertise":61,"locales":711,"lang":64,"title":712,"description":713,"coverAlt":714},"llm-batch-api-offline-workloads",9,[663,664,606,665,666],"Batch API","Cost","Prompt caching","Data pipelines",[668,669,670,671,672,673,674,675,676,677],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[679,682,685],{"name":680,"url":681},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":683,"url":684},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":686,"url":687},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[689,692,694,695,698,701,703,706],{"title":690,"url":691},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":693,"url":566},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":651,"url":652},{"title":696,"url":697},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":699,"url":700},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":702,"url":572},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":704,"url":705},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":707,"url":708},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[63,64,65],"LLM-Batch-APIs: Inferenz zum halben Preis für Arbeit, die warten kann","Wann sich die Batch-APIs von Anthropic, OpenAI und Gemini lohnen, wie Limits, Zuordnung und Fehler funktionieren und wie sich Rabatte mit Caching addieren.","Eine breite Kiste mit acht kleinen Quadraten, Zulauf von links, ein langer Pfeil kehrt zurück.",1792261157742]