Langfuse bemutatás: nyomkövetés, promptok és értékelések saját szerveren

A Langfuse egy nyílt forrású platform LLM-alkalmazások nyomkövetésére, promptok kezelésére és értékelésére, és a permisszív licenc alatt megjelenő hasonló eszközök közül a legteljesebb. Az ítélet előre: azok a csapatok, amelyek egy backendben akarják tartani a nyomokat, a promptokat és a kísérleteket, és amelyek gondoskodni tudnak egy ClickHouse telepítésről, vehetik. Azok, amelyk egy hétvégi beüzemelést akarnak, nem.

Ugyanabban a rétegben található, mint a LangSmith, az Arize Phoenix és a Helicone, és két, valóban számító tengelyen versenyez: futhat-e a platform a saját hálózatodban, és te a saját kódodat vagy a modellszolgáltatót mérőszkálázod. A Langfuse az első kérdésre a magjával igent mond, a másodikra mindkét iránnyal: drop-in burkolók a szokásos SDK-khoz, context manager minden máshoz, és sima OpenTelemetry-végpont azokhoz a kódokhoz, amelyek se nem Python, se nem JavaScript. Az ágensek nyomkövetésének erősebb érve a ügynök-observability OpenTelemetry-jel cikkben van.

Mi ez

A Langfuse négy termék egyetlen telepítésben: nyomtároló az LLM-hívásokhoz, prompt-nyilvántartás verziókkal és playgrounddal, kísérletfuttató adathalmazok fölött, és egy dashboard-réteg költségre, késésre és pontszámokra. Mind a négy ugyanazzal a kóddal fut, hosztolva vagy saját szerveren, és a saját telepítés nem egy levágott build.

• MIT-licenc a maghoz. A repository ClickHouse Inc. szerzői jogi megjelölést visel, és csak a ee/ könyvtárak alá kerül külön kereskedelmi licenc.
• Saját szerveren Docker Compose-szal, Helm-mel vagy AWS, Azure és GCP Terraform template-ekkel, ugyanazokkal a containerekkel, mint a Langfuse Cloud.
• Négy tárolószolgáltatás egy normál telepítésben: PostgreSQL, ClickHouse, Redis vagy Valkey, és S3-kompatibilis objektumtár.
• Python- és JavaScript-SDK, plusz dokumentált OpenTelemetry ingestion-végpont, amely minden kérésben verziófejlécet hordoz.
• 35 468 csillag és 3940 fork a GitHubon 2026 októberében, a v4.54.0 kiadás 2026. október 7-én jelent meg.
• 2026 január óta a ClickHouse tulajdona, ami egyben az az adatbázis, amelyben a nyomok tárolódnak.
• Cloud-régiók az EU-ban, az Egyesült Államokban és Japánban, plusz HIPAA-régió az enterprise csomagban.

Hogyan működik

Az ingestion útvonal magyarázza meg az üzemeltetési terhet és a késésről szóló állítást is. Az SDK vagy egy collector küld egy eseményköteget; a web konténer ezt azonnal az objektumtárba írja, és a Redisben csak egy hivatkozás marad; egy worker felveszi az eseményeket, és a ClickHouseba írja őket, ahol a nyomok, az observationök és a pontszámok élnek. A PostgreSQL a tranzakciós oldalt tartja: projektek, API-kulcsok, promptverziók.

Ebből két dolog következik. A ClickHouse kiesése nem veszít el eseményeket, mert a nyers köteg már az objektumtárban van, és újrajátszható. A nyomlekédezések pedig soha nem nyúlnak a PostgreSQL-hez, ezért a ClickHouse sémája széles, többnyire változatlan observationtábla. Ugyanez a terv teszi lehetővé a gyártó 90 milliárdnál több observation havi állítását; ez saját infrastruktúrán mért vállalati szám, nem független benchmark.

Első lépések

Két belépési pont fedi le a legtöbb esetet. Az OpenAI burkoló rögzíti a hívásokat anélkül, hogy a hívási helyeket változtatná, a context manager pedig olyan kódhoz való, amely nem az OpenAI SDK-t használja, vagy ahol egy spannek több modellhívást kell körülölelnie. Mindkettő a környezetből olvassa a hitelesítő adatokat, ugyanaz az mérőszkálázás tehát fut az EU-, az amerikai, a japán és a HIPAA-régió ellen, vagy saját telepítés ellen.

import os

from langfuse import get_client
from langfuse.openai import openai

os.environ["LANGFUSE_PUBLIC_KEY"] = "pk-lf-..."
os.environ["LANGFUSE_SECRET_KEY"] = "sk-lf-..."
os.environ["LANGFUSE_HOST"] = "https://cloud.langfuse.com"  # EU region

langfuse = get_client()

# 1. Drop-in: every OpenAI call is recorded as a generation.
openai.chat.completions.create(
    model="gpt-4o",
    name="calculator",
    messages=[{"role": "user", "content": "1 + 1 = "}],
)

# 2. Explicit: a span around one unit of work, a generation inside it.
with langfuse.start_as_current_observation(as_type="span", name="answer-question") as span:
    span.update(input={"question": "What is the capital of France?"})
    with langfuse.start_as_current_observation(
        as_type="generation", name="llm-call", model="gpt-4o"
    ) as generation:
        generation.update(output="Paris.")
    span.update(output="answered")

langfuse.flush()  # required in short-lived processes

Ami már amúgy is OTLP spanokat küld, teljesen kihagyhatja az SDK-kat: az ingestion-végpont szabványos trace payloadot fogad, basic authként a projektkulcsokkal és fejlécben az ingestion verziójával. Ez az út teszi a Langfusét elfogadható választássá egy vegyes nyelvű rendszerben, ahol a Python-mérőszkálázás még egy szolgáltatás lenne, amit karbantartani kell.

A frameworkök nem wrappert, hanem első osztályú integrációt kapnak: a dokumentáció felsorolja az OpenTelemetryt, a Vercel AI SDK-t, a LangChaint Pythonra és JavaScriptre, a LlamaIndexet, a CrewAI-t, az AutoGent, a Google ADK-t és az Ollamát, valamint proxyalapú naplózást azoknak a csapatoknak, akiknek a hívásai amúgy is LiteLLM-en keresztül mennek. Ez utóbbi eldönti az architekturális kérdést, mert aki minden modellhívást egy átjárón küld, a nyomokat az átjáróból veszi, nem az alkalmazásból.

Promptok és értékelések

A nyomkövetés az a rész, ami mindegyik versenytársnak megvan. Azt, hogy a Langfuse megérdemli-e a nehezebb telepítést, az dönti el, hogy a promptok és az értékelések ugyanazokon a nyomokon ülnek: egy promptot a felületen verzionálnak, az SDK kliensoldali gyorsítótáron keresztül lekéri, és címkékkel kiadják, az adathalmazok és a kísérletek pedig lefuttatják ezt a promptot a tárolt bemeneteken, és a pontszámokat visszaírják az observationökre.

• Promptverziók kiadáskezeléssel és összeállíthatósággal, védett deployment-címkékkel az enterprise csomagban.
• Kliensoldali promptgyorsítótár az SDK-kban, a háttérben újravalidálva, szerveroldali read-through gyorsítótárral a Redisben.
• LLM-as-a-judge értékelők, saját pontszámok kodból, felhasználói visszajelzés rögzítése és annotációs sorok a felületen.
• Kódértékelők, amelyek determinisztikus Python- vagy TypeScript-ellenőrzéseket futtatnak élő observationökön, a v4-ben érkeztek.
• Monitorok, amelyek költség-, késés- és minőségi küszöböket figyelnek, és Slacken, webhookon vagy GitHub Actionsön keresztül értesítenek.

Az véleményező rész: ez a helye az offline értékelésnek. Mivel egy kísérlet ugyanazokra az observation-azonosítókra írja a pontszámait, amelyeket a termelési nyom használ, az adathalmazon futtatott kísérletben talált regresszió visszakövethető arra a kérésformára, amelyik létrehozta, és pont ez az a lépés, amelyet az értékelő eszközök többsége egy táblázatra hagy. Az ár egy promptkiadási folyamat, amelyet magadnak kell vezetned, és amit senki nem frissítő prompt-nyilvántartás rosszabb, mint egyáltalán nem lévő.

Mibe kerül az üzemeltetés

A saját szerveren futtatás ingyenes és korlátlan használattal, így csak a cloud ára modellezendő. A cloud adatpontok után számol, nem felhasználók után: egy egység minden elküldött nyom, observation vagy pontszám, tehát egy ügynökforduló három observationnel és két pontszámmal hat egység.

• PostgreSQL a tranzakciós adatokra, ClickHouse a nyomokra, observationökre és pontszámokra, valamint Redis a sorra és az API-kulcs- és promptgyorsítótárra.
• Az események az adatbázis előtt az objektumtárba kerülnek, így az analitikai kiesés késlelteti az adatot, nem veszíti el.
• A háttérben futó migrációk kiveszik a hosszú ideig futó séma-munkát a frissítési útból, ami rövidíti a frissítés leállását.
• A kliensoldali adatmaszkolás a nyílt forrású kiadásban benne van; a szerveroldali maszkolás, az audit naplók, a SCIM, a projektszintű RBAC és a megőrzési szabályok enterprise licenckulcsot igényelnek.
• A saját szerveren futó enterprise kiadás a ClickHouse Cloud, BYOC vagy Private csomaggal együtt érkezik, és az ára a ClickHouse kereskedelmi csomagjára rakódik.
• Van template Kubernetesre, AWS-re, Azure-ra és GCP-re; a Render és a Railway csak közösségi támogatással számít.

Az üzemeltetési ítélet: ez egy platform, nem oldalsó szolgáltatás. Futtatni annyit tesz, mint ClickHouse-ot futtatni, tehát valakinek a csapatban ismernie kell a ClickHouse-ot. Aki már üzemelteti, olyan képességet szerez, amit másképpen nem tudna megvenni; aki nem, annak az ingyenes Hobby csomagon érdemes kezdenie, és a saját telepítést arra az napra tartogatnia, amikor az adatok helyisége kérdés valódi kérdéssé válik.

A csomagban nem szereplő egységek után lépcsőzetes díjak számolnak: 8 $ 100 000 egységenként az egymillióig, 7 $ a tízmillióig, 6,50 $ az ötvenmillióig, és 6 $ efölött. Az árazási oldal egy egymillió egységes hónapot Core csomagon 101 dollárba, egy huszonötmillió egységes hónapot Pro csomagon a Teams kiegészítővel 2176 dollárba számol. Előbb modellezd az egységszámot, és csak utána hasonlíts egy helyenkénti vagy gigabájtonkénti árral, mert ugyanaz a terhelés egy nagyságrenddel eltérhet attól függően, hány observationt küldsz kérésenként.

Hol akad

Először a gyengeségek, mert azok az okok, hogy valami mást vegyél. A mérőszkálázást továbbra is meg kell írni, és az a alkalmazás, amely három szolgáltatót hív egy gatewayen keresztül, három integrációt vagy egy OpenTelemetry-pipeline-t igényel. A felület sűrű, és a nyomtól egy olyan dashboardig, amely válaszol egy kérdésre, napokban mérhető. Az egység szerinti árazás bünteti a bőbeszédű mérőszkálázást, így a legolcsóbb módja csökkenteni a számlát kevesebb részlettel, ami éppen a rossz ösztön egy üzemzavarban. A termék ráadásul adatbázgyártó tulajdonosa lett: a ClickHouse 2026 januárjában megvette a Langfusét, ami egyértelműen jót tett az üttervnek, és egyúttal azt is jelenti, hogy a kereskedelmi enterprise kiadás egyre inkább ClickHouse-tárgyalás.

A Langfuse az az eszköz, amelyre ennek a kategóriának szüksége volt: permisszíven licencelt platform, amely nem kéri, hogy másik frameworkre válts, proxyt tegyél a kérési útba, vagy lemondj a nyers adatról. Állj ki egy pozíciót: egy több ügynökfelületet futtató csapatnak, amelynek van valódi számlája, ez a jó alapértelmezés, egyetlen prompt mellékletes projekthez viszont a rossz választás.

Ítélet

A Langfuse az az eszköz, amelyre ennek a kategóriának szüksége volt: permisszíven licencelt platform, amely nem kéri, hogy框架-ot válts, proxyt tegyél a kérési útba, vagy lemondj a nyers adatról. Állj ki egy pozíciót: egy több ügynökfelületet futtató csapatnak, amelynek van valódi számlája, ez a jó alapértelmezés, egyetlen prompt mellékletes projekthez viszont a rossz választás.

1. Vedd, ha a nyomoknak, a promptverzióknak és a kísérleteknek egy helyen kell lenniük, és valaki tud ClickHouse-ot üzemeltetni.
2. Vedd, ha a promptverzióknak auditálhatónak kell lenniük, ami az EU-s beszerzési tárgyalásokban a szokásos követelmény.
3. Vedd, ha már kibocsátsz OpenTelemetryt, és inkább egy backendet szeretnél, mint frameworkönkénti mérőszkálázást.
4. Ne vedd, ha az alkalmazás naponta néhány modellhívást végez; egy ingyenes csomag plusz strukturált naplók kevesebb figyelmet igényel.
5. Ne vedd, ha senki nem fogja hangolni a mérőszkálázást. A számla az observationök számával nő, nem a felhasználókéval, és a legolcsóbb megtakarítás az, hogy kikapcsolod a részleteket, amelyekre hajnali háromkor szükséged van.

Források

• taghrefchildren
• taghrefchildren
• taghrefchildren
• taghrefchildren
• taghrefchildren
• taghrefchildren
• taghrefchildren
• taghrefchildren