[{"data":1,"prerenderedAt":747},["ShallowReactive",2],{"blog-opik-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":34,"cover":104,"og":105,"expertise":106,"locales":107,"lang":110,"title":111,"description":112,"coverAlt":113,"metaTitle":114,"takeaways":115,"faq":121,"toc":134,"blocks":162,"others":504},"opik","2026-10-05",7,"llmops",[9,10,11,12,13],"LLM observability","Tracing","Evaluation","OpenTelemetry","Self-hosting",[4,15,16,17,18,19,20,21],"opik review","opik vs langfuse","opik pricing","self-hosted llm tracing","opik opentelemetry","llm as a judge metrics","opik guardrails",[23,26,28,31],{"name":24,"url":25},"Comet ML","https:\u002F\u002Fwww.comet.com",{"name":12,"url":27},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenTelemetry",{"name":29,"url":30},"Observability (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FObservability_(software)",{"name":32,"url":33},"Apache License","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FApache_License",[35,38,41,44,47,50,53,56,59,62,65,68,71,74,77,80,83,86,89,92,95,98,101],{"title":36,"url":37},"Opik repository README on GitHub","https:\u002F\u002Fgithub.com\u002Fcomet-ml\u002Fopik",{"title":39,"url":40},"Opik LICENSE file: Apache License 2.0","https:\u002F\u002Fgithub.com\u002Fcomet-ml\u002Fopik\u002Fblob\u002Fmain\u002FLICENSE",{"title":42,"url":43},"Opik on PyPI: package metadata","https:\u002F\u002Fpypi.org\u002Fpypi\u002Fopik\u002Fjson",{"title":45,"url":46},"Opik product page","https:\u002F\u002Fwww.comet.com\u002Fsite\u002Fproducts\u002Fopik\u002F",{"title":48,"url":49},"Opik pricing","https:\u002F\u002Fwww.comet.com\u002Fsite\u002Fpricing\u002F",{"title":51,"url":52},"Opik docs: run locally with Docker Compose","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fself-host\u002Flocal_deployment",{"title":54,"url":55},"Opik docs: Kubernetes deployment with Helm","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fself-host\u002Fkubernetes",{"title":57,"url":58},"Opik docs: platform architecture","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fself-host\u002Farchitecture",{"title":60,"url":61},"Opik docs: tracing getting started","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Ftracing\u002Fgetting-started",{"title":63,"url":64},"Opik docs: OpenTelemetry integration","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fintegrations\u002Fopentelemetry",{"title":66,"url":67},"Opik docs: evaluation metrics overview","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fevaluation\u002Fmetrics\u002Foverview",{"title":69,"url":70},"Opik docs: online evaluation rules","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fproduction\u002Fonline-evaluation\u002Frules",{"title":72,"url":73},"Opik docs: Prompt Library overview","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fdevelopment\u002Fprompt-library\u002Foverview",{"title":75,"url":76},"Opik docs: optimisation algorithms","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fdevelopment\u002Foptimization-runs\u002Falgorithms\u002Foverview",{"title":78,"url":79},"Opik docs: guardrails overview","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fguardrails\u002Foverview",{"title":81,"url":82},"Opik docs: guardrails server","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fguardrails\u002Fserver",{"title":84,"url":85},"Opik docs: SDK anonymizers","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fproduction\u002Fgateway-guardrails\u002Fanonymizers",{"title":87,"url":88},"Opik docs: data anonymization","https:\u002F\u002Fwww.comet.com\u002Fdocs\u002Fopik\u002Fadministration\u002Fdata_anonymization",{"title":90,"url":91},"Comet ML privacy policy","https:\u002F\u002Fwww.comet.com\u002Fsite\u002Fprivacy-policy\u002F",{"title":93,"url":94},"Comet Trust Center","https:\u002F\u002Ftrust.comet.com\u002F",{"title":96,"url":97},"Langfuse repository README (licence)","https:\u002F\u002Fgithub.com\u002Flangfuse\u002Flangfuse",{"title":99,"url":100},"Arize Phoenix repository README (licence)","https:\u002F\u002Fgithub.com\u002FArize-ai\u002Fphoenix",{"title":102,"url":103},"LangChain pricing (LangSmith plans)","https:\u002F\u002Fwww.langchain.com\u002Fpricing","\u002Fimages\u002Fblog\u002Fopik\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fopik\u002Fog.jpg","ai-engineer",[108,109,110],"en","de","hu","Opik teszt: nyílt forrású nyomkövetés és értékelés, amerikai felhővel","Nyomok, judge-metrikák, promptverziók és optimalizáló egy Apache 2.0 platformon. Saját szerveren ingyen, a Pro felhő havi 19 dollár, az USA-ban hosztolt.","Négy egyre magasabb sáv, mindegyik tetején kis négyzet, elágazás fut az elsőbe.","Opik teszt: nyílt forrású nyomkövetés · Balázs Csorba",[116,117,118,119,120],"A teljes Opik-repository Apache 2.0 licencű, enterprise-kivétel nélkül, így a teljes platform saját szerveren ingyen futtatható ezen a licencen.","Az Opik Cloud az adatvédelmi nyilatkozat szerint az USA-ban üzemel. Az általam megnyitott oldalakon nem találtam EU-s régiót, DPA-t vagy alfeldolgozó-listát.","A guardrailek és a szerveroldali adatmaszkolás a dokumentáció szerint enterprise-funkciók, vagyis értékesítési beszélgetés kell hozzájuk, és nem ingyenesek.","A judge-metrikák hasznosak, de minden judge-hívás nyomszöveget küld egy modellszolgáltatónak, ezt is fel kell venni az adatfeldolgozók listájára.","Az SDK-oldali anonimizálókkal a személyes adatokat a naplózás előtt lecserélheted. Előbb a saját mintaadataidon teszteld őket.",[122,125,128,131],{"q":123,"a":124},"Ingyenes az Opik?","A kód Apache 2.0 licencű, az árképző oldal pedig a nyílt forrású változatot korlátlan spanekkel és korlátlan megőrzéssel tünteti fel. Az Opik Cloud Free csomagja havi 25 000 spanre és 60 nap megőrzésre szól, a Pro havi 19 dollár 100 000 spanért. A kutatók, diákok és oktatók ingyen kapják meg a teljes Pro csomagot.",{"q":126,"a":127},"Hol üzemel az Opik Cloud?","Az USA-ban. Az adatvédelmi nyilatkozat szerint a szolgáltatásokat az Egyesült Államokban üzemeltetik, az EGT-ből és az Egyesült Királyságból történő továbbítás pedig a Standard Contractual Clauses (SCC) alapján történik. Az árképző oldal szerint az adatrégió Free és Pro esetén USA, Enterprise esetén egyedi. EU-s régiót nem találtam.",{"q":129,"a":130},"Küldhetek OpenTelemetry-nyomokat az Opiknak?","Igen. Az OTLP-nyomokat az Opik végpontjára küldd: a felhőben a https:\u002F\u002Fwww.comet.com\u002Fopik\u002Fapi\u002Fv1\u002Fprivate\u002Fotel címre, helyi példány esetén a http:\u002F\u002Flocalhost:5173\u002Fapi\u002Fv1\u002Fprivate\u002Fotel címre. Minden kérés az API-kulcsot az Authorization fejlécben, a projektet a projectName fejlécben, a workspace-t pedig a Comet-Workspace fejlécben viszi.",{"q":132,"a":133},"Opik vagy Langfuse?","Kezdd a licenccel. Az Opik-repository egészében Apache 2.0, a Langfuse README szerint pedig a mag MIT-licencű, az ee\u002F mappák kivételével. Utána hasonlítsd össze a használt funkciókat, és mindkét szolgáltató oldalán nézd meg az adatrégiót és a guardrail-kaput, mielőtt döntesz.",[135,138,141,144,147,150,153,156,159],{"id":136,"title":137},"what-it-is","Mi ez",{"id":139,"title":140},"how-it-works","Hogyan működik",{"id":142,"title":143},"getting-started","Első lépések",{"id":145,"title":146},"evaluation-and-judges","Értékelés és judge-ok",{"id":148,"title":149},"prompts-optimiser-guardrails","Promptok, optimalizáló és guardrailek",{"id":151,"title":152},"cost-and-deployment","Mibe kerül és hol fut",{"id":154,"title":155},"where-it-falls-short","Hol gyengébb",{"id":157,"title":158},"verdict","Ítélet",{"id":160,"title":161},"sources","Források",[163,167,170,173,176,206,207,210,216,217,220,223,226,227,230,233,236,237,240,243,246,253,254,257,303,306,309,311,321,330,333,339,340,367,368,371,391,409,410],{"type":164,"content":165},"paragraph",[166],"Az Opik a Comet nyílt forrású platformja LLM-alkalmazások és ágensek nyomkövetésére, értékelésére és optimalizálására. Az ítélet előre: válaszd, ha nyomokat, LLM-as-a-judge metrikákat, promptverziókat és optimalizálót akarsz egy Apache 2.0 termékben, és a csapatod tud adatbázisokat üzemeltetni. Ne válaszd, ha EU-ban hosztolt felhőre van szükséged, vagy értékesítési beszélgetés nélkül akarsz guardrailekre támaszkodni.",{"type":164,"content":168},[169],"Az Opik a Langfuse, az Arize Phoenix és a LangSmith mezőnyében versenyez, és a licencet kell először megnézni. Az Opik-repository Apache 2.0, a LICENSE fájl pedig nem tartalmaz kivételt enterprise könyvtárakra. A Langfuse magja MIT-licencű, az ee\u002F mappák kivételével, az Arize Phoenix pedig az Elastic License 2.0 alatt áll. A továbbiakban azt mutatom be, mit kapsz, mit jelent a saját szerveres üzemeltetés, és hová kerülnek az adatok.",{"type":171,"level":172,"id":136,"text":137},"heading",2,{"type":164,"content":174},[175],"Az Opik egyesíti a nyomkövetést, az értékelést és az éles környezeti pontozást, mellette prompt-kezelés és optimalizáló is van. A termékoldal „AI Observability & Evals For the Agentic Era“ címmel hirdeti, a GitHub README pedig azt írja, hogy a teljes platform saját szerveren ingyen futtatható.",{"type":177,"ordered":178,"items":179},"list",false,[180,186,191,196,201],[181,185],{"tag":182,"children":183},"strong",[184],"Apache 2.0 a teljes repositoryra. ","A LICENSE fájl a szokásos Apache License 2.0 szöveg, a szerzői jog a Comet ML, Inc. nevén van.",[187,190],{"tag":182,"children":188},[189],"Nyomkövetés dekorátorral. ","Pythonban a pip install opik telepít, a @opik.track dekorátor pedig egy függvényhívást rögzít. A TypeScript SDK az opik csomagból importál.",[192,195],{"tag":182,"children":193},[194],"OpenTelemetry. ","Bármely nyelv, amelyhez van OpenTelemetry SDK, küldhet nyomokat, amit a Comet elsőosztályú támogatásként ír le.",[197,200],{"tag":182,"children":198},[199],"Értékelés. ","Adatkészletek, kísérletek, heurisztikus ellenőrzések, mint az Equals, a RegexMatch vagy az IsJson, több mint 20 LLM-as-a-judge metrika és PyTest-integráció a CI-hez.",[202,205],{"tag":182,"children":203},[204],"Éles környezet és biztonság. ","Az online értékelési szabályok élő nyomokat pontoznak, a guardrailek pedig a bemenetet és a kimenetet ellenőrzik. A guardrailek enterprise-funkciók, lásd lentebb.",{"type":171,"level":172,"id":139,"text":140},{"type":164,"content":208},[209],"Az SDK-k telemetriát köteggé fognak össze, és REST-en küldik egy Java backendnek, amely az API-t, a hitelesítést és az adatbázis-migrációkat kezeli. Külön Python backend futtatja az értékelőket, a sandboxolt kódot és az optimalizálási feladatokat – a sandboxolt kód így a felhőben a Comet infrastruktúráján, saját szerveres üzemeltetésnél a tiedén fut. A nyomok és a span-ek a ClickHouse-ba, a projektek, adatkészletek és promptok a MySQL-be, a mellékletek a MinIO-ba kerülnek. A Redis a gyorsítótárazást, a sebességkorlátozást és a sorokat, a ZooKeeper a fürt koordinációját végzi, az Nginx pedig a React-felületet szolgálja ki és továbbítja az API-kéréseket.",{"type":211,"src":212,"alt":213,"wide":214,"caption":215},"image","\u002Fimages\u002Fblog\u002Fopik\u002Fdiagram-7.webp","Hogyan jut egy Opik-nyom a tárolóba Az alkalmazásod vagy ágensed az Opik SDK-n vagy egy OpenTelemetry exportőrön keresztül küldi a nyomokat az Opik backendnek. A backend a nyomokat és a span-eket a ClickHouse-ba, a projekteket, adatkészleteket és promptokat a MySQL-be, a mellékleteket a MinIO-ba írja. Az értékelési és optimalizálási feladatokat egy külön Python szolgáltatásnak adja át, amely futtatja a judge-okat, és az eredményeket feedback-pontszámként írja vissza a ClickHouse-ba. A webes felület Nginxen keresztül éri el a backendet.",true,"A nyomok a ClickHouse-ba, a metaadatok a MySQL-be, a mellékletek a MinIO-ba kerülnek, közben egy külön Python szolgáltatás futtatja a judge-okat és az optimalizálót.",{"type":171,"level":172,"id":142,"text":143},{"type":164,"content":218},[219],"Telepítsd az SDK-t, állítsd be a kulcsot és a workspace-t, és lásd el a követni kívánt függvényeket a dekorátorral. Ha az OPIK_URL_OVERRIDE változó helyi példányra mutat, ugyanez a kód ellene fut.",{"type":221,"code":222},"code","# pip install opik\n# Opik Cloud: set your API key and workspace from the Opik dashboard\n# export OPIK_API_KEY=\"\u003Cyour-api-key>\"\n# export OPIK_WORKSPACE=\"\u003Cyour-workspace>\"\n# Self-hosted: point the SDK at your own instance instead\n# export OPIK_URL_OVERRIDE=\"http:\u002F\u002Flocalhost:5173\u002Fapi\"\n\nimport opik\n\nopik.configure()\n\n\n@opik.track(name=\"answer-question\")\ndef answer(question: str) -> str:\n    # your model call goes here\n    return f\"Answer to: {question}\"\n\n\nanswer(\"What does the Apache 2.0 licence allow?\")",{"type":164,"content":224},[225],"Ha már használsz OpenTelemetryt, hagyd ki az SDK-t, és küldj OTLP-nyomokat az Opiknak. A felhő végpontja https:\u002F\u002Fwww.comet.com\u002Fopik\u002Fapi\u002Fv1\u002Fprivate\u002Fotel, a helyi példány pedig http:\u002F\u002Flocalhost:5173\u002Fapi\u002Fv1\u002Fprivate\u002Fotel. Minden kérés az API-kulcsot az Authorization fejlécben, a projektet a projectName fejlécben, a workspace-t pedig a Comet-Workspace fejlécben viszi. Az oldal nem mondja meg, mely GenAI szemantikai konvenciókat képezi le az Opik, ezért ellenőrizd a szükséges attribútumokat, mielőtt rájuk építesz. Keretrendszerekhez a Python-dokumentáció integrációkat sorol fel LangChainhez, LangGraphhoz, LlamaIndexhez, OpenAI-hoz, Anthropichoz és AWS Bedrockhoz.",{"type":171,"level":172,"id":145,"text":146},{"type":164,"content":228},[229],"Az értékelés az Opik legerősebb része. A metrikaoldal két csoportra bontja a könyvtárat. A heurisztikus ellenőrzések nem igényelnek modellt, ilyen az Equals, a Contains, a RegexMatch, az IsJson, a Levenshtein, a ROUGE és a BERTScore. Az LLM-as-a-judge csoportban több mint 20 metrika van, köztük a Hallucination, az Answer Relevance, a Context Precision, a Moderation, a Structured Output Compliance és a G-Eval, amely a saját utasításaidat használja.",{"type":164,"content":231},[232],"Két dolog számít, mielőtt bíznál egy judge-pontszámban. A metrikaoldal szerint a Python judge-metrikák a LiteLLM keretrendszerre épülnek, ezen keresztül konfigurálják a judge-modellt is. Minden judge-hívás elküldi a nyomszöveget ennek a modellnek, így a judge-szolgáltató is felkerül az adatfeldolgozók listájára. Az oldal nem mondja meg, hogy a pontozás az SDK-ban vagy a platformon fut, ezért kérdezd meg a Comettől, mielőtt érzékeny éles nyomokra állítod a judge-okat.",{"type":164,"content":234},[235],"Az online értékelés ugyanezeket a judge-okat az éles környezetre alkalmazza. Egy szabály a termelési nyomok megadott százalékát pontozza, 100 százaléknál mindet. A pontszámok feedback-pontszámként tárolódnak az egyes nyomokon, és ha egy átlag átlép egy küszöböt, riasztást küldhet Slackre, PagerDutyre vagy webhookra. Minden értékelt nyom legalább egy modellhívást jelent, így a mintavételi arány költségbeállítás is, én alacsonyan kezdeném. A megnyitott dokumentáció nem mondja meg, mely csomagok tartalmazzák az online értékelést.",{"type":171,"level":172,"id":148,"text":149},{"type":164,"content":238},[239],"A Prompt Library egy helyen tartja az összes promptot, amelytől az ágens függ. Minden módosítás új, nem módosítható verziót hoz létre, v1, v2, v3 és így tovább számozva. Az SDK a get_prompt vagy a get_chat_prompt hívással kéri le a promptot egy nyomkövetett függvényen belül, a verzió megadása nélkül pedig a legújabb jön. Címkéket, környezeteket vagy visszagörgetési parancsot a dokumentációban nem találtam, ezért egy kiadási folyamatnak ezekre a verziószámokra kell épülnie.",{"type":164,"content":241},[242],"Az optimalizálóval kell a legóvatosabbnak lenni. Az Opik Agent Optimizer SDK hat algoritmust kínál. A MetaPrompt egy gondolkodó modellel bírálatja és átírja a promptot. A HRPO csoportosítja a hibákat, és célzott javításokat javasol. A Few-Shot Bayesian az Optunát használja arra, hogy kiválassza a példák számát és sorrendjét. Az Evolutionary a pontszám és a prompt hossza közötti kompromisszumot keresi. A GEPA egy wrapperen keresztül fut az Opik adatkészletein és metrikáin. A Parameter nem nyúl a prompthoz, hanem Bayes-kereséssel hangolja a mintavételezési paramétereket. Minden futás sokszor hív modellt, ezért indítás előtt állíts be költségkeretet és tartalék (holdout) adatkészletet.",{"type":164,"content":244},[245],"A guardrailek inline és szinkron módon futnak, mielőtt a válasz visszamegy. A guard-típusok: PII-felismerés, engedélyezett és korlátozott témák, prompt-injection és jailbreak felismerés, egyszerű nyelvű LLM-as-a-judge ellenőrzés, valamint saját osztályozó. A guardokat nevesített policykba csoportosítod, az alkalmazás pedig név szerint hívja a guardrailt. A téma- és PII-ellenőrzés csak angolul működik.",{"type":247,"variant":248,"title":249,"body":250},"callout","warn","A guardrailek dokumentáltan enterprise-funkciók",[251],[252],"A guardrail-dokumentáció ezt közvetlenül mondja, és azt kéri, hogy a fiókodhoz az értékesítést keresd meg az engedélyezéshez. A guardrail-szerver külön backend, amely egy zero-shot témaosztályozót, a Microsoft Presidiót spaCy-val a PII-hez, egy Qwen LoRA prompt-injection osztályozót és a címkézett példákon tanított saját modelleket futtat. Így indul: .\u002Fopik.sh --guardrails. A dokumentáció nem mondja meg, hogy ez a szerver benne van-e az Apache 2.0 buildben, ezért addig kezeld a guardrailt fizetős döntésként, amíg ezt írásban nem kapod meg.",{"type":171,"level":172,"id":151,"text":152},{"type":164,"content":255},[256],"A nyílt forrású változat saját szerveren ingyen futtatható, az árképző oldal pedig korlátlan spanekkel és korlátlan megőrzéssel tünteti fel. A felhőcsomagoknál kezdődik az adatkérdés. Íme a csomagok, ahogy az árképző oldal 2026 októberében mutatta őket.",{"type":258,"head":259,"rows":268},"table",[260,262,264,266],[261],"Csomag",[263],"Ár",[265],"Tartalmazza",[267],"Mi változik",[269,278,286,295],[270,272,274,276],[271],"Nyílt forrás",[273],"$0",[275],"Korlátlan spanek",[277],"Korlátlan megőrzés, saját szerveren, Apache 2.0 alatt",[279,281,282,284],[280],"Free Cloud",[273],[283],"25 000 span havonta",[285],"60 nap megőrzés, legfeljebb 10 csapattag, USA adatrégió",[287,289,291,293],[288],"Pro Cloud",[290],"19 dollár havonta",[292],"100 000 span havonta",[294],"alapértelmezetten 60 nap megőrzés, legfeljebb 50 csapattag, USA adatrégió",[296,298,300,301],[297],"Enterprise",[299],"egyedi",[275],[302],"Egyedi megőrzés és régió, korlátlan csapattagok, megfelelőségi lista: SOC 2, ISO 27001, HIPAA és GDPR",{"type":164,"content":304},[305],"Három megjegyzés a táblázathoz. A Pro csomagban az extra spanek 100 000-enként 5 dollárba kerülnek, a megőrzés 60-ról 400 napra történő meghosszabbítása pedig 100 000 spanenként 29 dollár. Ugyanezen az oldalon az áll, hogy minden csomag korlátlan csapattagot tartalmaz, ez viszont ellentmond a csomagkártyák ülésszám-korlátainak, ezért vásárlás előtt kérd írásban a helyek számát. A kutatók, diákok és oktatók az FAQ szerint ingyen használhatják a teljes Pro csomagot.",{"type":164,"content":307},[308],"A saját szerveres üzemeltetésnek két útja van. A helyi útmutató klónozza a repositoryt, elindítja a .\u002Fopik.sh-t, és megnyitja a http:\u002F\u002Flocalhost:5173 címet. A dokumentáció ezt „perfekt az induláshoz, de nem éles környezetre“ minősíti, a --clean kapcsoló pedig törli az összes adatkötetet. Éles környezethez a dokumentáció a Kubernetes Helm chartra utal. Alapértelmezés szerint tartalmazza a ClickHouse-t és a ZooKeepert, az 1.4.2-es chart-verziótól külső ClickHouse is használható, az S3-at pedig az S3_BUCKET és az S3_REGION változókon keresztül kell konfigurálni, és az oldal ezt nem írja le szállítottként. A Kubernetes-oldal nem mondja meg, hogyan biztosítja a MySQL-t és a Redist, ezt tisztázd a fürt méretezése előtt.",{"type":221,"code":310},"helm repo add opik https:\u002F\u002Fcomet-ml.github.io\u002Fopik\u002F\nhelm upgrade --install opik -n opik --create-namespace opik\u002Fopik",{"type":247,"variant":312,"title":313,"body":314},"note","Három chart-részlet, amit érdemes ellenőrizni",[315,317,319],[316],"A dokumentáció szerint a Python SDK és a Kubernetes-telepítés verziójának egyeznie kell.",[318],"A Helm a listákat felülírja, nem egyesíti, ezért a clickhouse.additionalProfiles újradeklarálásakor az alapértelmezett profil elveszik, ha nem ismétled meg.",[320],"A replicasCount: 2 beállítású ClickHouse-replikáció futó Opikot igényel, ezért az első telepítés után kapcsold be.",{"type":164,"content":322},[323,324,329],"Íme, mit mondanak a dokumentumok az adatokról. A Comet ML, Inc. adatvédelmi nyilatkozata szerint az Opik Cloud az Egyesült Államokban üzemel, az EGT-ből és az Egyesült Királyságból az USA-ba történő továbbítás pedig Standard Contractual Clauses alapján történik. Az árképző oldal szerint az adatrégió Free és Pro esetén USA, Enterprise esetén egyedi. Sem az adatvédelmi nyilatkozat, sem a Trust Center nem sorol fel adatfeldolgozási szerződést (DPA) vagy alfeldolgozó-listát, EU-s régiót pedig nem találtam. Az önkiszolgáló felhőben az alapértelmezett megőrzés 60 nap, ezt vedd fel az adatkezelési nyilvántartásodba. Mindkettőt kérd el, mielőtt EU-s személyes adatot küldesz. A régiókezelés nagyobb érvelése itt olvasható: ",{"tag":325,"to":326,"children":327},"link","\u002Fblog\u002Fgdpr-llm-api-eu-data-residency",[328],"GDPR és adatrezidencia LLM-API-knál",".",{"type":164,"content":331},[332],"Az Opiknak két olyan funkciója van, amely személyes adatokat érint, és könnyű összekeverni őket. A szerveroldali adatanonimizálás e-mail-címeket, telefonszámokat és a saját mintákat maszkolja, amikor emberek megnézik a nyomokat. Előnézetben érhető el, csak Enterprise csomagban, és a tárolt adatokat nem változtatja meg. Az SDK-anonimizálók másként működnek. Az opik.hooks.add_anonymizer segítségével regisztrálva felismerik a PII-t, és lecserélik, mielőtt az adat naplózásra kerül, felhőben és saját szerveren egyaránt, a csere pedig egyirányú. Az anonimizálók oldala példákat ad e-mail-címekre, amerikai telefonszámokra, társadalombiztosítási számokra és bankkártyaszámokra. A nevekre és címekre saját szabályok kellenek.",{"type":247,"variant":334,"title":335,"body":336},"tip","Maszkolj, mielőtt az adat elhagyja az alkalmazást",[337],[338],"Az SDK-ban végzett, egyirányú csere az Opik oldalán a legerősebb adatminimalizálási lépés, mert a nyers érték soha nem kerül naplózásra. Előbb a saját mintaadataidon teszteld a szabályokat, mert az oldal nem ad hivatalos listát a támogatott típusokról.",{"type":171,"level":172,"id":154,"text":155},{"type":177,"ordered":178,"items":341},[342,347,352,357,362],[343,346],{"tag":182,"children":344},[345],"Nem találtam EU-s felhőrégiót. ","Az Opik Cloud Free és Pro csomagban az USA-ban üzemel, az Enterprise pedig egyedi régiót ír. EU-s személyes adatok esetén ez saját szerveres üzemeltetést vagy Enterprise szerződést jelent.",[348,351],{"tag":182,"children":349},[350],"A guardrailek és a szerveroldali maszkolás értékesítési kapun át érhető el. ","A dokumentáció szerint mindkettő enterprise-funkció, a guardrail-szerver pedig saját modelleket futtat, ezért a számítási kapacitást is tervezd be, nem csak a szerződést.",[353,356],{"tag":182,"children":354},[355],"A saját szerveres verem nehéz. ","Éles telepítés alatt ClickHouse, MySQL, Redis, MinIO, ZooKeeper és mindkét backend fut. A helyi útmutató szerint nem éles használatra készült, ezért platformprojektnek kell tekinteni, nem hétvégi munkának.",[358,361],{"tag":182,"children":359},[360],"Dokumentációs hiányosságok. ","Az árképző oldal ellentmond a helyek számáról szóló részeknek, a metrikaoldal nem mondja meg, hol fut a pontozás, a Prompt Library nem mutat címkéket vagy visszagörgetést, az OpenTelemetry-oldal pedig nem nevezi meg a leképezett GenAI-konvenciókat.",[363,366],{"tag":182,"children":364},[365],"Gyorsan változnak a verziók. ","A PyPI-csomag az ellenőrzésemkor 2.2.96 volt, a chartnak és az SDK-nak pedig egyeznie kell, ezért rögzítsd mindkettőt.",{"type":171,"level":172,"id":157,"text":158},{"type":164,"content":369},[370],"Az Opik erős Apache 2.0-s választás a nyomkövetésre, a judge-okra, a promptverziókra és az optimalizálásra egy termékben. A hiányosságai nem a funkciólistában vannak. A guardrailek enterprise-kapuja, a USA-ban hosztolt felhő és a saját szerveres verem üzemeltetési költsége jelenti őket. Olyan platformcsapatnak ajánlom, amely már Kubernetest és ClickHouse-t üzemeltet, és a teljes repositoryt Apache 2.0 alatt akarja. Nézz körül másutt, ha a döntés EU-s hostingon vagy egyszerűbb telepítésen múlik.",{"type":177,"ordered":214,"items":372},[373,378,382,387],[374,377],{"tag":182,"children":375},[376],"Válaszd, ha ","egy csapat felel a nyomokért, az értékelésért és a promptokért, és a teljes repositoryt Apache 2.0 alatt akarod.",[379,381],{"tag":182,"children":380},[376],"ugyanolyan gondossággal tudod üzemeltetni a ClickHouse-t, a MySQL-t és a MinIO-t, mint a többi adattárat.",[383,386],{"tag":182,"children":384},[385],"Ne válaszd, ha ","EU-s hostolt felhőfeldolgozásra vagy aláírás előtt elolvasható DPA-ra van szükséged, mert egyiket sem találtam meg.",[388,390],{"tag":182,"children":389},[385],"a guardrailek kötelezőek, és nem tudsz enterprise szerződést kötni.",{"type":164,"content":392},[393,394,398,399,403,404,408],"Válaszd a ",{"tag":325,"to":395,"children":396},"\u002Fblog\u002Flangfuse",[397],"Langfuse-t",", ha MIT-magot szeretnél az ee\u002F kivétellel, és olyan platformot, amelyet a saját nyomaidon hasonlíthatsz össze. Válaszd az ",{"tag":325,"to":400,"children":401},"\u002Fblog\u002Farize-phoenix",[402],"Arize Phoenixet",", ha saját szerveren futtatható eszközt akarsz, és el tudod fogadni a rá vonatkozó Elastic License 2.0-t. Válaszd a ",{"tag":325,"to":405,"children":406},"\u002Fblog\u002Flangsmith",[407],"LangSmith-et",", ha hostolt terméket szeretnél, amelynek felhőadatai az USA-ban vagy az EU-ban vannak, és elfogadod a felhasználónkénti árazást, amely a Plus csomagban felhasználónként havi 39 dollártól indul, saját szerveres üzemeltetés pedig csak Enterprise csomagban van.",{"type":171,"level":172,"id":160,"text":161},{"type":177,"ordered":178,"items":411},[412,417,421,425,429,433,437,441,445,449,453,457,461,465,469,473,477,481,485,489,492,496,500],[413],{"tag":414,"href":37,"children":415},"a",[416],"Az Opik GitHub-repositoryjának README-je",[418],{"tag":414,"href":40,"children":419},[420],"Az Opik LICENSE fájlja: Apache License 2.0",[422],{"tag":414,"href":43,"children":423},[424],"Az Opik a PyPI-on: csomagmetaadatok",[426],{"tag":414,"href":46,"children":427},[428],"Az Opik termékoldala",[430],{"tag":414,"href":49,"children":431},[432],"Az Opik árképzése",[434],{"tag":414,"href":52,"children":435},[436],"Opik-dokumentáció: helyi futtatás Docker Composeszal",[438],{"tag":414,"href":55,"children":439},[440],"Opik-dokumentáció: Kubernetes-telepítés Helmmel",[442],{"tag":414,"href":58,"children":443},[444],"Opik-dokumentáció: platformarchitektúra",[446],{"tag":414,"href":61,"children":447},[448],"Opik-dokumentáció: első lépések a nyomkövetéssel",[450],{"tag":414,"href":64,"children":451},[452],"Opik-dokumentáció: OpenTelemetry-integráció",[454],{"tag":414,"href":67,"children":455},[456],"Opik-dokumentáció: értékelési metrikák áttekintése",[458],{"tag":414,"href":70,"children":459},[460],"Opik-dokumentáció: online értékelési szabályok",[462],{"tag":414,"href":73,"children":463},[464],"Opik-dokumentáció: Prompt Library áttekintés",[466],{"tag":414,"href":76,"children":467},[468],"Opik-dokumentáció: optimalizálási algoritmusok",[470],{"tag":414,"href":79,"children":471},[472],"Opik-dokumentáció: guardrailek áttekintés",[474],{"tag":414,"href":82,"children":475},[476],"Opik-dokumentáció: guardrail-szerver",[478],{"tag":414,"href":85,"children":479},[480],"Opik-dokumentáció: SDK-anonimizálók",[482],{"tag":414,"href":88,"children":483},[484],"Opik-dokumentáció: adatanonimizálás",[486],{"tag":414,"href":91,"children":487},[488],"A Comet ML adatvédelmi nyilatkozata",[490],{"tag":414,"href":94,"children":491},[93],[493],{"tag":414,"href":97,"children":494},[495],"A Langfuse repository README-je (licenc)",[497],{"tag":414,"href":100,"children":498},[499],"Az Arize Phoenix repository README-je (licenc)",[501],{"tag":414,"href":103,"children":502},[503],"LangChain-árak (LangSmith-csomagok)",[505,562,630,691],{"slug":506,"published":507,"minutes":508,"category":7,"tags":509,"keywords":515,"about":529,"sources":537,"cover":556,"og":557,"expertise":106,"locales":558,"lang":110,"title":559,"description":560,"coverAlt":561},"deepseek-v4-1-flash-1017","2026-10-17",15,[510,511,512,513,514],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[516,517,518,519,520,521,522,523,524,525,526,527,528],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[530,532,534],{"name":510,"url":531},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":513,"url":533},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":535,"url":536},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[538,541,544,547,550,553],{"title":539,"url":540},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":542,"url":543},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":545,"url":546},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":548,"url":549},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":551,"url":552},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":554,"url":555},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[108,109,110],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":563,"published":507,"minutes":564,"category":7,"tags":565,"keywords":571,"about":583,"sources":593,"cover":624,"og":625,"expertise":106,"locales":626,"lang":110,"title":627,"description":628,"coverAlt":629},"llm-rate-limits-retries-provider-fallback",10,[566,567,568,569,570],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[572,573,574,575,576,577,578,579,580,581,582],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[584,587,590],{"name":585,"url":586},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":588,"url":589},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":591,"url":592},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[594,597,600,603,606,609,612,615,618,621],{"title":595,"url":596},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":598,"url":599},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":601,"url":602},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":604,"url":605},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":607,"url":608},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":610,"url":611},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":613,"url":614},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":616,"url":617},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":619,"url":620},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":622,"url":623},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[108,109,110],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":631,"published":507,"minutes":632,"category":7,"tags":633,"keywords":639,"about":650,"sources":660,"cover":685,"og":686,"expertise":106,"locales":687,"lang":110,"title":688,"description":689,"coverAlt":690},"prompt-versioning-management",8,[634,635,636,637,638],"Prompt management","Versioning","LLMOps","Evals","Langfuse",[640,641,642,643,644,645,646,647,648,649],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[651,654,657],{"name":652,"url":653},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":655,"url":656},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":658,"url":659},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[661,664,667,670,673,676,679,682],{"title":662,"url":663},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":665,"url":666},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":668,"url":669},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":671,"url":672},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":674,"url":675},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":677,"url":678},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":680,"url":681},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":683,"url":684},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[108,109,110],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":692,"published":507,"minutes":693,"category":7,"tags":694,"keywords":699,"about":710,"sources":720,"cover":741,"og":742,"expertise":106,"locales":743,"lang":110,"title":744,"description":745,"coverAlt":746},"llm-batch-api-offline-workloads",9,[695,696,636,697,698],"Batch API","Cost","Prompt caching","Data pipelines",[700,701,702,703,704,705,706,707,708,709],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[711,714,717],{"name":712,"url":713},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":715,"url":716},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":718,"url":719},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[721,724,726,727,730,733,735,738],{"title":722,"url":723},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":725,"url":596},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":683,"url":684},{"title":728,"url":729},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":731,"url":732},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":734,"url":602},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":736,"url":737},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":739,"url":740},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[108,109,110],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261158950]