[{"data":1,"prerenderedAt":641},["ShallowReactive",2],{"blog-arize-phoenix-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":31,"cover":59,"og":60,"expertise":61,"locales":62,"lang":65,"title":66,"description":67,"coverAlt":68,"metaTitle":69,"takeaways":70,"faq":76,"toc":89,"blocks":114,"others":400},"arize-phoenix","2026-07-03",10,"llmops",[9,10,11,12,13],"LLM observability","Tracing","OpenTelemetry","Self-hosted","Evaluation",[15,16,17,18,19,20,21],"arize phoenix","phoenix arize self-hosted","arize phoenix docker","llm tracing opentelemetry","phoenix vs langfuse","openinference instrumentation","llm observability tools",[23,26,28],{"name":24,"url":25},"Arize Phoenix","https:\u002F\u002Fgithub.com\u002FArize-ai\u002Fphoenix",{"name":11,"url":27},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenTelemetry",{"name":29,"url":30},"Observability (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FObservability_(software)",[32,35,38,41,44,47,50,53,56],{"title":33,"url":34},"Arize Phoenix: open-source AI observability and evaluation","https:\u002F\u002Fphoenix.arize.com",{"title":36,"url":37},"Phoenix documentation: self-hosting","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Fself-hosting",{"title":39,"url":40},"Phoenix documentation: licence, Elastic License 2.0","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Fself-hosting\u002Flicense",{"title":42,"url":43},"Phoenix documentation: architecture, storage and scaling","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Fself-hosting\u002Farchitecture",{"title":45,"url":46},"Phoenix documentation: setup tracing","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Ftracing\u002Fhow-to-tracing\u002Fsetup-tracing",{"title":48,"url":49},"Phoenix documentation: OpenTelemetry SDK setup","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Ftracing\u002Fhow-to-tracing\u002Fsetup-tracing\u002Fsetup-using-phoenix-otel",{"title":51,"url":52},"Arize pricing: AX Free, AX Pro and AX Enterprise","https:\u002F\u002Farize.com\u002Fpricing\u002F",{"title":54,"url":55},"Langfuse pricing: cloud plans and billable units","https:\u002F\u002Flangfuse.com\u002Fpricing",{"title":57,"url":58},"LangChain pricing: LangSmith plans","https:\u002F\u002Fwww.langchain.com\u002Fpricing","\u002Fimages\u002Fblog\u002Farize-phoenix\u002Fcover.webp","\u002Fimages\u002Fblog\u002Farize-phoenix\u002Fog.jpg","ai-engineer",[63,64,65],"en","de","hu","Arize Phoenix teszt: LLM-tracing és értékelés saját szerveren","Az Arize Phoenix ELv2 licencű tracing- és értékelő-szerver, amit saját adatbazon futtat. Mit tud, mibe kerül az üzemeltetés, és hol verik le a Langfuse, a Braintrust és a LangSmith.","Három csökkenő szélességű sáv egy hengeren, mindegyik végén kis kör.","Arize Phoenix: tracing saját kézben · Balázs Csorba",[71,72,73,74,75],"A Phoenix ingyenes, span-korlát és feature-gate nélkül: az Elastic License 2.0 a teljes self-hosted platformra vonatkozik, a fizetős mérőóra pedig az Arize AX, nem a Phoenix.","A deployolás egy konténer plusz adatbázis, alapból SQLite-szal, termelésben PostgreSQL 14 vagy újabb, az architektúra-dokumentáció pedig azt mondja: egy példány egy tenant.","A bevétel szabványos OTLP-n történik OpenInference-attribútumokkal, így az exportere cserélhető, nem kell saját SDK a kérés útvonalára.","Az Arize AX Free havi 25 000 spant és 1 GB-ot enged 15 napos megőrzéssel, az AX Pro pedig havi 50 dollár 50 000 spanért, 10 GB-ért és 30 napért.","Az ár csere: nincs támogatási szerződés, nincs rendelkezésre állási vállalás és nincs multi-tenancy az AX Enterprise alatt, a megőrzés, a backup és a hozzáférés-kezelés az üzemeltetőnél marad.",[77,80,83,86],{"q":78,"a":79},"Tényleg ingyenes az Arize Phoenix?","A self-hosted platform ingyenes az Elastic License 2.0 alatt, span-korlát, fogyasztásmérés és feature-gate nélkül; csak az infrastruktúra költségét fizeted, amin fut. A licenc tiltja, hogy harmadik fél számára hosztolt vagy kezelt szolgáltatásként kínáld a Phoenixet. Fizetős tarifák csak az Arize AX-ban vannak: Free 0 dollárért, Pro havi 50 dollárért, Enterprise egyedi áron.",{"q":81,"a":82},"Milyen adatbázist használ a Phoenix?","Alapból SQLite-ot a munkakönyvtárban, ez egyetlen fejlesztőnek elegendő. Termeléshez az architektúra-dokumentáció PostgreSQL-t ajánl, legalább 14-es verzióval, adatbázis-URL környezeti változóval állítva. Több példány futhat egy adatbázison load balancer mögött, vagy a csapatokat külön adatbázissal, illetve külön PostgreSQL-sémával lehet elszigetelni.",{"q":84,"a":85},"Hogyan kapja a Phoenix a trace-eket?","Az alkalmazások OTLP-n exportálják a spaneket az OpenInference szemantikájával, Pythonban a phoenix.otel.register segítségével, Node-ban a TypeScript csomaggal. A szerver helyileg a 6006-os porton válaszol, az auto_instrument=True pedig bekapcsolja a környezetben telepített OpenInference instrumentor csomagokat.",{"q":87,"a":88},"Phoenix vagy Langfuse?","A Phoenix akkor a választás, ha a trace-eknek a saját hálózaton kell maradniuk, air-gapped környezetben is, mert a verzió semmit sem küld az Arize felé, és nincs fogyasztásmérés. A Langfuse akkor, ha a csapat egy karbantartott platformot akar prompt menedzsmenttel és 29 dolláros cloud tarifával, ahelyett hogy maga üzemeltetné a rendszert.",[90,93,96,99,102,105,108,111],{"id":91,"title":92},"what-it-is","Mi ez",{"id":94,"title":95},"how-it-works","Hogyan működik",{"id":97,"title":98},"getting-started","Első lépések",{"id":100,"title":101},"self-hosting","Self-hosting gyakorlatban",{"id":103,"title":104},"pricing","Mennyibe kerül",{"id":106,"title":107},"where-it-shingles","Hol akad",{"id":109,"title":110},"verdict","Ítélet",{"id":112,"title":113},"sources","Források",[115,119,122,125,132,150,153,154,157,163,170,171,182,184,195,209,210,217,232,235,236,239,277,280,281,284,330,333,338,339,342,354,360,361],{"type":116,"content":117},"paragraph",[118],"Az Arize Phoenix egy nyílt forrásszerver, amely rögzíti, mit tett egy LLM-alkalmazás — minden promptot, minden lépési visszakeresést, minden eszközhívást és minden token —, majd ezeket pontozza. Egyetlen paranccsal indul a laptopon, vagy a saját Kubernetes-klaszteredbe kerül, a licenc pedig semmin sem állít mérőt. Ennek az értékelésnek az álláspontja nyers: a Phoenix a legrövidebb út ahhoz, hogy a trace-adatok a saját hálózaton maradjanak, az ár pedig az, hogy magad üzemeltet egy observability-rendszert.",{"type":116,"content":120},[121],"Az alkalmazás SDK-ja és a dashboard között ül, ugyanzt a helyet veszi el a Langfuse-tól, a Braintrust-tól és a LangSmith-től, és az Arize saját AX cloudja is ugyanoda pályázik, a csapatoknak, akik inkább számlát küldenek, mintsem adatbázist üzemeltetnek. Általában rosszabbat vált ki: logdömpinget, egy senki által nem nyitott dashboardot és egy táblázatot az értékelési eredményekkel.",{"type":123,"level":124,"id":91,"text":92},"heading",2,{"type":116,"content":126},[127,128,131],"A Phoenix egy három részből álló konténerizált alkalmazás — webfelület, trace-collector és SQL-háttér —, amelyet az Arize az Elastic License 2.0 alatt ad ki. A Python-csomag ",{"tag":129,"children":130},"code",[4],", 2026 elején 20.19.0-s verzióban, Python 3.11 vagy újabb kell hozzá, a tároló pedig alig több mint 11 700 csillagot számlál. Minden benne van az ingyenes verzióban: tracing, annotáció, datasetek, kísérletek, prompt-IDE és LLM-as-a-judge értékelés.",{"type":133,"ordered":134,"items":135},"list",false,[136,138,140,142,144,146,148],[137],"Licenc: Elastic License 2.0 (ELv2), szabadon self-hostelhető, használati korlát és feature-gate nélkül",[139],"Bevétel: OTLP az OpenInference szemantikájával, auto-instrumentációs csomagokkal a szolgáltatókhoz és keretrendszerekhez",[141],"Tárolás: alapból SQLite, termelésben PostgreSQL 14 vagy újabb, ugyanazzal a SQL-sémával",[143],"Deployolás: terminál, Docker, Kubernetes, Helm, CloudFormation és one-click sablonok Railwayhez, Renderhez, Cloud Runhoz és Azure-hoz",[145],"Kör: trace-ek és sessionök, annotációk, datasetek, kísérletek, prompt-verziók, kód-alapú scorerok és LLM-as-a-judge",[147],"Tenancy: egy példány egy tenant, OAuth2-val, LDAP-dal, helyi fiókokkal és szerepalapú hozzáférés-kezeléssel ugyanabban a buildben",[149],"Cloud-pár: az Arize AX, ahol a támogatás, a rendelkezésre állási vállalás és a multi-tenancy lakik",{"type":116,"content":151},[152],"Egy olyan csapatnak, amelynek ügyfele vagy felügyelete nem engedi, hogy a trace-ek elhagyják az országot, ez a lista önmagában a rövidlista. Mindenki másnak ez csere: a teljes termék nulla forintba kerül, és azok a feladatok, amiket egyébként a szállító végezne — megőrzés, backup, frissítés, és az a kérdés, hogy ki hívják fel, ha leáll a collector — a te felelősséged lesz.",{"type":123,"level":124,"id":94,"text":95},{"type":116,"content":155},[156],"Az instrumentált folyamat spaneket küld egy OpenTelemetry exportere felé, a Phoenix OTLP-n a 6006-os porton fogadja őket, SQL-be írja, és projektekbe, sessionökbe és trace-ekbe rendezi. Minden span OpenInference-attribútumokat hordoz a tokenekről, költségről, modellről, visszakeresési payloadokról és eszközargumentumokról — ezért tudja később a scorer a teljes lefutást olvasni, és nem csak a végső stringet.",{"type":158,"src":159,"alt":160,"wide":161,"caption":162},"image","\u002Fimages\u002Fblog\u002Farize-phoenix\u002Fdiagram-8.webp","Hogyan jut el a trace a Phoenixhez, és hogyan tér vissza kísérletként Egy instrumentált agent-alkalmazás spaneket küld OpenTelemetry exporteren és OpenInference-instrumentáláson át a Phoenix collectorára a 6006-os porton. A collector SQLite-ba vagy PostgreSQL-be ír, és ugyanezt az adatot szolgálja ki a felületen. Egy visszaút a trace-eket datasetekbe, kísérletekbe és scorerokba viszi, amelyek az alkalmazás következő módosításához futnak be.",true,"Egy példányban van collector, tárolás és felület; az értékelési hurk ugyanazokat a sorokat olvassa, amiket a felület mutat.",{"type":116,"content":164},[165,166,169],"Ezután az a hurok fut, amit az Arize közzétesz: megfigyelni, annotálni, hipotézist állítani, kísérletezni, mérni. A termelési trace datasetsorrá válik, egy jelölt prompt kísérletként fut a dataset ellen, és a scorerok — beépített, kód-alapú vagy judge-alapú — pontokat fűznek azokhoz a rekordokhoz, amiket a felület amúgy is mutat. A dokumentáció a PXI-t is leírja, egy agent felületet problémák vizsgálatához és kísérletek futtatásához a rögzített trace-ek fölött, továbbá az agenttel támogatott ",{"tag":129,"children":167},[168],"px setup"," parancsot, ami egy valódi trace-ig vár, mielőtt sikert jelentene.",{"type":123,"level":124,"id":97,"text":98},{"type":116,"content":172},[173,174,177,178,181],"Két parancs. A szerver egyetlen Python-hívás, ",{"tag":129,"children":175},[176],"uvx arize-phoenix serve",", amely a http:\u002F\u002Flocalhost:6006 címen üres projekttel válaszol. Az oldalon ",{"tag":129,"children":179},[180],"arize-phoenix-otel"," és az OpenInference instrumentor áll az alkalmazásban amúgy is használt SDK mellé:",{"type":129,"code":183},"# 1. terminál: uvx arize-phoenix serve  ->  UI: http:\u002F\u002Flocalhost:6006\n# pip install \"arize-phoenix-otel>=0.16.0\" openinference-instrumentation-openai\nfrom phoenix.otel import register\n\nregister(\n    project_name=\"support-agent\",\n    auto_instrument=True,\n    endpoint=\"http:\u002F\u002Flocalhost:6006\u002Fv1\u002Ftraces\",\n)\n\nfrom openai import OpenAI\n\nclient = OpenAI()\nreply = client.responses.create(\n    model=\"gpt-5-mini\",\n    input=\"Summarise this ticket in one sentence.\",\n)\nprint(reply.output_text)",{"type":116,"content":185},[186,187,190,191,194],"A visszatérő érték egy valós spanekkel teli projekt: bemenet, kimenet, modell, token-számok, késleltetés és az eszközhívások egymásba ágyazása az agent-turn alatt, amely kiváltotta őket. A ",{"tag":129,"children":188},[189],"register()"," hívás beolvassa a ",{"tag":129,"children":192},[193],"PHOENIX_COLLECTOR_ENDPOINT"," értékét, ha az be van állítva, így ugyanaz a kód éri el a laptopot, a közös staging szervert vagy az air-gapped környezetet módosítás nélkül.",{"type":196,"variant":197,"title":198,"body":199},"callout","tip","Az auto_instrument nem telepít semmit",[200],[201,204,205,208],{"tag":129,"children":202},[203],"register(auto_instrument=True)"," csak azokat az OpenInference instrumentor csomagokat kapcsolja be, amelyek már telepítve vannak a környezetben: ",{"tag":129,"children":206},[207],"pip install openinference-instrumentation-openai",", továbbá a langchain, anthropic és llama-index megfelelői, minden olyan keretrendszernél, amelynek meg kell jelennie a trace-ben. Ha kimarad egy, az a réteg csendben hiányzik majd, nem hangosan hibás.",{"type":123,"level":124,"id":100,"text":101},{"type":116,"content":211},[212,213,216],"A dokumentáció air-gapped telepítést ígér: a nyílt verzió semmit sem küld az Arize felé, a trace-ek, promptok és datasetek pedig a saját infrastruktúrában maradnak. A követelés mögött egy konténer és egy adatbázis áll, a munkakönyvtár vagy a ",{"tag":129,"children":214},[215],"PHOENIX_SQL_DATABASE_URL"," az egyetlen stateful rész, amit érdemes backup-ütemezésbe tenni.",{"type":133,"ordered":134,"items":218},[219,224,226,228,230],[220,221,223],"Tárolás: alapból SQLite a munkakönyvtárban; a ",{"tag":129,"children":222},[215]," beállítása PostgreSQL-re vált, minimálisan támogatott verzió 14",[225],"Képek: arizephoenix\u002Fphoenix a Docker Hubon latest, rögzített verziós, nonroot és debug taggel, külön arizephoenix\u002Fphoenix-helm charttal",[227],"Hitelesítés: OAuth2, LDAP és helyi fiókok, szerepalapú hozzáférés-kezeléssel és projektenkénti megőrzési szabályokkal",[229],"Skálázás: több példány load balancer mögött egy adatbázison, vagy csapatonként egy saját adatbázisos példány",[231],"Elszigetelés: a séma-beállítás egy adatbázist oszt meg csapatok között, sorok megosztása nélkül",{"type":116,"content":233},[234],"Két korlátot érdemes tudni az első termelési hét előtt. Egy példány egy tenant, a csapatok elszigetelése tehát több deployolást jelent, a csoport-alapú multi-tenancy pedig nem készült el, csak tételként szerepel a issue-trackerekben 2026-ra. A SQLite emellett a fejlesztői adatbázis: az architektúra-oldal a termelési forgalmat PostgreSQL-re tereli, így a backup, a migráció és a connection pooling a te oszlopodba kerül.",{"type":123,"level":124,"id":103,"text":104},{"type":116,"content":237},[238],"A Phoenixnek nincs ára. A self-hosting oldal nem számít licencdíjat, használati korlátot és feature-gate-et, a havi költség tehát a gép, az adatbázis és az, aki karbantartja. A kereskedelmi felület az Arize AX, egy külön, kezelt termék, amelynek ingyenes szintje az értékeléshez elég, az Pro szintje pedig az első valódi számla:",{"type":240,"head":241,"rows":250},"table",[242,244,246,248],[243],"Tarifa",[245],"Ár",[247],"Spanek és tárhely",[249],"Megőrzés",[251,260,269],[252,254,256,258],[253],"AX Free",[255],"0 dollár",[257],"25 000 span és 1 GB havonta",[259],"15 nap",[261,263,265,267],[262],"AX Pro",[264],"havi 50 dollár",[266],"50 000 span és 10 GB havonta",[268],"30 nap",[270,272,274,276],[271],"AX Egyedi",[273],"Egyedi",[275],"Egyedi span- és volumenkorlátok",[273],{"type":116,"content":278},[279],"Az első két szintet az Arize üzemelteti, és az ártáblázat a self-hostinget csak az AX Enterprisehoz sorolja. A mezőn belül az ingyenes self-hosted út a kivétel: a Langfuse ingyenes cloudja havi 50 000 egységre van korlátozva, a Braintrust 1 GB-ra, a LangSmith 5 000 trace-re, míg a korlátlan Phoenix egy gépbe kerül. A csapda a másik végén van — a dedikált támogatás és a rendelkezésre állási vállalás Enterprise-tételek, aki másra akarja bízni a rendelkezésre állást, 50 dollárért nem kapja meg.",{"type":123,"level":124,"id":106,"text":107},{"type":116,"content":282},[283],"A Phoenix azt kéri, hogy legyél a saját observability-szállítód, és ez látszik is. A megőrzés az, amit beállítasz, a bevételi térfogat az, amit a lemez elbír, és a nyílt verzióban sincs támogatási szerződés és rendelkezésre állási vállalás. Az SQL-háttér ráadásul nem analitikus motor: az architektúra-oldal a nagy volumenű, másodperc alatti OLAP-munkát az Arize tulajdonos adatbázisába, az adb-be tereli, amely csak az AX-ben létezik. A projekt gyorsan szállít, ami a feature-eknek jó és az upgrade-ablak rögzítésénél kényelmetlen, a kifinomult hosting-extrák — kezelt agentek, hibajelzés, repo-hozzáférés — pedig AX-tételek, nem Phoenix-tételek.",{"type":240,"head":285,"rows":294},[286,288,290,292],[287],"Eszköz",[289],"Ingyenes szint",[291],"Első fizetős szint",[293],"Self-hosting",[295,303,312,321],[296,297,299,301],[24],[298],"Nincs span-korlát, helyi telepítés",[300],"AX Pro havi 50 dollár",[302],"Ingyenes, ELv2",[304,306,308,310],[305],"Langfuse",[307],"50 000 egység, 30 nap, 2 felhasználó",[309],"Core havi 29 dollár",[311],"Ingyenes, Docker Compose",[313,315,317,319],[314],"Braintrust",[316],"1 GB, 10 000 pontszám, 14 nap",[318],"Pro havi 249 dollár",[320],"Csak Enterprise",[322,324,326,328],[323],"LangSmith",[325],"1 ülőhely, 5 000 alap-trace",[327],"Plus 39 dollár ülőhelyenként",[329],"Enterprise kiegészítő",{"type":116,"content":331},[332],"Ne funkciószám, hanem megkötés szerint válassz. Ha az adatmegfelelés a feltétel, a Phoenix vagy a self-hostelt Langfuse a válasz, a Braintrust pedig csak az értékesítés bevonása után jöhet szóba. Ha a számla fontosabb az adatsíknál, a 29 dolláros Langfuse Core aláírja az AX Prót, és még prompt menedzsmentet is hoz. Ha a CI-ban futó értékelés a valódi feladat, egy scorer-könyvtár és egy kész eval-action rövidebb út, mint itt az alkatrészeket összerakni.",{"type":334,"content":335},"quote",[336,337],"A szoftvert harmadik felek számára nem nyújthatja át hosztolt vagy kezelt szolgáltatásként, ha a szolgáltatás a felhasználók számára a szoftver funkcióinak lényeges részéhez biztosít hozzáférést."," — Elastic License 2.0, korlátozások",{"type":123,"level":124,"id":109,"text":110},{"type":116,"content":340},[341],"A Phoenix a jó alapértelmezés olyan csapatnak, amely nem exportálhatja a trace-eket, és van valaki, aki szívesen üzemeltet Postgrest. Rossz választás olyan csapatnak, amely ezen a héten akar értékelési platformot infrastruktúra-beszélgetés nélkül, mert a tárolás, a megőrzés, a hozzáférés-kezelés és a frissítés valódi munka, akár ingyenes a licenc.",{"type":133,"ordered":161,"items":343},[344,346,348,350,352],[345],"Válaszd, ha a trace-adatoknak a saját hálózaton kell maradniuk, air-gapped környezetben is: a nyílt verzió semmit sem küld az Arize felé.",[347],"Válaszd, ha a költségmodell fontosabb a feature-listánál: nincs span-korlát, nincs ülőhely-díj, nincs bevételi mérés.",[349],"Válaszd, ha az OpenTelemetry már a ház szabványa, mert a bevétel OTLP, és az exportere cserélhető, az alkalmazás érintése nélkül.",[351],"Ne válassz, ha több bérlős hosting kell rendelkezésre állási vállalással és belépő áron: az AX Pro csak hosztolt, a szerződések az Enterprise-nál kezdődnek.",[353],"Ne válassz, ha a CI-ban futó értékelés a fő feladat, vagy ha senki sem akar adatbázist birtokolni a csapatban.",{"type":196,"variant":355,"title":356,"body":357},"note","Ingyenesség elindulni nem ugyanaz, mint ingyenesség üzemeltetni",[358],[359],"A licencszámla elmarad, az üzemeltetési viszont nem: egy adatbázis, egy megőrzési szabály, egy upgrade-naptár és egy felelős. Aki ezt beállítja, a kategória legjobb üzletét kapja. Aki kihagyja, olyan trace-ekkel és olyan dashboardtal marad, aminek senki nem hisz és senki nem nyitja meg.",{"type":123,"level":124,"id":112,"text":113},{"type":133,"ordered":161,"items":362},[363,368,372,376,380,384,388,392,396],[364],{"tag":365,"href":34,"children":366},"a",[367],"Arize Phoenix: nyílt forrássú observability és értékelés",[369],{"tag":365,"href":37,"children":370},[371],"Phoenix dokumentáció: self-hosting",[373],{"tag":365,"href":40,"children":374},[375],"Phoenix dokumentáció: licenc, Elastic License 2.0",[377],{"tag":365,"href":43,"children":378},[379],"Phoenix dokumentáció: architektúra, tárolás és skálázás",[381],{"tag":365,"href":46,"children":382},[383],"Phoenix dokumentáció: tracing beállítása",[385],{"tag":365,"href":49,"children":386},[387],"Phoenix dokumentáció: OpenTelemetry SDK beállítása",[389],{"tag":365,"href":52,"children":390},[391],"Arize árak: AX Free, AX Pro és AX Enterprise",[393],{"tag":365,"href":55,"children":394},[395],"Langfuse árak: cloud tarifák és számlázható egységek",[397],{"tag":365,"href":58,"children":398},[399],"LangChain árak: LangSmith tarifák",[401,458,525,585],{"slug":402,"published":403,"minutes":404,"category":7,"tags":405,"keywords":411,"about":425,"sources":433,"cover":452,"og":453,"expertise":61,"locales":454,"lang":65,"title":455,"description":456,"coverAlt":457},"deepseek-v4-1-flash-1017","2026-10-17",15,[406,407,408,409,410],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[412,413,414,415,416,417,418,419,420,421,422,423,424],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[426,428,430],{"name":406,"url":427},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":409,"url":429},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":431,"url":432},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[434,437,440,443,446,449],{"title":435,"url":436},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":438,"url":439},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":441,"url":442},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":444,"url":445},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":447,"url":448},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":450,"url":451},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[63,64,65],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":459,"published":403,"minutes":6,"category":7,"tags":460,"keywords":466,"about":478,"sources":488,"cover":519,"og":520,"expertise":61,"locales":521,"lang":65,"title":522,"description":523,"coverAlt":524},"llm-rate-limits-retries-provider-fallback",[461,462,463,464,465],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[467,468,469,470,471,472,473,474,475,476,477],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[479,482,485],{"name":480,"url":481},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":483,"url":484},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":486,"url":487},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[489,492,495,498,501,504,507,510,513,516],{"title":490,"url":491},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":493,"url":494},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":496,"url":497},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":499,"url":500},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":502,"url":503},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":505,"url":506},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":508,"url":509},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":511,"url":512},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":514,"url":515},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":517,"url":518},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[63,64,65],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":526,"published":403,"minutes":527,"category":7,"tags":528,"keywords":533,"about":544,"sources":554,"cover":579,"og":580,"expertise":61,"locales":581,"lang":65,"title":582,"description":583,"coverAlt":584},"prompt-versioning-management",8,[529,530,531,532,305],"Prompt management","Versioning","LLMOps","Evals",[534,535,536,537,538,539,540,541,542,543],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[545,548,551],{"name":546,"url":547},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":549,"url":550},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":552,"url":553},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[555,558,561,564,567,570,573,576],{"title":556,"url":557},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":559,"url":560},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":562,"url":563},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":565,"url":566},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":568,"url":569},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":571,"url":572},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":574,"url":575},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":577,"url":578},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[63,64,65],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":586,"published":403,"minutes":587,"category":7,"tags":588,"keywords":593,"about":604,"sources":614,"cover":635,"og":636,"expertise":61,"locales":637,"lang":65,"title":638,"description":639,"coverAlt":640},"llm-batch-api-offline-workloads",9,[589,590,531,591,592],"Batch API","Cost","Prompt caching","Data pipelines",[594,595,596,597,598,599,600,601,602,603],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[605,608,611],{"name":606,"url":607},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":609,"url":610},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":612,"url":613},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[615,618,620,621,624,627,629,632],{"title":616,"url":617},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":619,"url":491},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":577,"url":578},{"title":622,"url":623},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":625,"url":626},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":628,"url":497},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":630,"url":631},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":633,"url":634},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[63,64,65],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261159689]