[{"data":1,"prerenderedAt":623},["ShallowReactive",2],{"blog-braintrust-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":21,"sources":31,"cover":56,"og":57,"expertise":58,"locales":59,"lang":62,"title":63,"description":64,"coverAlt":65,"metaTitle":66,"takeaways":67,"faq":73,"toc":86,"blocks":111,"others":384},"braintrust","2026-07-07",10,"llmops",[9,10,11,12,13],"Evaluations","Observability","LLM-as-a-judge","CI gates","Tracing",[4,15,16,17,18,19,20],"braintrust pricing","braintrust eval","autoevals library","braintrust vs langfuse","llm evaluation platform","eval driven development",[22,25,28],{"name":23,"url":24},"Braintrust","https:\u002F\u002Fwww.braintrust.dev",{"name":26,"url":27},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",{"name":29,"url":30},"Observability (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FObservability_(software)",[32,35,38,41,44,47,50,53],{"title":33,"url":34},"Braintrust pricing: plans, credits and usage rates","https:\u002F\u002Fwww.braintrust.dev\u002Fpricing",{"title":36,"url":37},"Braintrust documentation: plans and limits","https:\u002F\u002Fwww.braintrust.dev\u002Fdocs\u002Fplans-and-limits",{"title":39,"url":40},"Braintrust documentation: evaluation quickstart","https:\u002F\u002Fwww.braintrust.dev\u002Fdocs\u002Fevaluation-quickstart",{"title":42,"url":43},"Braintrust documentation: get started","https:\u002F\u002Fwww.braintrust.dev\u002Fdocs",{"title":45,"url":46},"GitHub: Braintrust organisation repositories","https:\u002F\u002Fgithub.com\u002Forgs\u002Fbraintrustdata\u002Frepositories",{"title":48,"url":49},"Arize Phoenix documentation: self-hosting","https:\u002F\u002Farize.com\u002Fdocs\u002Fphoenix\u002Fself-hosting",{"title":51,"url":52},"Langfuse pricing: cloud plans and billable units","https:\u002F\u002Flangfuse.com\u002Fpricing",{"title":54,"url":55},"LangChain pricing: LangSmith plans","https:\u002F\u002Fwww.langchain.com\u002Fpricing","\u002Fimages\u002Fblog\u002Fbraintrust\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fbraintrust\u002Fog.jpg","ai-engineer",[60,61,62],"en","de","hu","Braintrust teszt: eval-first observability kemény mérőórával","A Braintrust a termelési trace-ekből datasetet és gate-elt kísérleteket csinál. Mit ad a Starter és a Pro, mi a nyílt forrás, és hol erősebb a Phoenix, a Langfuse és a LangSmith.","Széles nyíl rendez egy sorba szétszórt négyzeteket, majd egy nyíl átkel egy kapun.","Braintrust: eval-first observability · Balázs Csorba",[68,69,70,71,72],"A Starter valóban használható, de kicsi: 1 GB feldolgozott adat, 10 000 pontszám és 14 nap megőrzés, utána a Pro havi 249 dollár 5 GB-ért, 50 000 pontszámért és 30 napért.","A feldolgozott adatot bevételnél mérik, a trace-ek törlése tehát nem csökkenti a számlát, a túlfutás pedig Starteren gigabájtonként 4 dollár, Pron gigabájtonként 3 dollár.","A platform zárt forrássú, az eszközök nyíltak: hat nyelvi SDK Apache-2.0 alatt, autoevals MIT-tel, bt CLI Apache-2.0-val.","A BYOC és a self-hosting Enterprise-t kér, a SAML SSO, az audit naplózás, az egyéni megőrzés és a SOC 2 tanúsítvány szintén Enterprise-tételek.","0 és 249 dollár között nincs szint, ezért a Braintrust olcsó egyedüli értékelési projektnél, és drága annak a csapatnak, amely csak dashboardokat akart.",[74,77,80,83],{"q":75,"a":76},"Mennyibe kerül a Braintrust?","A Starter 0 dollár, 10 dollár modell-egyenleggel, 1 GB feldolgozott adattal, 10 000 pontszámmal és 14 napos megőrzéssel, korlátlan felhasználóval, projekttel, datasettel, playgrounddal és kísérlettel. A Pro havi 249 dollár 100 dollár egyenlegért, 5 GB-ért, 50 000 pontszámért, 30 napos megőrzésért, egyedi chartokért, környezetekért, RBAC-ért és kiemelt támogatásért. Az Enterprise egyedi áras, és hozzáadja a BYOC-ot, a self-hostinget, a SAML vagy OIDC belépést, az audit naplózást, a BAA-t és a rendelkezésre állási SLA-t.",{"q":78,"a":79},"Nyílt forrássú a Braintrust?","A platform nem, az eszközök jelentős része igen. A Python, TypeScript, Go, Ruby, Java és C# SDK-k Apache-2.0 alatt futnak, az autoevals MIT alatt, körülbelül ezer GitHub-csillaggal, a braintrust-proxy MIT-tel, az agentbehavior szabvány pedig Apache-2.0 alatt. A szolgáltatás self-hostelt változata az Enterprise tarifáig nem létezik.",{"q":81,"a":82},"Mit számít pontszámnak az árlista?","A pontszám egy rögzített értékelési eredmény, legyen az LLM-as-a-judge hívás, autoevals scorer vagy saját kód, amely egy trace-hez vagy kísérletsorhoz kapcsolódik. A Starter havi 10 000-et ad, majd 2,50 dollárt kér ezerenként; a Pro 50 000-et ad, majd 1,50 dollárt ezerenként. A judge-alapú értékelés dataseten gyorsan felszaporodik, ezért a pontszám-limit gyakran hamarabb kifogy, mint maguk az adatok.",{"q":84,"a":85},"Braintrust vagy Arize Phoenix?","Braintrust, ha az értékelésnek a CI-ben a helye, és a platformdíj elfogadható: az Eval API, a scorer-könyvtár és az eval-action egyetlen integráció. Phoenix, ha a trace-ek nem hagyhatják el a saját infrastruktúrát, mert a Braintrust BYOC-ja és self-hostingje Enterprise-szerződést kér, míg a Phoenix az Elastic License 2.0 alatt szabadon self-hostelhető.",[87,90,93,96,99,102,105,108],{"id":88,"title":89},"what-it-is","Mi ez",{"id":91,"title":92},"how-it-works","Hogyan működik",{"id":94,"title":95},"getting-started","Első lépések",{"id":97,"title":98},"pricing","Mennyibe kerül",{"id":100,"title":101},"open-or-closed","Mi nyílt és mi nem",{"id":103,"title":104},"where-it-shingles","Hol akad",{"id":106,"title":107},"verdict","Ítélet",{"id":109,"title":110},"sources","Források",[112,121,124,127,130,148,151,152,159,165,168,169,176,178,185,192,193,196,241,244,250,251,254,266,269,270,273,319,322,327,328,331,343,348,349],{"type":113,"content":114},"paragraph",[115,116,120],"A Braintrust egy hosztolt platform, amely instrumentál egy LLM-alkalmazást, eltárolja a trace-jeit, és datasetek ellen pontozza őket, olyan formában, ami megismételhető. A súlypontja az értékelés: egy ",{"tag":117,"children":118},"code",[119],"Eval()"," hívás, amely feladatot futtat egy dataset fölött, pontozza a kimeneteket, és minden lefutást összehasonlítható kísérletként tárol. Ennek az értékelésnek az álláspontja: a Braintrust a kategóriájának legerősebb eval-first terméke, és a legjobban megmért a versenytársai közül — a technika kiváló, a számlázás pedig azokat a csapatokat jutalmazza, akik pontosan tudják, mennyi adatot szándékoznak küldeni.",{"type":113,"content":122},[123],"Három feladatot fed le, amit máskülönben szétosztanának eszközök között: tracing a termelésben, offline értékelés, és a köztük lévő gate a folyamatos integrációban. Az Arize Phoenix és a Langfuse a nyílt forrássú oldalon versenyez, a LangSmith azokkal, akik már LangGraph-ra építenek. Általában rosszabbat vált ki: egy tesztkészletet, amely hívja a modellt, pontszámot nyomtat a stdout-ra, és akkor törlődik, amikor elkezd szétesni.",{"type":125,"level":126,"id":88,"text":89},"heading",2,{"type":113,"content":128},[129],"A Braintrust a Braintrust Data SaaS-terméke, három objektumra építve: logok, amelyek az alkalmazás trace-jei; datasetek, amelyek bemeneti és elvárt kimeneti sorok; és kísérletek, amelyek feladatot futtatnak egy dataset fölött, hozzárendelt scorerokkal. A dokumentáció ötlépéses workflowt ír le — instrumentálni, megfigyelni, annotálni, értékelni, kiadni —, és SDK-kat szállít Pythonhoz, TypeScripthez, Go-hoz, Rubyhoz, Javához és C#-höz. Maga a platform zárt forrássú; az eszközök jó része nem az.",{"type":131,"ordered":132,"items":133},"list",false,[134,136,138,140,142,144,146],[135],"Licenc: a platform zárt forrássú; SDK-k Apache-2.0, autoevals MIT, braintrust-proxy MIT",[137],"Instrumentálás: a braintrust.auto_instrument() a folyamatban már futó szolgáltatói klienseket csomagolja, plusz bt CLI az agentes beállításhoz",[139],"Értékelés: Eval() dataset fölött autoevals scorerokkal, saját kóddal vagy LLM-as-a-judge-dal",[141],"Tarifák: Starter 0 dollár, Pro havi 249 dollár, Enterprise egyedi áron, mindhárom korlátlan felhasználóval, projekttel, datasettel és kísérlettel",[143],"Mérés: feldolgozott adat gigabájtban, pontszám ezrenként, modell-egyenleg dollárban",[145],"Deployolás: SaaS a Starteren és a Pron, BYOC és self-hosting csak az Enterprise-ban",[147],"Extrák: playgroundok, környezetek és egyedi chartok Pron felül, továbbá a Loop, egy beépített agent, amely scorerokat, teszteseteket és prompt-iterációkat ír",{"type":113,"content":149},[150],"Ez az utolsó sor az árulkodó jel. A Braintrust abból indul ki, hogy a platform más problémája, az értékelés pedig a tiéd, és az ezt elfogadó csapatok nagyon rövid hurkot kapnak a termelési hibától a datasetsorig, majd a gate-elt kiadásig. Akiknek a teljes rendszernek a saját fiókjukban kell lennie, azok arra jönnek rá, hogy ennek a hurknak az ára egy Enterprise-szerződés, nem a 249 dolláros tarifa.",{"type":125,"level":126,"id":91,"text":92},{"type":113,"content":153},[154,155,158],"Az instrumentálás a folyamatban történik: a ",{"tag":117,"children":156},[157],"braintrust.auto_instrument()"," azt a szolgáltatói klient fűzi be, amelyet az alkalmazás amúgy is használ, így a spanek költségekkel érkeznek, és nem kell sidecart telepíteni. Minden egy projektbe kerül, a logok, a datasetek és a kísérletek pedig ugyanezt a projektet osztják meg — ezért lehet egy termelési trace-et tesztesetté emelni, export nélkül.",{"type":160,"src":161,"alt":162,"wide":163,"caption":164},"image","\u002Fimages\u002Fblog\u002Fbraintrust\u002Fdiagram-8.webp","A Braintrust-hurok a trace-től a gate-elt kiadásig Egy instrumentált alkalmazás trace-eket és költségeiket naplóz egy projektbe. A termelési trace-ek dataset-sorokká válnak, egy kísérlet feladatot futtat a dataset föl scorerokkal, és két lefutás összehasonlítása blokkolja a pull requestet, mielőtt a változás visszakerül az alkalmazásba.",true,"A trace-ek, a datasetek és a kísérletek egy projektet osztanak meg, így termelési hibából lesz teszteset export nélkül.",{"type":113,"content":166},[167],"A különlegesség az összehasonlítás. Egy kísérlet tartós record, a második lefutás pedig új kísérletnéven a felületen össze van vetve az elsővel. A dokumentáció saját quickstartje erre épít: az első lefutás ExactMatch alatt majdnem nulla, mert a modell mondatban válaszol, a promptot szűkítik csupasz címre, és a második kísérlet a növekedést pontszám-deltaként adja meg, nem benyomásként.",{"type":125,"level":126,"id":94,"text":95},{"type":113,"content":170},[171,172,175],"Két kulcs és egy fájl: ",{"tag":117,"children":173},[174],"BRAINTRUST_API_KEY"," a platformhoz, a szolgáltatói kulcs a modellhez, és egy Python-fájl az adatokkal, a feladattal és a scorerrel. Az alábbi részlet a dokumentált quickstart formája az ismétlés nélkül:",{"type":117,"code":177},"# BRAINTRUST_API_KEY és OPENAI_API_KEY környezeti változók\n# pip install braintrust openai autoevals\nimport braintrust\nfrom braintrust import Eval\nfrom autoevals import ExactMatch\nfrom openai import OpenAI\n\nbraintrust.auto_instrument()  # minden hívást naplóz ebben a folyamatban\nclient = OpenAI()\n\ndef task(input):\n    r = client.responses.create(\n        model=\"gpt-5-mini\",\n        input=[{\"role\": \"system\", \"content\": \"Name the film.\"},\n               {\"role\": \"user\", \"content\": input}],\n    )\n    return r.output_text\n\nEval(\n    \"movie-matcher\",\n    experiment_name=\"baseline-v1\",\n    data=[{\"input\": \"A detective hunts a killer through the seven deadly sins.\",\n           \"expected\": \"Se7en\"}],\n    task=task,\n    scores=[ExactMatch],\n)",{"type":113,"content":179},[180,181,184],"Futtasd ",{"tag":117,"children":182},[183],"bt eval movie_matcher.py"," paranccsal, a terminál pedig kiírja a kísérlet linkjét; a sima Python is működik, mert a CLI csak a belépési pontot csomagolja. Ugyanezt a fájlt futtatja a pull request: az eval-action GitHub-workflow a main ellen futtatja, és bukik a build, ha egy pontszám visszaesik.",{"type":186,"variant":187,"title":188,"body":189},"callout","warn","A pontozást kiszámlázzák, nem csak kiszámolják",[190],[191],"Minden scorer-hívás, amely rögzít egy pontszámot, a havi keretből vonul — Starteren 10 000, Pron 50 000 —, és a judge-alapú értékelés is beletartozik, soronként egy modellkéréssel. A scorerokat a valóban fontos hibákra érdemes tartani, mert egy nagy dataset teljes lefutása többe kerülhet, mint amelyik trace előállította.",{"type":125,"level":126,"id":97,"text":98},{"type":113,"content":194},[195],"Három tarifa és nincs középső fok: az árlap a Startert 0 dollárral, a Prot havi 249 dollárral, az Enterprisest egyedi áron sorolja fel, korlátlan felhasználóval, projekttel, datasettel, playgrounddal és kísérlettel mindháromban. Ami eltér, az a mérőóra:",{"type":197,"head":198,"rows":209},"table",[199,201,203,205,207],[200],"Tarifa",[202],"Ár",[204],"Feldolgozott adat",[206],"Pontszám",[208],"Megőrzés",[210,221,232],[211,213,215,217,219],[212],"Starter",[214],"0 dollár",[216],"1 GB, utána 4 dollár\u002FGB",[218],"10 000, utána 2,50 dollár \u002F 1 000",[220],"14 nap",[222,224,226,228,230],[223],"Pro",[225],"havi 249 dollár",[227],"5 GB, utána 3 dollár\u002FGB",[229],"50 000, utána 1,50 dollár \u002F 1 000",[231],"30 nap, utána 0,50 dollár \u002F GB-hó",[233,235,237,238,239],[234],"Enterprise",[236],"Egyedi",[236],[236],[240],"Egyedi, akár 365 nap",{"type":113,"content":242},[243],"Mellette futnak a modell-egyenlegek: havonta 10 dollár Starteren és 100 dolláron Pron a beépített modelleket és a platformfunkciókat, például a Topicsot fedi, utána token-árak érvényesek. A váltás bináris — amelyik csapat kinövi az 1 GB-ot és a 14 napot, a teljes 249 dollárt fizeti, igaz, a dokumentáció jogosult új startup-ügyfeleknek hat-tizenkét hónap Pro-t ad.",{"type":186,"variant":245,"title":246,"body":247},"note","A feldolgozott adatot bevételnél számolják",[248],[249],"A tarifalap világosan megírja: a feldolgozott adat a bevételnél mért bájt, és a törlés nem csökkenti, a zajos trace-ek összehúzása tehát soha nem farag vissza a számlából. A kísérletek eredményeit minden tarifán akár 365 napig őrzik, a logok és a playground-adatok viszont a 14 vagy 30 napos ablakot követik, ez egyben a horizontja annak, amit az alsó tarifák még lekérdezhetnek.",{"type":125,"level":126,"id":100,"text":101},{"type":113,"content":252},[253],"Ez a különbség külön szakaszt érdemel, mert a A Braintrust nyílt forrássú mondat éppen ott hamis, ahol számít: Enterprise alatt nem tudod magad üzemeltetni a platformot. Ami nyílt, az az instrumentálás és az értékelési eszköztár körülötte.",{"type":131,"ordered":132,"items":255},[256,258,260,262,264],[257],"braintrust-sdk-python, -javascript, -go és -ruby: Apache-2.0",[259],"autoevals: MIT, körülbelül ezer csillag, a quickstart által importált scorer-könyvtár",[261],"braintrust-proxy: MIT, proxy a modellforgalom előtt",[263],"agentbehavior: Apache-2.0, nyílt szabvány és dataset az agentek viselkedéséhez",[265],"A bt CLI és a coding-agent pluginok: Apache-2.0 vagy MIT; a hosztolt webalkalmazás nem publikus",{"type":113,"content":267},[268],"Egy engineering-csapatnak ez a különbség a beszerzésig legfeljebb filozófiai, onnantól viszont a vita tárgya. Az elútválasztást is meghatározza: az SDK-k átállíthatók másik backendre az alkalmazás átírása nélkül, de a datasetek, kísérletek és dashboardok a Braintrust szolgáltatásában élnek, az S3-ba vagy Google Cloud Storagebe ütemezett export pedig Enterprise-funkció.",{"type":125,"level":126,"id":103,"text":104},{"type":113,"content":271},[272],"Az első gyengeség a számtan. 0 és 249 dollár között nincs tarifa, az ingyenes szint 1 GB-ja és 14 napja demóköltségvetés egy termelési agentnek, a pontozás pedig a bevételre jön rá, aki tehát minden termelési trace fölött judge-t futtat, a pontszám-keret előbb merül ki, mint az adat. A második, amit az alsó tarifák nem hordoznak: a SAML SSO, az audit naplózás, az egyéni megőrzés, az export-automatizálás, a SOC 2 tanúsítvány és a Business Associate Agreement mind Enterprise-tétel, a Starter pedig korlátozott a tulajdonos-engedélycsoportra és projektenként egy human-review pontszámra. A harmadik a szerződési sodródás: a dokumentáció még mindig hordoz egy régi-tarifa megjegyzést a 2026. március 16. előtt létrehozott fiókokhoz, a régi feltételek alatti értékelést tehát érdemes újracsinálni.",{"type":197,"head":274,"rows":283},[275,277,279,281],[276],"Eszköz",[278],"Ingyenes szint",[280],"Első fizetős szint",[282],"Self-hosting",[284,292,301,310],[285,286,288,290],[23],[287],"1 GB, 10 000 pontszám, 14 nap",[289],"Pro havi 249 dollár",[291],"Csak Enterprise",[293,295,297,299],[294],"Arize Phoenix",[296],"Nincs korlát helyi telepítésnél",[298],"AX Pro havi 50 dollár",[300],"Ingyenes, ELv2",[302,304,306,308],[303],"Langfuse",[305],"50 000 egység, 30 nap, 2 felhasználó",[307],"Core havi 29 dollár",[309],"Ingyenes, Docker Compose",[311,313,315,317],[312],"LangSmith",[314],"1 ülőhely, 5 000 alap-trace",[316],"Plus 39 dollár ülőhelyenként",[318],"Enterprise kiegészítő",{"type":113,"content":320},[321],"Őszintén olvasva a Braintrust és a Phoenix nem ugyanazon a tengelyen versenyez: az egyik olyan csapatokra van árazva, akik értékelési folyamatot vesznek, a másik olyanokra, akik birtokolják az infrastruktúrát. A Langfuse a legközelebbi közvetlen helyettesítő, nagyjából harmadannyi belépő áron, a LangSmith pedig a természetes választás, ha az alkalmazás már LangGraphon ül, és a saját trace-formátumok fontosabbak a scorer-könyvtárnál.",{"type":323,"content":324},"quote",[325,326],"A SaaS minden tarifában elérhető. A BYOC és a self-hostes deployolás, amelyek az adatot a saját felhőben tartják, Enterprise-t igényel."," — Braintrust dokumentáció, tarifák és korlátok",{"type":125,"level":126,"id":106,"text":107},{"type":113,"content":329},[330],"A Braintrust megtérül, ha az értékelés rendszeres engineering-rituálé, és nem egyszeri script: a kísérletmodell, a scorer-könyvtár és a CI-akció egy olyan hurkot ad, amely alkatrészekből összerakni unalmas munka. Rossz választás olyan csapatnak, amelynek fő igénye egy dashboard mögötti traces tárolás, mert az 249 dolláros szokás adatszámlával.",{"type":131,"ordered":163,"items":332},[333,335,337,339,341],[334],"Válaszd, ha egy pull requestnek eval-regresszión kell buknia, és azt akarod, hogy a scorer-könyvtár már meglegyen.",[336],"Válaszd, ha több szerep — fejlesztők, reviewerök, product manager — ugyanazokat a kísérleteket és dashboardokat szeretné; az ülőhelyek minden tarifában korlátlanok.",[338],"Válaszd, ha a volumen kiszámítható: 5 GB és 50 000 pontszám havonta ismert mennyiség, a túlfutási árak pedig nyilvánosak.",[340],"Ne válassz, ha a trace-eknek a saját fiókban kell maradniuk; a BYOC és a self-hosting Enterprise-szerződést kér.",[342],"Ne válassz, ha a terhelés beszédes és korlátlan: a bevételnél mért mérés plusz pontszám-díj drágává tesz egy zajos agentet, az ülőhelyes eszközökkel ellentétben.",{"type":186,"variant":245,"title":344,"body":345},"Ítélet egy mondatban",[346],[347],"Egy fejlesztő fél napos figyelmének áráért a Braintrust azt az értékelési fegyelmet adja, amelyet a legtöbb csapat megépíteni tervez, és soha be nem fejez. Az értékelési hurkért vedd, nem a trace-tárolásért; tárolásra egyedül a self-hostelt Phoenix vagy egy 29 dolláros Langfuse-tarifa ugyanazt a munkát végzi, töredék áron.",{"type":125,"level":126,"id":109,"text":110},{"type":131,"ordered":163,"items":350},[351,356,360,364,368,372,376,380],[352],{"tag":353,"href":34,"children":354},"a",[355],"Braintrust árak: tarifák, egyenlegek és használati díjak",[357],{"tag":353,"href":37,"children":358},[359],"Braintrust dokumentáció: tarifák és korlátok",[361],{"tag":353,"href":40,"children":362},[363],"Braintrust dokumentáció: értékelési quickstart",[365],{"tag":353,"href":43,"children":366},[367],"Braintrust dokumentáció: első lépések",[369],{"tag":353,"href":46,"children":370},[371],"GitHub: Braintrust szervezet tárolói",[373],{"tag":353,"href":49,"children":374},[375],"Arize Phoenix dokumentáció: self-hosting",[377],{"tag":353,"href":52,"children":378},[379],"Langfuse árak: cloud tarifák és számlázható egységek",[381],{"tag":353,"href":55,"children":382},[383],"LangChain árak: LangSmith tarifák",[385,442,509,567],{"slug":386,"published":387,"minutes":388,"category":7,"tags":389,"keywords":395,"about":409,"sources":417,"cover":436,"og":437,"expertise":58,"locales":438,"lang":62,"title":439,"description":440,"coverAlt":441},"deepseek-v4-1-flash-1017","2026-10-17",15,[390,391,392,393,394],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[396,397,398,399,400,401,402,403,404,405,406,407,408],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[410,412,414],{"name":390,"url":411},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":393,"url":413},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":415,"url":416},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[418,421,424,427,430,433],{"title":419,"url":420},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":422,"url":423},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":425,"url":426},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":428,"url":429},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":431,"url":432},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":434,"url":435},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[60,61,62],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":443,"published":387,"minutes":6,"category":7,"tags":444,"keywords":450,"about":462,"sources":472,"cover":503,"og":504,"expertise":58,"locales":505,"lang":62,"title":506,"description":507,"coverAlt":508},"llm-rate-limits-retries-provider-fallback",[445,446,447,448,449],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[451,452,453,454,455,456,457,458,459,460,461],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[463,466,469],{"name":464,"url":465},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":467,"url":468},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":470,"url":471},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[473,476,479,482,485,488,491,494,497,500],{"title":474,"url":475},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":477,"url":478},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":480,"url":481},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":483,"url":484},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":486,"url":487},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":489,"url":490},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":492,"url":493},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":495,"url":496},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":498,"url":499},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":501,"url":502},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[60,61,62],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":510,"published":387,"minutes":511,"category":7,"tags":512,"keywords":517,"about":528,"sources":536,"cover":561,"og":562,"expertise":58,"locales":563,"lang":62,"title":564,"description":565,"coverAlt":566},"prompt-versioning-management",8,[513,514,515,516,303],"Prompt management","Versioning","LLMOps","Evals",[518,519,520,521,522,523,524,525,526,527],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[529,532,535],{"name":530,"url":531},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":533,"url":534},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":26,"url":27},[537,540,543,546,549,552,555,558],{"title":538,"url":539},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":541,"url":542},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":544,"url":545},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":547,"url":548},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":550,"url":551},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":553,"url":554},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":556,"url":557},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":559,"url":560},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[60,61,62],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":568,"published":387,"minutes":569,"category":7,"tags":570,"keywords":575,"about":586,"sources":596,"cover":617,"og":618,"expertise":58,"locales":619,"lang":62,"title":620,"description":621,"coverAlt":622},"llm-batch-api-offline-workloads",9,[571,572,515,573,574],"Batch API","Cost","Prompt caching","Data pipelines",[576,577,578,579,580,581,582,583,584,585],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[587,590,593],{"name":588,"url":589},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":591,"url":592},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":594,"url":595},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[597,600,602,603,606,609,611,614],{"title":598,"url":599},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":601,"url":475},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":559,"url":560},{"title":604,"url":605},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":607,"url":608},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":610,"url":481},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":612,"url":613},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":615,"url":616},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[60,61,62],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261159645]