[{"data":1,"prerenderedAt":614},["ShallowReactive",2],{"blog-promptfoo-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":13,"about":21,"sources":25,"cover":50,"og":51,"expertise":52,"locales":53,"lang":56,"title":57,"description":58,"coverAlt":59,"metaTitle":60,"takeaways":61,"faq":67,"toc":80,"blocks":104,"others":372},"promptfoo","2026-07-07",10,"llmops",[9,10,11,12],"LLM evaluation","Red teaming","Prompt testing","CI\u002FCD",[4,14,15,16,17,18,19,20],"promptfoo vs langsmith","LLM evaluation framework","promptfoo red teaming","promptfooconfig.yaml example","LLM evals in CI","promptfoo pricing","open source LLM testing",[22],{"name":23,"url":24},"Promptfoo","https:\u002F\u002Fwww.promptfoo.dev",[26,29,32,35,38,41,44,47],{"title":27,"url":28},"Promptfoo documentation: intro","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintro\u002F",{"title":30,"url":31},"Promptfoo pricing: plan comparison","https:\u002F\u002Fwww.promptfoo.dev\u002Fpricing",{"title":33,"url":34},"Promptfoo documentation: getting started","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fgetting-started\u002F",{"title":36,"url":37},"Promptfoo documentation: command line usage (exit codes)","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fusage\u002Fcommand-line\u002F",{"title":39,"url":40},"Promptfoo documentation: red team plugins","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fplugins\u002F",{"title":42,"url":43},"Promptfoo documentation: assertions and metrics","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fconfiguration\u002Fexpected-outputs\u002F",{"title":45,"url":46},"Promptfoo repository on GitHub (MIT licence)","https:\u002F\u002Fgithub.com\u002Fpromptfoo\u002Fpromptfoo",{"title":48,"url":49},"Promptfoo blog: Promptfoo is joining OpenAI (9 March 2026)","https:\u002F\u002Fwww.promptfoo.dev\u002Fblog\u002Fpromptfoo-joining-openai\u002F","\u002Fimages\u002Fblog\u002Fpromptfoo\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fpromptfoo\u002Fog.jpg","ai-engineer",[54,55,56],"en","de","hu","Promptfoo: LLM-evalok és red teaming egyetlen YAML-fájlból","Promptfoo 2026: MIT-licencű evalok és red teaming, a projekt 2026 márciusa óta az OpenAI-hoz tartozik. Mi működik jól, hol törik meg a YAML, és mennyibe kerül.","Magas lap szélesebb keretben, öt nyíl öt négyzethez, kettő pajzs alatt.","Promptfoo teszt: evalok és red teaming · Balázs Csorba",[62,63,64,65,66],"A Promptfoo MIT-licencű CLI, amely minőségi evalokat és red teaminget futtat egy YAML-fájlból, a repository pedig a 2026 márciusi felvásárlási bejelentéssel az OpenAI része lett.","A Community szint ingyenes, havi 10 000 red team probe-zal; a dashboard, az egyedi pluginok, az SSO és az API csak Enterprise-ban, egyedi áron van.","A deklaratív tesztesetek az igazi erősség, mert a review olvashatja az eval-változtatást diffként, Python tesztfuttatás nélkül.","A modellértékelésű assertok, mint az llm-rubric, nem determinisztikusak és cellánként bírói hívásba kerülnek, ezért az átadási arány a bírót ugyanúgy méri, mint a promptot.","Tartsa hordozhatóan a konfigot és a tesztadatokat: a MIT forkbahrá teszi a kódot, de egy, az egyik jelölt tulajdonában lévő modellösszehasonlító semlegességi probléma, amelyet a licenc nem old meg.",[68,71,74,77],{"q":69,"a":70},"Ingyenesen használható a promptfoo?","Igen. A Community verzió MIT-licencű, lokálisan fut, és minden eval funkciót tartalmaz legfeljebb havi 10 000 red team probe-tal. Az Enterprise egyedi probe-limiteket, csapatmegosztást, folyamatos monitorozást, SSO-t és API-hozzáférést ad; az Enterprise és az On-Premise ára egyedi kérésre.",{"q":72,"a":73},"Mi a különbség a promptfoo eval és a red teaming között?","Az eval promptokat futtat tesztesetekre, és assertokkal értékeli a kimeneteket, például részstring-ellenőrzéssel, költségküszöbbel vagy llm-rubriccel. A red teaming generált payloadokkal támad egy konfigurált célt: a promptfoo redteam run lefuttatja a probe-okat, a promptfoo redteam report pedig sebezhetőségi jelentést készít a találatokból.",{"q":75,"a":76},"Milyen modell-providereket támogat a promptfoo?","A dokumentáció több mint 60 providert sorol fel, köztük az OpenAI-t, az Anthropicot, a Google-t, az Azure-t, a Bedrockot és helyi modelleket Ollama segítségével. Bármilyen más végpont elérhető egyedi HTTP-, Python- vagy JavaScript-provideren keresztül, így nem kell módosítani a konfigot, ha egy végpont mögötti modell cserélődik.",{"q":78,"a":79},"Mi történt a promptfooval az OpenAI felvásárlás után?","A Promptfoo 2026. március 9-én jelentette be, hogy megállapodott az OpenAI felvásárlásáról, és azt is közölte, hogy a termék nyílt forráskódú és MIT-licencű marad, a csapat pedig tovább szolgálja az ügyfeleket. A repository már a promptfoo az OpenAI részeként írja le a projektet, a dokumentációt pedig frissítik.",[81,84,87,90,92,95,98,101],{"id":82,"title":83},"what-it-is","Ami ez",{"id":85,"title":86},"how-it-works","Hogyan működik",{"id":88,"title":89},"getting-started","Első lépések",{"id":91,"title":10},"red-teaming",{"id":93,"title":94},"ownership","Kinek a tulajdona most",{"id":96,"title":97},"where-it-shingles","Ahol gyengélkedik",{"id":99,"title":100},"verdict","Ítélet",{"id":102,"title":103},"sources","Források",[105,109,112,115,123,149,152,153,160,166,172,173,176,178,187,194,195,213,223,227,247,250,251,254,257,258,261,307,310,316,317,320,332,336,337],{"type":106,"content":107},"paragraph",[108],"A Promptfoo egy nyílt forráskódú CLI és könyvtár, amely LLM-evalokat és adversariális red teaminget futtat egyetlen YAML-fájlból. Az álláspont előre: ez a legpraktikusabb módja annak, hogy egy promptváltást vagy modellcserét olyan szöveges diffé alakítsunk, amelyen a CI megakadhat, és 2026 márciusa óta az eszköz az OpenAI-hoz tartozik.",{"type":106,"content":110},[111],"Egy Pytest-scriptekből álló mappa és egy hostolt eval-platform között helyezkedik el. A LangSmith-hez és a Braintrusthoz képest az ingyenes szinten lemond a dashboardokról, a megosztott előzményekről és a csapatfelületről, cserébe a saját gépen fut, közvetlenül több mint 60 providert hív, és nem kell hozzá fiók. A DeepEvalhez képest a Python kifejezőerejéről mond le egy olyan konfiguráció javára, amely programozói tudás nélkül is olvasható a review közben.",{"type":113,"level":114,"id":82,"text":83},"heading",2,{"type":106,"content":116},[117,118,122],"Két termék oszt meg egy repót és egy konfigurációs formátumot. Az eval oldal promptokat futtat tesztesetekre és értékeli a kimeneteket; a red team oldal generált payloadokkal támad egy konfigurált célt, és a találatokat sebezhetőségi jelentésként rögzíti. Mindkettőt a ",{"tag":119,"children":120},"code",[121],"promptfooconfig.yaml"," vezérli, mindkettő ugyanarról a parancssorról futtatható, és mindkettő beépíthető CI-be.",{"type":124,"ordered":125,"items":126},"list",false,[127,129,131,133,143,145,147],[128],"MIT-licencű CLI és könyvtár: 0.124.0 npm-en, kb. 25,8k csillag és 2,4k fork a GitHubon",[130],"Deklaratív konfiguráció: promptok, providerek, tesztek és assertok egy YAML-fájlban",[132],"Több mint 60 provider, köztük OpenAI, Anthropic, Google, Azure, Bedrock, Ollama és egyedi HTTP-, Python- vagy JavaScript-végpontok",[134,135,138,139,142],"Két parancs lefedi a munka nagy részét: ",{"tag":119,"children":136},[137],"promptfoo eval"," a minőséghez, ",{"tag":119,"children":140},[141],"promptfoo redteam run"," a biztonsághoz",[144],"A Community szint ingyenes, havi 10 000 red team probe-zal; az Enterprise és az On-Premise árazása egyedi",[146],"A gyártó 350 000 fejlesztőt, 130 000 havi aktív felhasználót és a Fortune 500 több mint 25%-át jelzi",[148],"Az oldal lábléce SOC 2 és ISO 27001 tanúsítványokat mutat, a dokumentáció pedig GitHub Actiont szállít CI-hoz",{"type":106,"content":150},[151],"Amit az ingyenes szint szándékosan visszatart, az a hostolt rész. A Communityben nincs csapatdashboard, nincs kereshető scan-előzmény, nincs folyamatos monitorozás és nincs API; ezek az Enterprise sorai a funkcióösszehasonlításban. Maga az eszköz lokális folyamat marad, amely hívja a providereket és az eredményeket a lemezre írja.",{"type":113,"level":114,"id":85,"text":86},{"type":106,"content":154},[155,156,159],"Az eval egy matrix. A konfiguráció promptokat, providereket és teszteseteket deklarál, a runner a szorzatot képezi, minden cellát elküld minden modellnek, és a választ a cellához rendelt assertok alapján pontozza. Az assertok tipizáltak: részstring- és JSON-séma-ellenőrzés, hasonlóság, költség- és késésértékek, valamint modellértékelésű ellenőrzések, mint az ",{"tag":119,"children":157},[158],"llm-rubric",", amelyek plusz modellhívást költenek a kimenet minősítésére.",{"type":161,"src":162,"alt":163,"wide":164,"caption":165},"image","\u002Fimages\u002Fblog\u002Fpromptfoo\u002Fdiagram-8.webp","Hogyan fut egy promptfoo eval Négy lépésből álló pipeline: a konfigurációs fájl látja el a runnert, amely minden providert párhuzamosan, cache-sel hív, az assertok értékelik az egyes kimeneteket, az eredmények pedig webnézegetőhöz és CI kilépési kóddoz kerülnek. Alul promptokból és providerekből álló matrix átment és bukott cellákkal.",true,"A promptfoo eval mátrix: minden prompt minden providert lefut, az assertok minden cellát értékelnek, és a kilépési kód az, amire a CI reagál.",{"type":106,"content":167},[168,169,171],"A runner párhuzamosan dolgozik és cache-eli a befejezett hívásokat, így egy kis módosítás utáni újrafutás nagyrészt a cache-t olvassa. Az eredmények helyi webnézegetőben, egymás melletti mátrixként nyílnak meg, a CLI pedig JSON, YAML, CSV vagy HTML kimenetet ír. A kilépési kódok a integrációs pont: a ",{"tag":119,"children":170},[137]," 100-as kódot ad, ha legalább egy teszt elbukik vagy az átadási arány a PROMPTFOO_PASS_RATE_THRESHOLD alá esik, és 1-et minden más hibánál.",{"type":113,"level":114,"id":88,"text":89},{"type":106,"content":174},[175],"Telepítés npm, brew vagy pip segítségével, vagy telepítés nélkül a npx promptfoo@latest paranccsal. Egy minimális konfiguráció, amely két modellt hasonlít össze egy lefordított mondaton:",{"type":119,"code":177},"# promptfooconfig.yaml: two models, one prompt, three checks\nprompts:\n  - 'Translate this sentence into {{language}}: {{input}}'\n\nproviders:\n  - openai:gpt-6-sol\n  - openai:gpt-6-luna\n\ntests:\n  - vars:\n      language: French\n      input: Hello world\n    assert:\n      - type: contains\n        value: 'Bonjour'\n      - type: llm-rubric\n        value: 'the translation is idiomatic and complete'\n      - type: cost\n        threshold: 0.01",{"type":106,"content":179},[180,182,183,186],{"tag":119,"children":181},[137]," lefuttatja a matrix minden celláját és kiírja az átadási arányt; a ",{"tag":119,"children":184},[185],"promptfoo view"," a böngészőben nyitja meg az egymás melletti összehasonlítást. A -r kapcsoló parancssorról cserél providert a fájl módosítása nélkül, így ellenőrizhető egy jelölt modell az alapvonalhoz képest, ahogy a dokumentáció ajánlja.",{"type":188,"variant":189,"title":190,"body":191},"callout","tip","Előbb cache, aztán iterálás",[192],[193],"A runner a konfigurációt, a változókat és a providerparamétereket hasheli, így a nem változott cella nem kerül újra az API elé. A modellértékelésű assertok kivételek: futáskor értékelődnek, ezért cellánként mindegyikbe kell egy bírói hívás.",{"type":113,"level":114,"id":91,"text":10},{"type":106,"content":196},[197,200,201,204,205,208,209,212],{"tag":119,"children":198},[199],"promptfoo redteam init"," ír egy red team konfigot, a ",{"tag":119,"children":202},[203],"redteam setup"," végigvezet a célon, a ",{"tag":119,"children":206},[207],"redteam run"," generálja és végrehajtja a támadásokat, a ",{"tag":119,"children":210},[211],"redteam report"," pedig megjeleníti a találatokat. A dokumentáció minden plugint betanított modellként ír le, amely egy adott sebezhetőségre payloadot állít elő, nem rögzített szólistaként.",{"type":124,"ordered":125,"items":214},[215,217,219,221],[216],"157 plugin hat kategóriában: márka, megfelelőség és jog, adathalmaz, biztonság és hozzáférés-ellenőrzés, trust and safety, valamint egyedi",[218],"A biztonsági pluginok az OWASP Top 10 for LLMshez, az OWASP API Security Top 10-hez és a MITRE ATLAS-hoz igazodnak",[220],"A megfelelőségi pluginok a NIST AI RMFhez, az ISO\u002FIEC 42001-hez, a GDPR 5. cikkéhez és az EU AI Act 5. cikkéhez igazodnak",[222],"A pluginokat konfigurációban célonként választjuk ki, így a scan szűkíthető azokra a kategóriákra, amelyeket egy alkalmazás valóban felfed",{"type":113,"level":224,"id":225,"text":226},3,"framework-mappings","Keretrendszerekhez igazítás",{"type":106,"content":228},[229,230,233,234,233,237,233,240,233,243,246],"Akinek lefedettséget kell bemutatnia találatok hegye helyett, annak a keretrendszer-azonosítók a hasznosak: ",{"tag":119,"children":231},[232],"nist:ai:measure:1.1",", ",{"tag":119,"children":235},[236],"owasp:llm:01",{"tag":119,"children":238},[239],"iso:42001:privacy",{"tag":119,"children":241},[242],"gdpr:art5",{"tag":119,"children":244},[245],"eu:ai-act:art5",". Az ezek szerint csoportosított jelentés olyan lefedettségi érv, amelyet egy ellenőr követni tud. Ez megfelelési mechanika, nem megfelelési ígéret: az eszköz megmutatja, mely probe-ok futottak, nem azt, hogy a termék teljesíti-e a szabályozást.",{"type":106,"content":248},[249],"Az ingyenes határ havi 10 000 probe, és a payloadok generálásához és értékeléséhez inference-t igénylő pluginok fogyasztják el. Efölé a díjszabási oldal az egyedi limitekért az Enterprise-ra mutat.",{"type":113,"level":114,"id":93,"text":94},{"type":106,"content":252},[253],"2026. március 9-én a Promptfoo bejelentette, hogy megállapodott az OpenAI felvásárlásáról. A bejegyzés megígérte, hogy a termék nyílt forráskódú és MIT-licencű marad, a csapat pedig kiszolgálja az ügyfeleket, és megjegyezte, hogy a zárás szokásos feltételekhez kötött. A repository már azt a sort hordozza, hogy a Promptfoo az OpenAI része, a dokumentációt pedig 2026. október 7-én frissítették utoljára.",{"type":106,"content":255},[256],"A licenc forkbahrá teszi a kódot; a roadmapet nem tartja semlegesnek. A mérnöki aggodalom szűk és konkrét: egy olyan eszköz, amelynek az a feladata, hogy megválaszolja, melyik modellt adjuk ki, most az egyik jelölt tulajdona, és a red team, guardrail és model security termékei az OpenAI ügynökplatformja mellett állnak. A MIT licenc nem akadályoz meg egy forkot, és nem kötelezi a céget a többmodell-összehasonlítás előtérbe helyezésére sem.",{"type":113,"level":114,"id":96,"text":97},{"type":106,"content":259},[260],"Az első gyengeség maga a konfiguráció. Egy tucat promptot és negyven tesztesetet tartalmazó fájl olvasható; egy négyszáz tétes nem, és minden, ami ciklust, produkciós adatokkal való join-t vagy egyedi parsert igényel, JavaScript assert callbackekbe visz, vagyis a kikerült nyelv visszatér. A második az értékelési drift: a modellértékelésű assertok a bírói verziók közt mozognak, így egy zöld suite borostyánsárga lehet, mert a bíró változott. A harmadik a hatókör, mert egy audit trailt igénylő security csapat Enterprise-t vásárol, bármilyen jók az evalok.",{"type":262,"head":263,"rows":272},"table",[264,266,268,270],[265],"Eszköz",[267],"Felület",[269],"Ingyenes szint",[271],"Költségmodell",[273,281,290,298],[274,275,277,279],[4],[276],"YAML és CLI, lokálisan fut",[278],"Teljes evalok, havi 10k red team probe",[280],"MIT; az Enterprise egyedi áras",[282,284,286,288],[283],"LangSmith",[285],"Hostolt platform plusz SDK",[287],"1 ülés és havi 5k base trace",[289],"Plus 39 USD\u002Fülés\u002Fhó-tól",[291,293,294,296],[292],"Braintrust",[285],[295],"Korlátlan felhasználó, 1 GB feldolgozott adat",[297],"Pro 249 USD\u002Fhó",[299,301,303,305],[300],"DeepEval",[302],"Python, Pytest-stílus",[304],"A teljes keretrendszer",[306],"Apache 2.0; mögötte hostolt platform",{"type":106,"content":308},[309],"Az üzleti modell egy ingyenes harness egy fizetős vezérlősíkkal. A folyamatos monitorozás, a központi dashboard, az egyedi pluginok, a szervezeti szintű támadási profilok, az SSO, a mentett célok, a kereshető előzmények és az API az Enterprise sorai, az on-premise telepítés pedig egy második árajánlatot ad hozzá. Egy magányos fejlesztő sosem kéri ezeket; egy csapat, amelynek be kell bizonyítania, mit tesztelt múlt negyedévben, igen.",{"type":188,"variant":311,"title":312,"body":313},"warn","A bíró megbízhatósága",[314],[315],"A modellértékelésű assertok pontszámot adnak, nem mérést. Rögzítse a bírói modellt, tartson egy kis emberi címkézett mintát a suite-ben, és fussassa újra minden bíróváltáskor; különben az átadási arány a bírót ugyanúgy méri, mint a promptot.",{"type":113,"level":114,"id":99,"text":100},{"type":106,"content":318},[319],"A Promptfoo jó helyi harness, amelyhez komoly biztonsági rész nőtt. Gyors, áttekinthető és őszinte abban, amit mér, a red team lefedettsége pedig már elég konkrét ahhoz, hogy lehessen vele vitatkozni. A nyitott kérdés nem a licenc, amely MIT marad, hanem hogy ki dönti el, mely modellekre hangolja az eszköz.",{"type":124,"ordered":164,"items":321},[322,324,326,328,330],[323],"Válassza, ha a prompt- és modellváltásokat CI-ben szeretné szöveges diffként gate-elni, olyan kilépési kóddal, amely buktatja a feladatot.",[325],"Válassza, ha release előtt szüksége van adversariális tesztelésre, és ugyanabban a pull requestben akarja reviewztatni a minőségi evalokkal.",[327],"Kihagyhatja, ha hostolt szolgáltatás kell: a dashboard, a megosztott előzmény, a keresés és az API csak Enterprise-ban van.",[329],"Kihagyhatja, ha az eval logikájához valódi kód kell, mert egy Python-keretrendszer kevesebb erőfeszítés, mint egy YAML-fájlt ciklusba kényszeríteni.",[331],"Tartsa hordozhatóan a tesztadatokat: a konfiguráció MIT és forkbahr, de egy, az egyik jelölt tulajdonában lévő modellösszehasonlító eszköz semlegességi probléma, amelyet a licenc nem old meg.",{"type":333,"content":334},"quote",[335],"A pull requestben elolvasott suite jobb, mint egy dashboard, amelyen át kell kattintani, és a promptfoo erre az előfeltétele épül. Az új tulajdonos az oka annak, hogy a kilépési kódot és a tesztadatokat hordozhatóan tartsuk.",{"type":113,"level":114,"id":102,"text":103},{"type":124,"ordered":164,"items":338},[339,344,348,352,356,360,364,368],[340],{"tag":341,"href":28,"children":342},"a",[343],"Promptfoo dokumentáció: bevezető",[345],{"tag":341,"href":31,"children":346},[347],"Promptfoo árak: szintek összehasonlítása",[349],{"tag":341,"href":34,"children":350},[351],"Promptfoo dokumentáció: első lépések",[353],{"tag":341,"href":37,"children":354},[355],"Promptfoo dokumentáció: parancssor (kilépési kódok)",[357],{"tag":341,"href":40,"children":358},[359],"Promptfoo dokumentáció: red team pluginok",[361],{"tag":341,"href":43,"children":362},[363],"Promptfoo dokumentáció: assertok és metrikák",[365],{"tag":341,"href":46,"children":366},[367],"Promptfoo repository a GitHubon (MIT licenc)",[369],{"tag":341,"href":49,"children":370},[371],"Promptfoo blog: Promptfoo is joining OpenAI (2026. március 9.)",[373,430,497,558],{"slug":374,"published":375,"minutes":376,"category":7,"tags":377,"keywords":383,"about":397,"sources":405,"cover":424,"og":425,"expertise":52,"locales":426,"lang":56,"title":427,"description":428,"coverAlt":429},"deepseek-v4-1-flash-1017","2026-10-17",15,[378,379,380,381,382],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[384,385,386,387,388,389,390,391,392,393,394,395,396],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[398,400,402],{"name":378,"url":399},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":381,"url":401},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":403,"url":404},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[406,409,412,415,418,421],{"title":407,"url":408},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":410,"url":411},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":413,"url":414},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":416,"url":417},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":419,"url":420},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":422,"url":423},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[54,55,56],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":431,"published":375,"minutes":6,"category":7,"tags":432,"keywords":438,"about":450,"sources":460,"cover":491,"og":492,"expertise":52,"locales":493,"lang":56,"title":494,"description":495,"coverAlt":496},"llm-rate-limits-retries-provider-fallback",[433,434,435,436,437],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[439,440,441,442,443,444,445,446,447,448,449],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[451,454,457],{"name":452,"url":453},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":455,"url":456},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":458,"url":459},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[461,464,467,470,473,476,479,482,485,488],{"title":462,"url":463},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":465,"url":466},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":468,"url":469},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":471,"url":472},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":474,"url":475},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":477,"url":478},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":480,"url":481},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":483,"url":484},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":486,"url":487},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":489,"url":490},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[54,55,56],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":498,"published":375,"minutes":499,"category":7,"tags":500,"keywords":506,"about":517,"sources":527,"cover":552,"og":553,"expertise":52,"locales":554,"lang":56,"title":555,"description":556,"coverAlt":557},"prompt-versioning-management",8,[501,502,503,504,505],"Prompt management","Versioning","LLMOps","Evals","Langfuse",[507,508,509,510,511,512,513,514,515,516],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[518,521,524],{"name":519,"url":520},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":522,"url":523},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":525,"url":526},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[528,531,534,537,540,543,546,549],{"title":529,"url":530},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":532,"url":533},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":535,"url":536},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":538,"url":539},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":541,"url":542},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":544,"url":545},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":547,"url":548},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":550,"url":551},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[54,55,56],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":559,"published":375,"minutes":560,"category":7,"tags":561,"keywords":566,"about":577,"sources":587,"cover":608,"og":609,"expertise":52,"locales":610,"lang":56,"title":611,"description":612,"coverAlt":613},"llm-batch-api-offline-workloads",9,[562,563,503,564,565],"Batch API","Cost","Prompt caching","Data pipelines",[567,568,569,570,571,572,573,574,575,576],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[578,581,584],{"name":579,"url":580},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":582,"url":583},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":585,"url":586},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[588,591,593,594,597,600,602,605],{"title":589,"url":590},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":592,"url":463},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":550,"url":551},{"title":595,"url":596},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":598,"url":599},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":601,"url":469},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":603,"url":604},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":606,"url":607},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[54,55,56],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261159653]