[{"data":1,"prerenderedAt":628},["ShallowReactive",2],{"blog-ragas-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":25,"cover":43,"og":44,"expertise":45,"locales":46,"lang":49,"title":50,"description":51,"coverAlt":52,"metaTitle":53,"takeaways":54,"faq":60,"toc":73,"blocks":98,"others":387},"ragas","2026-05-20",10,"llmops",[9,10,11,12,13],"RAG evaluation","LLM-as-judge","Test sets","CI quality","Ragas",[4,15,16,17,18,19,20,21],"ragas tutorial","ragas vs deepeval","llm evaluation metrics","faithfulness context precision","rag evaluation framework","llm as a judge","ragas pricing",[23],{"name":13,"url":24},"https:\u002F\u002Fwww.ragas.io\u002F",[26,29,32,35,38,41],{"title":27,"url":28},"Ragas documentation: introduction","https:\u002F\u002Fdocs.ragas.io\u002Fen\u002Fstable\u002F",{"title":30,"url":31},"Ragas documentation: quick start","https:\u002F\u002Fdocs.ragas.io\u002Fen\u002Fstable\u002Fgetstarted\u002Fquickstart\u002F",{"title":33,"url":34},"Ragas documentation: list of available metrics","https:\u002F\u002Fdocs.ragas.io\u002Fen\u002Fstable\u002Fconcepts\u002Fmetrics\u002Favailable_metrics\u002F",{"title":36,"url":37},"Ragas on GitHub","https:\u002F\u002Fgithub.com\u002Fvibrantlabsai\u002Fragas",{"title":39,"url":40},"Ragas on PyPI","https:\u002F\u002Fpypi.org\u002Fproject\u002Fragas\u002F",{"title":42,"url":24},"Ragas website","\u002Fimages\u002Fblog\u002Fragas\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fragas\u002Fog.jpg","ai-engineer",[47,48,49],"en","de","hu","Ragas-ismertető: az alapértelmezett RAG-evalualációs keretrendszer","A Ragas faithfulness, context precision és context recall metrikákkal értékeli a RAG- és ügynök-pipeline-okat, tesztadatot generál és kísérleteket rögzít. Apache-2.0, az ítélőmodell külön számlázva.","Három különböző magas sáv ívmérőkkel felette, egy doboz kis négyzeteket bocsát ki.","Ragas-ismertető: metrikák, kísérletek, költség · Balázs Csorba",[55,56,57,58,59],"A Ragas egy Apache-2.0 licencű Python-könyvtár 0.4.3-as verzióban, amelynek faithfulness, context precision és context recall metrikái a RAG-evalualáció szabványos nyelvévé váltak.","A legtöbb metrika ítélőmodellt hív, a futás tehát pénzbe kerül és örökli a modell vakságait; a két futás összevetése előtt rögzítse a modellverziót.","A könyvtár nem tárol trace-eket és nem rajzol dashboardot, ezért a termelési megfigyelhetőséget igénylő csapatok a Ragashoz egy Langfuse-hoz hasonló eszközt társítanak, vagy maguk építik a tárolót.","A hostolt platformra nincs nyilvános árlista, ezért a költségkeret száma az ítélőmodell, nem a licenc.","A referenciamentes metrikák azt mérik, alátámasztott-e a válasz, nem azt, hogy helyes-e; a helyességhez tartsanak egy kis címkézett készletet.",[61,64,67,70],{"q":62,"a":63},"A Ragas ingyenesen használható?","A Python-könyvtár Apache-2.0 és ingyenes, beleértve a metrikákat, a szintetikus tesztkészlet-generálást és az experiments-munkafolyamatot. A hostolt platformot és az üzleti támogatást a VibrantLabs közvetlenül árulja, nyilvános ár nélkül.",{"q":65,"a":66},"Melyik Ragas-metrikához kell golden set?","A context recall és a factual correctness referenciaválssal hasonlít össze, míg a faithfulness, a response relevancy és az aspect critic önmagában a kérdésből, a kontextusból és a válaszból dolgozik. A legtöbb csapat referenciamentesen kezd, és csak a rendre rossz sorokhoz ad címkét.",{"q":68,"a":69},"A Ragas kiváltja a megfigyelőeszközöket?","Nem. Az Ön által megadott adathalmazt értékeli, és az eredményt CSV-be írja; nem gyűjt trace-eket, nem vesz mintát a termelési forgalomból és nem rajzol dashboardot. Használja metrikarétegként egy futásokat tároló rendszer alatt.",{"q":71,"a":72},"Mennyibe kerül egy Ragas-futás?","Amit az ítélőmodell felszámít. A faithfulness soronként több LLM-hívást indít, mert állításanként ellenőriz, így egy 500 soros, négy metrikás készlet több ezer hívásból áll; a gyorsítótár és a kisebb ítélőmodell a szabályozók.",[74,77,80,83,86,89,92,95],{"id":75,"title":76},"what-it-is","Mi ez",{"id":78,"title":79},"how-it-works","Hogyan működik",{"id":81,"title":82},"getting-started","Első lépések",{"id":84,"title":85},"performance","Teljesítmény és költség",{"id":87,"title":88},"pricing","Árazás",{"id":90,"title":91},"where-it-shingles","Hol akad el",{"id":93,"title":94},"verdict","Ítélet",{"id":96,"title":97},"sources","Források",[99,108,111,114,122,144,145,148,154,157,158,161,163,186,193,194,197,244,247,255,258,259,262,272,273,280,326,329,339,340,343,355,359,360],{"type":100,"content":101},"paragraph",[102,103,107],"A Ragas egy Apache-2.0 licencű Python-könyvtár az LLM-alkalmazások értékelésére, és észrevétlenül a RAG-evalualáció nyelvévé vált: a faithfulness, a context precision és a context recall mind az ő metrikakészletéből származik. ",{"tag":104,"children":105},"strong",[106],"Egy retriever-pipeline első értékelőeszközeként nagyon értékes, termelési monitoringszerként viszont gyakorlatilag nulla",", mert számokat számol egy neki átadott adathalmazon, a tárolást, a dashboardokat, a mintavételt és a riasztást pedig másra bízza.",{"type":100,"content":109},[110],"A retriever-készlet és a build közé ül be: miután a LlamaIndex, a LangChain vagy egy saját retriever válaszokat ad, a Ragas kiértékeli őket, a számok pedig a commit mellé kerülnek. Vetélytársai a DeepEval, a TruLens és a Phoenix, valamint a Langfuse, a LangSmith és a Braintrust beépített értékelő funkciói; a különbség, hogy a Ragas könyvtár marad: nincs üzemeltetendő szolgáltatás és nincs szolgáltató, aki a tesztadatokat őrzi.",{"type":112,"level":113,"id":75,"text":76},"heading",2,{"type":100,"content":115},[116,117,121],"A csomag ",{"tag":118,"children":119},"code",[120],"pip install ragas"," segítséggel a PyPI-ról települ és a folyamaton belül fut; a 0.4.3-as verzió 2026. január 13-án jelent meg, és Python 3.9-est vagy újabbat igényel. A metrikák kétfélék: LLM-alapúak, amikor egy ítélőmodell elolvassa a sort, és értéket ad vissza írásos indoklással, valamint hagyományosak, amikor a szövegeket közvetlenül hasonlítják össze, ilyen a BLEU, a ROUGE, az exact match és a semantic similarity. Eré épül az experiments-munkafolyamat, adathalmaz, futás, rögzítés, összevetés, ami egy metrikafunkció-halmazt megismételhető értékeléssé alakít.",{"type":123,"ordered":124,"items":125},"list",false,[126,128,130,132,134,136,142],[127],"Licenc és tulajdonos: Apache-2.0, a VibrantLabs karbantartja; a repó körülbelül 16 000 csillagot és 1 700 forkot mutat.",[129],"RAG-metrikák: context precision, context recall, context entities recall, noise sensitivity, response relevancy és faithfulness, továbbá a faithfulness és a relevance többdimenziós változatai.",[131],"Ügynök-metrikák: tool call accuracy, tool call F1, agent goal accuracy és topic adherence.",[133],"Alátámasztás és összehasonlítás: factual correctness, semantic similarity, BLEU, CHRF, ROUGE, string presence és exact match.",[135],"SQL és összefoglalás: végrehajtás alapú DataCompy-pontszám, SQL-lekérdezés-ekvivalencia és összefoglaló pontszám.",[137,138,141],"Tesztadatok és váz: szintetikus tesztkészlet-generálás a saját dokumentumokból, valamint egy ",{"tag":118,"children":139},[140],"ragas quickstart rag_eval"," sablon, amely futtatható projektet ír.",[143],"Kimenet: a kísérletek eredménye CSV-fájlokban a repóban, bármely más build-termékhez hasonlóan diffelhető.",{"type":112,"level":113,"id":78,"text":79},{"type":100,"content":146},[147],"Egy futás soronként járja végig a sorokat. Minden sor tartalmazza a felhasználó bemenetét, az alkalmazás válaszát és azt a kontextust, amit a retriever szállított. Egy metrika felveszi a sort, egy vagy több LLM-hívást indít egy, a szempontot pontosan megnevező prompttal, majd értéket ad vissza az ítélő indoklásával; a hagyományos metrikák kihagyják a hívást és szövegeket hasonlítanak össze. A sorok függetlenül értékelődnek, így az adathalmaz párhuzamosítható, és egyetlen sor újrafuttatható, ha a átlag rosszul néz ki.",{"type":149,"src":150,"alt":151,"wide":152,"caption":153},"image","\u002Fimages\u002Fblog\u002Fragas\u002Fdiagram-7.webp","Ahogy egy Ragas-kísérlet lefut Öt lépésből álló ciklus. A befagyasztott tesztkészlet hajtja a alkalmazás futását, a metrikák soronként ítélőmodellt hívnak, az értékek írásos indoklással érkeznek, majd a kísérletet a kiindulóértékhez hasonlítják, mielőtt a következő build ugyanazokat a sorokat újrafuttatná.",true,"A ciklusnak csak akkor van értelme, ha a sorok és az ítélőmodell változatlanok: ha bármelyiket cseréli, két kísérlet már nem hasonlítható össze.",{"type":100,"content":155},[156],"Azért terjedt el ez az értékelési mert a kimenet olvasható. Egy alacsony faithfulness-pontszám azzal a mondattal érkezik, amit az ítélő az alátámasztatlan állításról írt, vagyis olyan diffel, amire egy ember reagálni tud, nem vitára való számmal.",{"type":112,"level":113,"id":81,"text":82},{"type":100,"content":159},[160],"A legkisebb értelmes teszt egy metrika egyetlen soron, ahogy a README is bemutatja a könyvtárat.",{"type":118,"code":162},"import asyncio\nfrom ragas.metrics.collections import AspectCritic\nfrom ragas.llms import llm_factory\n\n# The judge: llm_factory() takes OpenAI by default, Anthropic and others as options\nllm = llm_factory(\"gpt-4o\")\n\nmetric = AspectCritic(\n    name=\"summary_accuracy\",\n    definition=\"Verify if the summary is accurate and captures key information.\",\n    llm=llm,\n)\n\nrow = {\n    \"user_input\": \"summarise given text: the company reported an 8% rise in Q3 2024.\",\n    \"response\": \"The company saw an 8% increase in Q3 2024.\",\n}\n\nasync def main():\n    score = await metric.ascore(user_input=row[\"user_input\"], response=row[\"response\"])\n    print(score.value, score.reason)\n\nasyncio.run(main())",{"type":100,"content":164},[165,166,169,170,173,174,177,178,181,182,185],"Egész projekthez a váz gyorsabb: az ",{"tag":118,"children":167},[168],"uvx ragas quickstart rag_eval"," egy csomagot ír ",{"tag":118,"children":171},[172],"rag.py",", ",{"tag":118,"children":175},[176],"evals.py",", datasets és experiments mappával, az ",{"tag":118,"children":179},[180],"uv sync"," telepíti, a ",{"tag":118,"children":183},[184],"uv run python evals.py"," betölti az adathalmazt, lekérdezi az alkalmazást, kiértékeli az összes sort, és az eredményt a CSV-hez fűzi. A dokumentáció a sablont alapértelmezésben OpenAI-ra állítja, és ugyanezt a három sort mutatja Anthropicra, Google Geminire, Ollamára vagy bármely OpenAI-kompatibilis végpontra állítva.",{"type":187,"variant":188,"title":189,"body":190},"callout","tip","Az ítélőmodellt rögzítse az összevetés előtt",[191],[192],"Két futás csak akkor hasonlítható össze, ha a metrika megvalósítása, az ítélőmodell és a sorok mind azonosak. Rögzítse a modellverziót, tartsa az adathalmazt a repóban, és a metrikafrissítést alapérték-állításként kezelje, nem regresszióként.",{"type":112,"level":113,"id":84,"text":85},{"type":100,"content":195},[196],"A Ragas nem ad késést a terméknek; költséget és valós időt ad a buildnek. A számla: sorok szorozva metrikákkal szorozva ítélőhívásokkal soronként, a drága metrikák pedig azok, amelyek a választ állításokra bontva külön-külön ellenőriznek.",{"type":198,"head":199,"rows":208},"table",[200,202,204,206],[201],"Metrika",[203],"Az ítélő munkája soronként",[205],"Referenciaválasz kell",[207],"Mit jelent az alacsony érték",[209,218,227,236],[210,212,214,216],[211],"Faithfulness",[213],"Az választ állításokra bontja, és mindegyiket a kontextushoz igazítja",[215],"Nem",[217],"A válasz többet állít, mint amit a visszakeresett szöveg alátámaszt",[219,221,223,225],[220],"Context precision",[222],"A visszakeresett chunkokat rangsorolja a kérdéshez képest",[224],"Opcionális",[226],"Releváns chunkok kerülnek a promptba",[228,230,232,234],[229],"Context recall",[231],"A visszakeresett kontextust a referenciaválssal hasonlítja össze",[233],"Igen",[235],"A retriever sosem látta a válasz egy részét",[237,239,241,242],[238],"Tool call accuracy",[240],"Az ügynök eszközhívását és argumentumait a várttal hasonlítja össze",[233],[243],"Az ügynök rossz eszközt választ vagy hibás argumentumot ad meg",{"type":100,"content":245},[246],"Egy 500 soros adathalmaz négy LLM-metrikával futásonként több ezer ítélőhívást jelent. A csapatok úgy tartják elérhetőnek, hogy ahol a könyvtár engedi, gyorsítótáraznak, a olcsó metrikákhoz kis ítélőmodellt használnak, és a teljes készletet csak egy merge előtt futtatják.",{"type":123,"ordered":124,"items":248},[249,251,253],[250],"Az olcsó metrikákat minden pushnál értékelje, a faithfulness-t és az ügynök-metrikákat merge-kor vagy időzítve futtassa.",[252],"Tartsa az adathalmazt kicsinek és agresszív véletlenszerű helyett: 200, már korábban hibát adott sor többet ér, mint 5 000, amely sosem hibázik.",[254],"Szintetikus sorokat generáljon lefedettségre, majd fagyasztja be őket; ha minden ciklusban újragenerálja a tesztkészletet, minden pontszám zajnak tűnik.",{"type":100,"content":256},[257],"Ebből semmi sem Ragas-specifikus: minden LLM-as-a-judge megoldás hívásonként számláz és örökli az ítélő vakságait. A Ragas arról dönt, hogy ennek a gépezetnek mekkora részét kapja ingyen, és mekkorát kell köré építeni.",{"type":112,"level":113,"id":87,"text":88},{"type":100,"content":260},[261],"A könyvtár ingyenes és Apache-2.0, ülés- és felhasználási korlát nélkül. az üzleti oldal, a hostolt platform és a közvetlen támogatás, a karbantartókon keresztül, kontakton és office hours-on át kapható, nyilvános árlista nélkül. Emiatt a tényleges költség az ítélőmodell: minden LLM-metrikát az a szolgáltató számláz, amelyre irányítják, a szintetikus tesztkészlet-generálás pedig ugyanezen a mérőn fut.",{"type":123,"ordered":124,"items":263},[264,266,268,270],[265],"Könyvtár: ingyenes, Apache-2.0, PyPI-ról települ, nem kell hozzá fiók.",[267],"Ítélőmodell: hívásonként a szolgáltatónál számlázva, általában a eval-költségvetés legnagyobb tétele.",[269],"Szintetikus tesztadat: szintén LLM-munka, pontosan úgy számlázva, mint az értékelés.",[271],"Hostolt platform és támogatás: közvetlenül, nyilvános ár nélkül; a vállalás előtt kérdezze meg, mi jár bele.",{"type":112,"level":113,"id":90,"text":91},{"type":100,"content":274},[275,276,279],"A Ragas sorokat értékel, nem rendszereket. Nem vesz mintát a termelési forgalomból, nem tárol trace-eket, nem szól, ha a p95-ös késés elmozdult, és nem tudja megmondani, reprezentatívak-e a tesztkérdések, pedig ez a hiba teszi haszontalanná a zöld pipeline-t. A kiadási tempó gyors, 0.3.0 2025 júliusában, 0.4.0 2025 decemberében, 0.4.3 2026 januárjában, így a verziókat rögzíteni kell. A kutatás időpontjában a repó 381 nyitott issue-t mutatott, ami a az alapértelmezett eszköz szokásos ára, a ",{"tag":118,"children":277},[278],"stable"," dokumentáció pedig lemarad a kiadott API mögött.",{"type":198,"head":281,"rows":290},[282,284,286,288],[283],"Eszköz",[285],"Mi az",[287],"Hol győz",[289],"Miről mond le",[291,299,308,317],[292,293,295,297],[13],[294],"Metrikakönyvtár szintetikus tesztadatokkal",[296],"A metrikanyelv és egyetlen paranccsal futtatható projekt",[298],"Nincs trace-tároló, nincs dashboard, nincs termelési mintavétel",[300,302,304,306],[301],"DeepEval",[303],"Pytest-stílusú metrikák hostolt platformmal mögötte",[305],"Unit-test ergonomika és hosszú metrikalista",[307],"A platform rész külön kereskedelmi termék",[309,311,313,315],[310],"Langfuse",[312],"Nyílt forráskódú tracing adathalmazokkal és értékelésekkel",[314],"Trace-ek, promptok és pontszámok egy helyen",[316],"A Ragas-stílusú metrikamatematika csak egy funkció a sok közül",[318,320,322,324],[319],"Arize Phoenix",[321],"Nyílt forráskódú tracing és értékelés LLM-alkalmazásokhoz",[323],"Span-szintű hibakeresés a pontszámok mellett",[325],"Szűkebb, referenciamentes RAG-metrikakészlet",{"type":100,"content":327},[328],"A valódi döntés az, hol laknak a számok. A Ragas a megfelelő motor, ha valami más tárolja a futásokat: egy CSV a repóban, egy táblázat az adatwarehouse-ban, egy olyan megfigyelőeszköz, amely befogadja az importált pontszámokat. Rossz vásárlás viszont annak a csapatnak, amely egy URL-t akar megnyitni, és látni, romlott-e a minőség.",{"type":187,"variant":330,"title":331,"body":332},"warn","Minden sor elhagyja a hálózatát",[333],[334,335,338],"Egy LLM-metrika a kérdést, a visszakeresett chunkokat és a választ az ítélő végpontjára küldi. Ha a korpusz bizalmas, ez azt jelenti: ítélő a saját határokon belül, a dokumentáció említi az Ollamát és bármely OpenAI-kompatibilis végpontot, vagy tudomásul vett továbbítás harmadik félnek. A könyvtár alapértelmezésben névtelen használati adatokat is küld; a ",{"tag":118,"children":336},[337],"RAGAS_DO_NOT_TRACK=true"," ezt kikapcsolja, a gyűjtőkód a repóban van.",{"type":112,"level":113,"id":93,"text":94},{"type":100,"content":341},[342],"A Ragas megérdemli az alapértelmezett szerepet a retriever-munkában: a metrikák jól definiáltak, a kimenet indoklást hoz, és egy projekt egy parancsnyira van. Scoring-motorként szabad elfogadni egy olyan munkafolyamatban, amelyet egyébként is birtokol, nem értékelési platformként.",{"type":123,"ordered":152,"items":344},[345,347,349,351,353],[346],"Használja, ha van retriever-pipelineja, de még nincs golden setje: a szintetikus tesztkészlet-generálás és a referenciamentes metrikák egy nap alatt adnak első mérőszámot.",[348],"Használja, ha az értékelésnek CI-ben kell futnia, ahol egy CSV-diff pull requestenként éppen a megfelelő mennyiségű jelzés.",[350],"Ne ezt válassza egyetlen értékelőeszközként ügynök-termékhez: az ügynök-metrikák megvannak, de a trajektóriák, az eszközök mellékhatásai és a feladatonkénti költség olyan harneszt kíván, amely tárolja a futásokat.",[352],"Ne ezt válassza, ha a választ eltárolt bizonyítékokból kell alátámasztani szabályozó vagy ügyfél előtt; nem marad meg semmi, amit nem ön tárol el.",[354],"A liccnél előbb az ítélőmodellt költségelje: a bevett megosztás egy rögzített kis modell az olcsó metrikákhoz és egy jobb a faithfulness-hoz.",{"type":356,"content":357},"quote",[358],"A Ragas a legolcsóbb módja annak, hogy abbahagyja annak a vitát, segített-e egy változtatás: rögzítse az ítélőt, fagyassza be a sorokat, olvassa el a diffet. Amit nem csinál meg, azt akkor is meg kell fizetni.",{"type":112,"level":113,"id":96,"text":97},{"type":123,"ordered":152,"items":361},[362,367,371,375,379,383],[363],{"tag":364,"href":28,"children":365},"a",[366],"Ragas-dokumentáció: bevezetés",[368],{"tag":364,"href":31,"children":369},[370],"Ragas-dokumentáció: quick start",[372],{"tag":364,"href":34,"children":373},[374],"Ragas-dokumentáció: elérhető metrikák",[376],{"tag":364,"href":37,"children":377},[378],"Ragas a GitHubon",[380],{"tag":364,"href":40,"children":381},[382],"Ragas a PyPI-n",[384],{"tag":364,"href":24,"children":385},[386],"Ragas weboldal",[388,445,512,572],{"slug":389,"published":390,"minutes":391,"category":7,"tags":392,"keywords":398,"about":412,"sources":420,"cover":439,"og":440,"expertise":45,"locales":441,"lang":49,"title":442,"description":443,"coverAlt":444},"deepseek-v4-1-flash-1017","2026-10-17",15,[393,394,395,396,397],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[399,400,401,402,403,404,405,406,407,408,409,410,411],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[413,415,417],{"name":393,"url":414},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":396,"url":416},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":418,"url":419},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[421,424,427,430,433,436],{"title":422,"url":423},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":425,"url":426},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":428,"url":429},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":431,"url":432},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":434,"url":435},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":437,"url":438},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[47,48,49],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":446,"published":390,"minutes":6,"category":7,"tags":447,"keywords":453,"about":465,"sources":475,"cover":506,"og":507,"expertise":45,"locales":508,"lang":49,"title":509,"description":510,"coverAlt":511},"llm-rate-limits-retries-provider-fallback",[448,449,450,451,452],"Rate limits","Retries","Fallback","Reliability","LLM gateway",[454,455,456,457,458,459,460,461,462,463,464],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[466,469,472],{"name":467,"url":468},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":470,"url":471},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":473,"url":474},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[476,479,482,485,488,491,494,497,500,503],{"title":477,"url":478},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":480,"url":481},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":483,"url":484},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":486,"url":487},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":489,"url":490},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":492,"url":493},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":495,"url":496},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":498,"url":499},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":501,"url":502},"OpenRouter Docs: Model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":504,"url":505},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[47,48,49],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":513,"published":390,"minutes":514,"category":7,"tags":515,"keywords":520,"about":531,"sources":541,"cover":566,"og":567,"expertise":45,"locales":568,"lang":49,"title":569,"description":570,"coverAlt":571},"prompt-versioning-management",8,[516,517,518,519,310],"Prompt management","Versioning","LLMOps","Evals",[521,522,523,524,525,526,527,528,529,530],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[532,535,538],{"name":533,"url":534},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":536,"url":537},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":539,"url":540},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[542,545,548,551,554,557,560,563],{"title":543,"url":544},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":546,"url":547},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":549,"url":550},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":552,"url":553},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":555,"url":556},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":558,"url":559},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":561,"url":562},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":564,"url":565},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[47,48,49],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":573,"published":390,"minutes":574,"category":7,"tags":575,"keywords":580,"about":591,"sources":601,"cover":622,"og":623,"expertise":45,"locales":624,"lang":49,"title":625,"description":626,"coverAlt":627},"llm-batch-api-offline-workloads",9,[576,577,518,578,579],"Batch API","Cost","Prompt caching","Data pipelines",[581,582,583,584,585,586,587,588,589,590],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[592,595,598],{"name":593,"url":594},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":596,"url":597},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":599,"url":600},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[602,605,607,608,611,614,616,619],{"title":603,"url":604},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":606,"url":478},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":564,"url":565},{"title":609,"url":610},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":612,"url":613},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":615,"url":484},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":617,"url":618},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":620,"url":621},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[47,48,49],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261159993]