[{"data":1,"prerenderedAt":669},["ShallowReactive",2],{"blog-openrouter-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":26,"cover":44,"og":45,"expertise":46,"locales":47,"lang":50,"title":51,"description":52,"coverAlt":53,"metaTitle":54,"takeaways":55,"faq":61,"toc":74,"blocks":99,"others":430},"openrouter","2026-07-23",10,"llmops",[9,10,11,12,13],"LLM gateway","Model routing","Fallbacks","OpenAI-compatible","Pay per token",[4,15,16,17,18,19,20,21],"openrouter vs litellm","llm gateway comparison","openrouter pricing","openai compatible api gateway","llm fallback routing","multi model api gateway","byok llm routing",[23],{"name":24,"url":25},"OpenRouter","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenRouter",[27,30,33,36,39,42],{"title":28,"url":29},"OpenRouter documentation: quickstart","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fquickstart",{"title":31,"url":32},"OpenRouter pricing","https:\u002F\u002Fopenrouter.ai\u002Fpricing",{"title":34,"url":35},"OpenRouter documentation: model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":37,"url":38},"OpenRouter documentation: provider routing","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fprovider-selection",{"title":40,"url":41},"OpenRouter documentation index","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fllms.txt",{"title":43,"url":25},"Wikipedia: OpenRouter","\u002Fimages\u002Fblog\u002Fopenrouter\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fopenrouter\u002Fog.jpg","ai-engineer",[48,49,50],"en","de","hu","OpenRouter: egy API-kulcs a katalógus minden modellje előtt","OpenRouter egyetlen OpenAI-kompatibilis végpont mögé tereli a 80+ szolgáltató 500+ modelljét, fallbackkel és listaáron. Mennyibe kerül, és hol törik el.","Kilenc kis négyzet széles ívben, mindegyik összekötve egy keskeny sávval.","OpenRouter-teszt: egy kulcs, minden modell · Balázs Csorba",[56,57,58,59,60],"Az OpenRouter hosztelt útválasztó réteg: egyetlen OpenAI-kompatibilis végpont 80+ szolgáltató 500+ modellje előtt, a szolgáltató listaáron számlázva, 5,5% díjjal a credits-vásárlásokra.","Az alapértelmezett routing ársúlyozott: az elmúlt 30 másodpercben kimaradás nélküli szolgáltatók közül a router az ár négyzetének reciprokával választ, a többit tartalékként hagyja.","A hibás és fallback kísérletekért nem kell modelltokent fizetni, így a kiesés késéssel, nem tokenekkel fizetendő.","A díj a credits vásárlásakor keletkezik, kérésenként sosem, így a ráfordulás fix százalék, ami tervezhető.","A zero data retention minden csomagon elérhető, de a promptok EU-n vagy USA-n belül tartása a Business csomagtól indul, ahol a díj 8%.",[62,65,68,71],{"q":63,"a":64},"Az OpenRouter ráterheli a modellek árát?","A díjszabási oldal szerint nem: az inference minden csomagon a szolgáltató listaáron megy, a platformdíj — 5,5% Standard, 8% Business — a credits vásárlásakor keletkezik. Az openrouter\u002Fauto sincs felár nélkül, a kérést kiszolgáló modell ára fizetendő.",{"q":66,"a":67},"Mennyi késést ad a gateway?","Egy hálózati lépést a szolgáltató előtt, a dokumentáció pedig kimondja, hogy a routing a megbízhatóságot javítja, a késés viszont modelltől, szolgáltatótól és régiótól függ. A stabil késésre adott tanács: rögzítse a modellt és a szolgáltatót — ezzel kikapcsol a load balancing, és az útvonal közvetlen API-híváshoz hasonlít.",{"q":69,"a":70},"Mi történik, ha fallback indul?","Bármely hiba előreléptethet a models listában következő modellre, beleértve a kontextushossz-ellenőrzést, a moderációs jelzéseket, a rate limiteket és az állapotkimaradást. A hibás kísérlet modelltokendezetéért nem kell fizetni, a számlán a válaszoló futas szerepel — de a hívó mindkettőre vár.",{"q":72,"a":73},"Tarthatók a promptok egy régióban?","Igen, Business és Enterprise alatt: a eu.openrouter.ai vagy us.openrouter.ai címre küldött kérések promptjai és válaszai a régióban maradnak, régióközi fallback nélkül. A zero data retention minden csomagon elérhető, fiók- vagy kérés szinten.",[75,78,81,84,87,90,93,96],{"id":76,"title":77},"what-it-is","Mi ez",{"id":79,"title":80},"how-it-works","Hogyan működik",{"id":82,"title":83},"getting-started","Első lépések",{"id":85,"title":86},"pricing","Árazás",{"id":88,"title":89},"control-plane","Vezérlés",{"id":91,"title":92},"where-it-shingles","Hol nyikorog",{"id":94,"title":95},"verdict","Ítélet",{"id":97,"title":98},"sources","Források",[100,104,107,110,113,151,152,162,168,172,175,178,216,217,220,222,229,244,245,248,265,271,272,275,285,291,292,298,354,357,374,375,378,393,403,404],{"type":101,"content":102},"paragraph",[103],"Az OpenRouter egy hosztelt útválasztó réteg a modell-API-k előtt: egyetlen OpenAI-kompatibilis végpont, amely minden kérést ahhoz a szolgáltatóhoz továbbít, amelyik az adott modellt kiszolgálja. Saját modellt nem üzemeltet, a díjszabási oldal szerint az inference a szolgáltató listaáron megy, a platformdíj pedig a credits vásárlásakor keletkezik. Ennek az értékelésnek az álláspontja: ez a legolcsóbb módja annak, hogy egy változó katalógust egy kulcs mögé tereljünk — és a legdrágább függőség, amit később le lehet bontani, miután minden szolgáltatás ezt a dialektust beszéli.",{"type":101,"content":105},[106],"Azt a helyet foglalja el, amit egy önállóan üzemeltetett gateway foglalna, és a LiteLLM-mel, a Portkeyvel és azzal a szokással versenyez, hogy minden szolgáltatót külön hívunk meg. A különbség a felelősségben van, nem a funkciókban. A gateway egy folyamat, amit telepítenek, patchelnek és skáláznak; az OpenRouter egy szolgáltatás a termék minden hívásának útvonalán — a rendelkezésre állás, az adatkezelés és az árazás így valaki más problémája lesz. Éppen ezt vesszük meg.",{"type":108,"level":109,"id":76,"text":77},"heading",2,{"type":101,"content":111},[112],"A cég 2023 óta terel forgalmat, és a terméket száz modellre kiterjedő egységes felületként írja le. A dokumentált felület szándékosan kicsi: egy végpont, egy kulcs, egy modell-slug és néhány opcionális routing-jelzés. A szolgáltatók állapota, az ár-összehasonlítás és a failover mind a hívás túloldalán történik.",{"type":114,"ordered":115,"items":116},"list",false,[117,124,126,128,134,147,149],[118,119,123],"Kizárólag hosztelve: önállóan üzemeltetett kiadás nincs, a termék a(z) ",{"tag":120,"children":121},"code",[122],"https:\u002F\u002Fopenrouter.ai\u002Fapi\u002Fv1"," végpont.",[125],"500+ modell 80+ szolgáltatótól a fizetős csomagokon; a Free csomag 25+ ingyenes modellt kínál 4 szolgáltatótól.",[127],"OpenAI-kompatibilis chat completions, emellett Anthropic messages útvonal, Responses API, embeddingek és batch-ek.",[129,130,133],"Modell-fallback egy ",{"tag":120,"children":131},[132],"models"," listával: a következő modell jön, ha az első hibát ad, rate limitet kap vagy a moderáció elutasítja.",[135,136,139,140,139,143,146],"Szolgáltató-szabályozás kérésenként — ",{"tag":120,"children":137},[138],"order",", ",{"tag":120,"children":141},[142],"only",{"tag":120,"children":144},[145],"ignore",", kvantálási szűrők, valamint rendezés ár, throughput vagy késés szerint.",[148],"Bring-your-own-key útválasztás: a szolgáltatókulcs havi 25 000 USD listaárnyi inference-éig OpenRouter-díj nélkül.",[150],"Activity naplók exporttal minden csomagon, generációnkénti rekordok, valamint trace-export Datadogba, Grafana Cloudba, Langfuse-be, OpenTelemetrybe, Snowflake-be vagy webhookra.",{"type":108,"level":109,"id":79,"text":80},{"type":101,"content":153},[154,155,158,159,161],"Az alapértelmezett stratégia ár-alapú load balancing. A router először kihagyja az elmúlt 30 másodpercben komoly kimaradást szenvedett szolgáltatókat, majd a stabilok közül az ár négyzetének reciprokával súlyozva választ, a többit tartalékul hagyja: 1 USD-s és 3 USD-s végpont között a olcsóbb kilencszer nagyobb eséllyel jön előbb. A explicit ",{"tag":120,"children":156},[157],"sort"," vagy ",{"tag":120,"children":160},[138]," ezt a kiegyenlítést kapcsolja ki — ez az a kapcsoló, amely a költségoptimalizáló routerből kiszámíthatóvá teszi.",{"type":163,"src":164,"alt":165,"wide":166,"caption":167},"image","\u002Fimages\u002Fblog\u002Fopenrouter\u002Fdiagram-7.webp","OpenRouter-kérési útvonal Egy alkalmazás chat completiont küld egy OpenAI-kompatibilis végpontra. A router ár szerint rendezi a szóba jövő szolgáltatókat, a fallback lista megnevezi a következő modellt, egy szolgáltató válaszol, a válasz pedig megnevezi a ténylegesen kiszolgálót. A workspaces, a guardredek és az activity naplók a kérési útvonal alatt helyezkednek el.",true,"Egy végpont egy rakás szolgáltató-integrációt vált ki. A routing, a failover és a számlázás mind a hívás túloldalán van — éppen ezt veszi meg a platformdíj.",{"type":108,"level":169,"id":170,"text":171},3,"latency-cost","Az egy lépés ára",{"type":101,"content":173},[174],"Minden hívás most két hálózaton megy át, nem egyen. A díjszabási GYIK kimondja, hogy a routing a megbízhatóságot javítja, a késés viszont modelltől, szolgáltatótól és régiótól függ, a stabil késésre adott tanács pedig: rögzítse a modellt és a szolgáltatót. A plusz lépés elhanyagolható egy másodpercekig tartó generálás mellett, és nem elhanyagolható egy szubszekundumos osztályozás mellett: a rögzítés a közvetlen API viselkedését adja plusz egy oda-vissza úttal.",{"type":101,"content":176},[177],"A közbeiktatás ott marad látható, ahol számít. A válasz megnevezi a ténylegesen kiszolgáló végpontot, és egy opcionális header minden válaszban megmutatja a routing-döntést, így a váratlan szolgáltató egy naplósorban jelenik meg, nem egy ügyfélpanaszban.",{"type":114,"ordered":115,"items":179},[180,194,202,207],[181,183,184,139,187,158,190,193],{"tag":120,"children":182},[157],": ",{"tag":120,"children":185},[186],"price",{"tag":120,"children":188},[189],"throughput",{"tag":120,"children":191},[192],"latency",", és kikapcsolja a load balancinget.",[195,197,198,201],{"tag":120,"children":196},[138],": explicit szolgáltató-sorrend, ",{"tag":120,"children":199},[200],"allow_fallbacks"," false-zal, ha semmi más nem próbálható.",[203,206],{"tag":120,"children":204},[205],"require_parameters",": csak olyan szolgáltató, amely a kérés minden paraméterét támogatja — a strukturált kimenetek és a tool-hívások nem értékelődnek alul csendben.",[208,211,212,215],{"tag":120,"children":209},[210],"zdr"," és ",{"tag":120,"children":213},[214],"data_collection",": csak zero-data-retention végpontokra vagy csak nem tároló szolgáltatókra routing.",{"type":108,"level":109,"id":82,"text":83},{"type":101,"content":218},[219],"Egy kulcs és egy POST. Az ingyenes fiók azonnal működő végpontot kap: az ingyenes modelleknél percenként 20, naponta 50 kérés a limit, a napi keret pedig 1 000re nő, miután a fiók legalább 10 USD creditsért vásárolt.",{"type":120,"code":221},"curl https:\u002F\u002Fopenrouter.ai\u002Fapi\u002Fv1\u002Fchat\u002Fcompletions \\\n  -H \"Authorization: Bearer $OPENROUTER_API_KEY\" \\\n  -H \"Content-Type: application\u002Fjson\" \\\n  -d '{\n    \"models\": [\"~openai\u002Fgpt-sol-latest\", \"~anthropic\u002Fclaude-sonnet-latest\"],\n    \"messages\": [\n      { \"role\": \"user\", \"content\": \"Summarise this stack trace in one sentence.\" }\n    ],\n    \"provider\": {\n      \"sort\": \"price\",\n      \"require_parameters\": true\n    }\n  }'",{"type":101,"content":223},[224,225,228],"A válasz OpenAI-alakban érkezik, a ",{"tag":120,"children":226},[227],"model"," mező pedig megnevezi a ténylegesen kiszolgáló végpontot — ez alapján számlázzák a kérést, akár elsőként szerepelt a listán. A meglévő OpenAI-kliensnek csak más base URL kell; a dokumentáció ugyanezt a cserét mutatja Pythonban és TypeScriptben.",{"type":230,"variant":231,"title":232,"body":233},"callout","tip","Alias vagy rögzítés",[234],[235,236,239,240,243],"A ",{"tag":120,"children":237},[238],"~","-szal kezdődő slugok a család legújabb modelljére oldódnak fel, a dokumentáció példái ",{"tag":120,"children":241},[242],"~openai\u002Fgpt-sol-latest","-et használnak, hogy a deployok újrafordítás nélkül vigyék az új verziókat. A mechanizmus mindkét irányban működik: ha számla, benchmark vagy reprodukció kötődik egy pontos modellhez, a teljes azonosítót használja, és számoljon a 404-gyel, amint kivonják.",{"type":108,"level":109,"id":85,"text":86},{"type":101,"content":246},[247],"Nincs előfizetés, nincs minimum, nincs lekötés. A creditsot kártyával, AliPayjal vagy USDC-vel vásárolják előre, minden kérés a szolgáltató listaárát vonja le az egyenlegről; a platformdíj — 5,5% Standard, 8% Business — a vásárláskor keletkezik, kérésenként soha.",{"type":114,"ordered":115,"items":249},[250,252,254,263],[251],"Free: 25+ ingyenes modell, 4 szolgáltató, activity napló exporttal, naponta 50 kérés az ingyenes modelleknél. Nincs auto-routing, nincs költségkeret, nincs prompt caching.",[253],"Standard: mind az 500+ modell és 80+ szolgáltató 5,5% díjjal a credits-vásárlásokra, auto-routinggal, költségkeretekkel, prompt cachinggel, management API-kulcsokkal és öt workspace-szel.",[255,256,211,259,262],"Business: ugyanaz a katalógus 8%-kal, EU-s vagy US-széles in-region routing ",{"tag":120,"children":257},[258],"eu.openrouter.ai",{"tag":120,"children":260},[261],"us.openrouter.ai"," címen, 1 000 workspace és workload identity federation.",[264],"Enterprise: szerződött díjak, számlázás, SSO és SCIM, szerződéses SLA, valamint havi 200 000 USD BYOK-listaárnyi inference 5%-os felár előtt.",{"type":230,"variant":266,"title":267,"body":268},"note","Hová kerül a százalék",[269],[270],"Mivel a díj a vásárláskor rögzül, az inference ráfordulása fix százalék, bármelyik modell válaszol: havi 10 000 USD listaárnyi forgalom Standardon 550 USD. A fizetős csomagok routing-funkciókat vesznek, nem throughputot — az OpenRouter nem határoz csomagszintű rate limitet, amit fizetős modellnél elér, az rendszerint a szolgáltatótól jön.",{"type":108,"level":109,"id":88,"text":89},{"type":101,"content":273},[274],"Csapatoknál a lényeg nem a request bodyban van. A workspaces, a költségkeretek és a guardredek döntik el, hogy ki milyen kulccsal mire hívhat — és a platformban élnek, nem a saját kódban. Éppen ez az értelmük: a szabályváltozás már nem deploy.",{"type":114,"ordered":115,"items":276},[277,279,281,283],[278],"A workspaces elválasztják a környezeteket: öt Free és Standard alatt, 1 000 Businesson, egyenként saját kulcsokkal és limitekkel, plusz credits-cap kulcsonként.",[280],"A guardredek kulcsokhoz vagy tagokhoz kötődnek, és a költést, a modellhozzáférést, a prompt-injection mintákat és az érzékeny adatok szabályait fedik le.",[282],"A management API-kulcsok programozottan hoznak létre, listáznak és törölnek kulcsokat — a kulcs életciklusa így a CI-be kerül, nem szokássá a dashboardon.",[284],"A Broadcast tracet küld Datadogba, Grafana Cloudba, Langfuse-be, OpenTelemetrybe, Sentrybe, Snowflake-be vagy bármely HTTP-végpontra, így a költés összekapcsolható a többi rendszerrel.",{"type":101,"content":286},[287,288,290],"A zero data retention minden csomagon fut, fiók- vagy kérés szinten ",{"tag":120,"children":289},[210],"-rel. A regionális tartózkodás az a funkció, ami nem ingyenes: a promptok és válaszok EU-n vagy USA-n belül tartása a Business csomagtól indul, így szabályozott terhelésnél a 8%-os csomag az alap, nem a feljebb lépés.",{"type":108,"level":109,"id":91,"text":92},{"type":101,"content":293},[294,295,297],"A gyengeségek szerkezetiek. Minden kérés egy harmadik fél rendelkezésre állásától függ, a routing-döntés pedig láthatatlan marad, amíg a metadata header be nem kapcsol. Ugyanannak a modellnek a szolgáltatói eltérően támogatják a paramétereket, így ami az egyik végponton működik, a másikon csendben leépülhet, ha nincs ",{"tag":120,"children":296},[205],". A szolgáltatói árváltozások átmennek — a GYIK szerint az új díjszabás szerint számlázzák —, az ingyenes sávot pedig rate limit korlátozza, nem nagylelkűség. És ott a tulajdonlás: a Bloomberg és a Wall Street Journal 2026 augusztusában arról számolt be, hogy a Stripe megállapodott a felvásárlásról — emlékeztető arra, hogy a kérési útvonalban lévő rétegnek gazdája van.",{"type":299,"head":300,"rows":308},"table",[301,303,304,306],[302],"",[24],[305],"LiteLLM",[307],"Első féltől API",[309,318,327,336,345],[310,312,314,316],[311],"Üzemeltetés",[313],"Hosztelt, nincs önálló kiadás",[315],"Önállóan üzemeltetett proxy",[317],"Saját kód szolgáltatónként",[319,321,323,325],[320],"Díj",[322],"5,5% a creditsra (Standard)",[324],"MIT-mentes, fizetős árajánlattal",[326],"Nincs",[328,330,332,334],[329],"Katalógus",[331],"500+ modell, 80+ szolgáltató",[333],"140+ szolgáltató, ~1 900 modell",[335],"Egy vendor integrációnként",[337,339,341,343],[338],"Fallback",[340],"Kérésenként, szolgáltatót és modellt át",[342],"A routerben konfigurálva",[344],"Kézzel megírva",[346,348,350,352],[347],"Legjobb illik",[349],"Sok modell, egy számla, nincs üzemeltetés",[351],"Platformcsapat kulccsal és kerettel",[353],"Egy modell a hot pathen",{"type":101,"content":355},[356],"Az összehasonlítás, ami számít, a felelősségről szól, nem a funkciókról. Az OpenRouter elveszi az üzemeltetést, és hozzátesz egy százalékot meg egy függőséget; a LiteLLM megtartja a kulcsokat és a terhelést a saját infrastruktúrában; az első féltől származó API adja a legrövidebb utat és a legkevesebb fedezetet, ha egy modell elérhetetlen. Egy olyan terméknél, amely gyakrabban vált modellt, mint másik árat, a fedezet többet ér a díjnál.",{"type":230,"variant":358,"title":359,"body":360},"warn","Gördüljön be előbb",[361],[362,363,158,365,367,368,370,371,373],"Az alapértelmezett load balancing a következő kérést másik szolgáltatóhoz viheti, ami a késést, a kvantálást és néha a kimenetet is módosítja. Állítsa be explicit a ",{"tag":120,"children":364},[157],{"tag":120,"children":366},[138]," értéket, tartsa bekapcsolva a ",{"tag":120,"children":369},[205],"-t a strukturált kimeneteknél, és döntse el tudatosan, hogy az ",{"tag":120,"children":372},[200]," cserélhet-e modellcsaládot menet közben — alapértelmezésben egy hiba a lista következő modelljére visz.",{"type":108,"level":109,"id":94,"text":95},{"type":101,"content":376},[377],"Az OpenRouter azt válaszolja meg, hogyan kaphat sok agent, szolgáltatás és csapat hozzáférést a gyorsan változó modellkatalógushoz gateway üzemeltetése nélkül. Azt nem válaszolja meg, hogyan birtokolja valaki a kérési utat.",{"type":114,"ordered":166,"items":379},[380,385,387,389,391],[381,382,384],"Válassza, ha a modellkatalógus gyorsabban változik, mint a integráció: egy végpont és egy ",{"tag":120,"children":383},[132]," lista a beszállítói értékelést konfigurációs értékké alakítja.",[386],"Válassza agentes és coding-agentes terhelésre, ahol a számla sok modellre terjed ki, és egy exportálható activity napló többet ér négy szolgáltatói dashboardnál.",[388],"BYOK-et használjon, ha a szerződés vagy az adatszabály közvetlen szolgáltatói kapcsolatot kíván; a routing és az analitika megmarad, a havi 25 000 USD listaárnyi inference díjmentes.",[390],"Hagyja el olyan késésérzékeny útvonalakon, ahol nem rögzíthető a szolgáltató: a rendelkezésre állási routing maga a termék, és a végpontot váltó kérés olyan farok-késés, amit senki sem kontrollál.",[392],"Hagyja el, ha egy szolgáltató és egy modell az egész termék: a szolgáltató SDK-ja, a közvetlen számlázás és a közvetítői százalék kevesebb gépezet ugyanahhoz a híváshoz.",{"type":394,"content":395},"quote",[396,397,398,402],"„Az inference minden csomagon a szolgáltató listaáron megy.”"," ",{"tag":399,"href":32,"children":400},"a",[401],"a díjszabási oldal"," A díj kicsi és átlátható; a függőség az, amit be kell árazni — és az egyik listán sem szerepel.",{"type":108,"level":109,"id":97,"text":98},{"type":114,"ordered":166,"items":405},[406,410,414,418,422,426],[407],{"tag":399,"href":29,"children":408},[409],"OpenRouter-dokumentáció: quickstart",[411],{"tag":399,"href":32,"children":412},[413],"OpenRouter-díjszabás",[415],{"tag":399,"href":35,"children":416},[417],"OpenRouter-dokumentáció: modell-fallback",[419],{"tag":399,"href":38,"children":420},[421],"OpenRouter-dokumentáció: szolgáltatói routing",[423],{"tag":399,"href":41,"children":424},[425],"OpenRouter-dokumentáció-ág",[427],{"tag":399,"href":25,"children":428},[429],"Wikipédia: OpenRouter",[431,488,552,613],{"slug":432,"published":433,"minutes":434,"category":7,"tags":435,"keywords":441,"about":455,"sources":463,"cover":482,"og":483,"expertise":46,"locales":484,"lang":50,"title":485,"description":486,"coverAlt":487},"deepseek-v4-1-flash-1017","2026-10-17",15,[436,437,438,439,440],"DeepSeek","Open-weight models","KV cache","Mixture of experts","LLM cost",[442,443,444,445,446,447,448,449,450,451,452,453,454],"DeepSeek V4.1 Flash 1017","DeepSeek V4.1 Flash","Causal Encoder-Decoder","Compressed Sparse Attention 2","CSA2","FP4 KV cache","KV cache compression","SWA Bounded Replay","Engram conditional memory","DSpark speculative decoding","DeepSeek pricing","DeepSWE benchmark","open-weight coding model",[456,458,460],{"name":436,"url":457},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FDeepSeek",{"name":439,"url":459},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FMixture_of_experts",{"name":461,"url":462},"Transformer (deep learning architecture)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTransformer_(deep_learning_architecture)",[464,467,470,473,476,479],{"title":465,"url":466},"DeepSeek-AI: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression (arXiv:2609.19969)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.19969",{"title":468,"url":469},"Hugging Face: deepseek-ai\u002FDeepSeek-V4.1-Flash-1017 model card","https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-V4.1-Flash-1017",{"title":471,"url":472},"OpenRouter: DeepSeek V4.1 Flash 1017, pricing and providers","https:\u002F\u002Fopenrouter.ai\u002Fdeepseek\u002Fdeepseek-v4.1-flash-1017",{"title":474,"url":475},"The Decoder: Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks while once again massively cutting per-task costs","https:\u002F\u002Fthe-decoder.com\u002Fdeepseek-v4-1-flash-1017-beats-larger-rivals-in-agentic-tasks-while-once-again-massively-cutting-per-task-costs\u002F",{"title":477,"url":478},"AI Weekly: DeepSeek opens V4.1-Flash-1017 weights and $0.75 Search API","https:\u002F\u002Faiweekly.co\u002Falerts\u002Fdeepseek-opens-v41-flash-1017-weights-and-075-search-api",{"title":480,"url":481},"DeepSeek on X: DeepSeek-V4.1-Flash-1017 announcement","https:\u002F\u002Fx.com\u002Fdeepseek_ai\u002Fstatus\u002F2111375640717033777","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fdeepseek-v4-1-flash-1017\u002Fog.jpg",[48,49,50],"DeepSeek V4.1 Flash 1017: 890 bájt KV-cache tokenenként, és mit nyer ezzel egy ágens","Technikai mélyfúrás a DeepSeek V4.1 Flash 1017-ről: encoder-decoder felosztás, CSA2 cache-megosztás, FP4 KV-cache, benchmarkok és a valós költség ágensfeladatonként.","Balra egy magas, vékony kártyákból álló köteg, egy nyíl, jobbra ugyanezek a kártyák a magasság negyedére préselve.",{"slug":489,"published":433,"minutes":6,"category":7,"tags":490,"keywords":494,"about":506,"sources":516,"cover":546,"og":547,"expertise":46,"locales":548,"lang":50,"title":549,"description":550,"coverAlt":551},"llm-rate-limits-retries-provider-fallback",[491,492,338,493,9],"Rate limits","Retries","Reliability",[495,496,497,498,499,500,501,502,503,504,505],"llm rate limit handling","429 too many requests llm api","exponential backoff with jitter","anthropic 529 overloaded error","openai rate limit retry","llm provider fallback","litellm fallbacks","retry-after header","llm circuit breaker","multi provider llm failover","claude api rate limits",[507,510,513],{"name":508,"url":509},"Token bucket","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FToken_bucket",{"name":511,"url":512},"Exponential backoff","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FExponential_backoff",{"name":514,"url":515},"Circuit breaker design pattern","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCircuit_breaker_design_pattern",[517,520,523,526,529,532,535,538,541,543],{"title":518,"url":519},"Claude Platform Docs: Rate limits","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Frate-limits",{"title":521,"url":522},"Claude Platform Docs: API errors","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fapi\u002Ferrors",{"title":524,"url":525},"OpenAI API Docs: Rate limits","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Frate-limits",{"title":527,"url":528},"AWS Builders Library: Timeouts, retries and backoff with jitter","https:\u002F\u002Fbuilder.aws.com\u002Fcontent\u002F3EumjoZascWd1oZiEgL8ORlv3qE\u002Ftimeouts-retries-and-backoff-with-jitter",{"title":530,"url":531},"MDN: Retry-After header","https:\u002F\u002Fdeveloper.mozilla.org\u002Fen-US\u002Fdocs\u002FWeb\u002FHTTP\u002FReference\u002FHeaders\u002FRetry-After",{"title":533,"url":534},"Martin Fowler: Circuit Breaker (2014)","https:\u002F\u002Fmartinfowler.com\u002Fbliki\u002FCircuitBreaker.html",{"title":536,"url":537},"LiteLLM Docs: Router, retries and cooldowns","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Frouting",{"title":539,"url":540},"LiteLLM Docs: Proxy fallbacks and reliability","https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fproxy\u002Freliability",{"title":542,"url":35},"OpenRouter Docs: Model fallbacks",{"title":544,"url":545},"AI SDK Docs: Settings (maxRetries, timeout)","https:\u002F\u002Fai-sdk.dev\u002Fdocs\u002Fai-sdk-core\u002Fsettings","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-rate-limits-retries-provider-fallback\u002Fog.jpg",[48,49,50],"LLM rate limitek élesben: újrapróbálás, backoff és szolgáltatóváltás","Hogyan működnek az LLM rate limitek, mit érdemes újrapróbálni, backoff jitterrel, retry egy rétegben, és fallback-láncok, amelyek nem rontják el a kimenetet.","Kis négyzetek kapaszkodnak három fokon egy széles téglalaphoz, mögötte még kettő sorban.",{"slug":553,"published":433,"minutes":554,"category":7,"tags":555,"keywords":561,"about":572,"sources":582,"cover":607,"og":608,"expertise":46,"locales":609,"lang":50,"title":610,"description":611,"coverAlt":612},"prompt-versioning-management",8,[556,557,558,559,560],"Prompt management","Versioning","LLMOps","Evals","Langfuse",[562,563,564,565,566,567,568,569,570,571],"prompt versioning","prompt management","prompt registry","version control for prompts","langfuse prompt management","mlflow prompt registry","prompts in git","openai prompt object deprecation","prompt rollback production","prompt ci evaluation",[573,576,579],{"name":574,"url":575},"Prompt engineering","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_engineering",{"name":577,"url":578},"Version control","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FVersion_control",{"name":580,"url":581},"Continuous integration","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContinuous_integration",[583,586,589,592,595,598,601,604],{"title":584,"url":585},"OpenAI API Docs: Migrate from prompt objects","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompting\u002Fmigrate-from-prompt-object",{"title":587,"url":588},"OpenAI API Docs: Prompt engineering (reusable prompts deprecation note)","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fprompt-engineering",{"title":590,"url":591},"Langfuse Docs: Prompt version control","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fprompt-version-control",{"title":593,"url":594},"Langfuse Docs: Prompt caching in the SDKs","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Fcaching",{"title":596,"url":597},"Langfuse Docs: Link prompts to traces","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fprompt-management\u002Ffeatures\u002Flink-to-traces",{"title":599,"url":600},"MLflow Docs: Prompt Registry","https:\u002F\u002Fmlflow.org\u002Fdocs\u002Flatest\u002Fgenai\u002Fprompt-registry\u002F",{"title":602,"url":603},"Promptfoo Docs: GitHub Action","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fintegrations\u002Fgithub-action\u002F",{"title":605,"url":606},"Claude Platform Docs: Prompt caching","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fprompt-caching","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprompt-versioning-management\u002Fog.jpg",[48,49,50],"Promptverziózás élesben: git, registry, címkék és visszaállítás","Promptok verziózása élesben: mi tartozik egy verzióhoz, git vagy prompt registry, címkék és visszaállítás, eval-kapu a CI-ban és a cache-re gyakorolt hatás.","Öt álló kártya sorban, a harmadik íves nyíllal visszafordul, a kapu az utolsó előtt áll.",{"slug":614,"published":433,"minutes":615,"category":7,"tags":616,"keywords":621,"about":632,"sources":642,"cover":663,"og":664,"expertise":46,"locales":665,"lang":50,"title":666,"description":667,"coverAlt":668},"llm-batch-api-offline-workloads",9,[617,618,558,619,620],"Batch API","Cost","Prompt caching","Data pipelines",[622,623,624,625,626,627,628,629,630,631],"llm batch api","anthropic message batches api","openai batch api","gemini batch mode","batch inference llm cost","batch api 50 percent discount","openai flex processing","bedrock batch inference","llm offline processing","batch api prompt caching",[633,636,639],{"name":634,"url":635},"Batch processing","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FBatch_processing",{"name":637,"url":638},"JSON Lines","https:\u002F\u002Fjsonlines.org\u002F",{"name":640,"url":641},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[643,646,648,649,652,655,657,660],{"title":644,"url":645},"Claude Platform Docs: Batch processing","https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fbuild-with-claude\u002Fbatch-processing",{"title":647,"url":519},"Claude Platform Docs: Rate limits (Message Batches API)",{"title":605,"url":606},{"title":650,"url":651},"OpenAI API Docs: Batch API","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fbatch",{"title":653,"url":654},"OpenAI API Docs: Flex processing","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fguides\u002Fflex-processing",{"title":656,"url":525},"OpenAI API Docs: Rate limits (batch queue limits)",{"title":658,"url":659},"Google AI for Developers: Gemini Batch API","https:\u002F\u002Fai.google.dev\u002Fgemini-api\u002Fdocs\u002Fbatch-api",{"title":661,"url":662},"Amazon Bedrock User Guide: Batch inference","https:\u002F\u002Fdocs.aws.amazon.com\u002Fbedrock\u002Flatest\u002Fuserguide\u002Fbatch-inference.html","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-batch-api-offline-workloads\u002Fog.jpg",[48,49,50],"LLM batch API-k: félárú inferencia olyan munkára, amely várhat","Mikor érdemes az Anthropic, OpenAI és Gemini batch API-ját használni, hogyan működnek a limitek, a párosítás és a hibák, és hogyan adódnak össze a kedvezmények.","Széles doboz nyolc kis négyzettel, balról érkeznek, egy hosszú nyíl visszatér.",1792261159554]