[{"data":1,"prerenderedAt":825},["ShallowReactive",2],{"tool-helicone-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":14,"about":22,"sources":28,"cover":56,"og":57,"expertise":58,"locales":59,"lang":62,"title":63,"description":64,"coverAlt":65,"url":66,"pricing":67,"kind":9,"metaTitle":68,"takeaways":69,"faq":75,"toc":88,"blocks":119,"others":592},"helicone","2026-07-03",10,"llmops",[9,10,11,12,13],"LLM observability","OpenTelemetry","Cost tracking","Proxy","Gateway",[15,16,17,18,19,20,21],"helicone llm observability","helicone vs langfuse","llm cost tracking tool","open source llm observability","llm gateway proxy","self-host llm observability","helicone cache",[23,25],{"name":10,"url":24},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenTelemetry",{"name":26,"url":27},"Apache License 2.0","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FApache_License",[29,32,35,38,41,44,47,50,53],{"title":30,"url":31},"Helicone quickstart","https:\u002F\u002Fdocs.helicone.ai\u002Fgetting-started\u002Fquick-start",{"title":33,"url":34},"Helicone AI Gateway overview","https:\u002F\u002Fdocs.helicone.ai\u002Fgateway\u002Foverview",{"title":36,"url":37},"Helicone: latency impact and benchmark","https:\u002F\u002Fdocs.helicone.ai\u002Freferences\u002Flatency-affect",{"title":39,"url":40},"Helicone: proxy versus async integration","https:\u002F\u002Fdocs.helicone.ai\u002Freferences\u002Fproxy-vs-async",{"title":42,"url":43},"Helicone: LLM caching","https:\u002F\u002Fdocs.helicone.ai\u002Ffeatures\u002Fadvanced-usage\u002Fcaching",{"title":45,"url":46},"Helicone: self-hosting with Docker","https:\u002F\u002Fdocs.helicone.ai\u002Fgetting-started\u002Fself-deploy-docker",{"title":48,"url":49},"Helicone: how we calculate cost","https:\u002F\u002Fdocs.helicone.ai\u002Ffaq\u002Fhow-we-calculate-cost",{"title":51,"url":52},"Helicone pricing","https:\u002F\u002Fwww.helicone.ai\u002Fpricing",{"title":54,"url":55},"Helicone repository on GitHub","https:\u002F\u002Fgithub.com\u002FHelicone\u002Fhelicone","\u002Fimages\u002Fblog\u002Fhelicone\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fhelicone\u002Fog.jpg","ai-engineer",[60,61,62],"en","de","hu","Helicone: observability, ami a kérés útjában ül","A Helicone Apache-2.0 licencű LLM gateway és observability platform. Mit ad a proxy architektúra, mit kér érte, és hogyan néz ki valójában a saját üzemeltetés.","Címlap: Helicone, LLM-observability platform, a kérés útja az alkalmazástól az edge proxyn át a szolgáltatóig és vissza a naplótárba","https:\u002F\u002Fwww.helicone.ai","Open core · from $20 per month","Helicone: LLM-observability proxyval az úton",[70,71,72,73,74],"A Helicone Apache-2.0 licencű, körülbelül 6 200 GitHub-csillaga van, és több mint 100 modellt fog össze egyetlen OpenAI-kompatibilis végpont mögött.","Az integráció egy sor: más base URL, vagy az aszinkron OpenLLMetry út, ha a proxy nem lehet a kritikus úton.","A proxy hoz cache-t, rate limiteket, fallbackeket és retry-kat, az aszinkron út mindegyikről lemond.","A gyártói benchmark szerint az átlag 2,21 másodperc direkt és proxyn keresztül egyaránt, 500 összevált kérésen mérve, text-ada-001 modellel.","A saját üzemeltetés öt komponenst jelent — web, worker, Jawn, Supabase és ClickHouse plusz MinIO —, és a Jawn már nem proxyz, a gateway külön szolgáltatás.",[76,79,82,85],{"q":77,"a":78},"Nyílt forráskódú a Helicone?","Igen, Apache 2.0 licenc alatt. A körülbelül 6 200 csillagos repository a gatewayt, a naplógyűjtőt és a dashboardot tartalmazza. A hosztolt csomagok olyan funkciókat adnak hozzá, mint SOC 2 riport, HIPAA opciók, SAML SSO és on-prem szerződés.",{"q":80,"a":81},"Okoz késleltetést a Helicone proxy?","A gyártó saját benchmarkja 500 összevált kérést küld közvetlenül az OpenAI-nak és a Heliconén keresztül, és mindkét esetben 2,21 másodperces átlagot mér, p90 esetén 3,27 kontra 3,29 másodpercet. Ez egy gyártói teszt text-ada-001-en, tehát bizonyítja, hogy az többlet kicsi, nem pedig olyan szám, amelyre tervezni lehet.",{"q":83,"a":84},"Kikerülhető-e a Helicone a kritikus útból?","Igen, az aszinkron OpenLLMetry integrációval, amely a válasz után logol, és soha nem áll az alkalmazás és a szolgáltató között. A dokumentáció explicit módon megnevezi a cserearányt: az aszinkron út elveszíti a bucket cache-t, az egyedi rate limiteket és a retry-kat.",{"q":86,"a":87},"Hogyan működik a Helicone több szolgáltatóval?","Az AI Gateway egyetlen OpenAI-kompatibilis végponton keresztül 100-nál több modellt kínál, és lefordítja a kérést az adott szolgáltató formátumára. Credit használatakor a Helicone tartja a szolgáltatói kulcsokat, és nulla felemet nevez meg; saját kulcsok is használhatók.",[89,92,95,98,101,104,107,110,113,116],{"id":90,"title":91},"what-it-is","Mi ez",{"id":93,"title":94},"how-it-works","Hogyan működik",{"id":96,"title":97},"getting-started","Első lépések",{"id":99,"title":100},"proxy-or-async","Proxy vagy async, válassz tudatosan",{"id":102,"title":103},"performance","Késleltetés és egy ugrás ára",{"id":105,"title":106},"pricing","Árak és melyik számláló számít",{"id":108,"title":109},"self-hosting","Az egész stack saját üzemeltetése",{"id":111,"title":112},"where-it-shingles","Hol gyengül",{"id":114,"title":115},"verdict","Ítélethoz",{"id":117,"title":118},"sources","Források",[120,124,127,130,133,149,150,153,162,165,166,169,172,175,182,183,186,255,258,259,262,331,334,340,341,344,347,414,415,418,432,437,438,441,522,525,526,529,546,552,553],{"type":121,"content":122},"paragraph",[123],"A Helicone Apache-2.0 licencű LLM gateway és observability platform, és a teszt álláspontja az, hogy az architektúra maga a történet: a Helicone úgy működik, hogy az alkalmazás és a modellszolgáltató közé kerül. Egyetlen módosított kódsorért hatalmas funkcionalitást vásárol, és egy hálózati ugrást, egy adatrezidencia-kérdést és egy szolgáltatót a kritikus úton fizet. Azoknak a csapatoknak, akiknek hétfőn kell egy dashboard, jó ez a csere. Azoknak, akiknek millisecondosban mért késleltetési budgetjük van vagy szabályuk szerint a promptok nem hagyhatják el a hálózatot, rossz az alak.",{"type":121,"content":125},[126],"Két irányban is versenyez. A tiszta tracing backendekhez képest, mint a Langfuse, az Arize Phoenix és a LangSmith, nyer az első dashboardig eltelt időben és a proxyhoz kötött gateway funkciókban, veszít a natív OpenTelemetry instrumentációban és az értékelési eszközökben. Az API routerekhez képest, mint a LiteLLM vagy az OpenRouter, ez először observability, routing csak a toldalék.",{"type":128,"level":129,"id":90,"text":91},"heading",2,{"type":121,"content":131},[132],"Két termék osztozik egy kódbázison. A gateway OpenAI-kompatibilis végpont több mint 100 szolgáltató előtt, amit úgy ér el, hogy a base URL-t az ai-gateway.helicone.ai végpontra állítja. Az observability platform az, ami rögzíti az áthaladó kéréseket, ClickHouse-ban tárolja őket, és dashboardon, HQL nevű SQL-szerű lekérdezési nyelven, alerteken, riportokon és webhookokon keresztül válaszol a költség-, késleltetés-, session- és felhasználókérdésekre.",{"type":134,"ordered":135,"items":136},"list",false,[137,139,141,143,145,147],[138],"Apache 2.0 licenc, körülbelül 6 200 GitHub-csillag, és az a tény, hogy a Helicone 2025-ben a Mintlifhez csatlakozott.",[140],"Egysoros integráció: base URL-t állítani, vagy aszinkron naplót küldeni az OpenLLMetry instrumentáción át.",[142],"Költségkövetés a tokenhasználatból és egy nyilvános adatbázisból, amely több mint 300 modellt és szolgáltatót fed le.",[144],"Gateway funkciók a kérés útján: edge cache, egyedi rate limitek kérésszám, költség vagy property alapján, és automatikus fallbackek.",[146],"Operatív felület: sessionök, felhasználói metrikák, custom property-k, score-ok, datasetek, webhookok és egy MCP szerver az adatok fölött.",[148],"Saját üzemeltetés öt szolgáltatás: egy web frontend, egy Cloudflare Worker, a Jawn gyűjtő, a Supabase és a ClickHouse, plusz MinIO a tartalmakhoz.",{"type":128,"level":129,"id":93,"text":94},{"type":121,"content":151},[152],"A kérés útját szándékosan vékonyra tartják. Hacsak egy header nem kapcsol be funkciót, a worker változatlanul továbbítja a kérést és visszaadja a választ; a válasz befejezése után a proxy Kafka-ra küldi a naplókat egy külön szolgáltatás számára. A rendelkezésreállás-dokumentáció közvetlenül kimondja a szándékot: minden üzleti logika hiba esetén visszaesik a tiszta proxyzásra, így az observability egy hibája működő átviteli eszközzé minősül.",{"type":154,"attrs":155,"inner":159,"caption":160},"diagram",{"viewBox":156,"role":157,"aria-labelledby":158},"0 0 720 372","img","hel-t hel-d","\u003Ctitle id=\"hel-t\">A Helicone kérés útja\u003C\u002Ftitle>\u003Cdesc id=\"hel-d\">Felső sor: az alkalmazás chat completiont küld az OpenAI SDK-val a Helicone gatewayhez, amely Cloudflare Workersen fut, és vagy cache találatot ad vissza, vagy továbbít a szolgáltatónak és visszaadja a választ. Alsó sor: a válasz befejezése után a naplók Kafka-ra, majd ClickHouseba (analitika) és MinIOba (request és response body) kerülnek, ahonnan a dashboard, a HQL, az alertek és a riportok olvasnak. Alatta egy sáv: az aszinkron út teljesen megkerüli a gatewayt, az alkalmazás maga logol a válasz után, és cserébe lemond a cache-ről, a rate limitekről és a retry-król. Hiba esetén a worker visszaesik a tiszta proxyzásra, így az observability átviteli eszközzé degrádálódik.\u003C\u002Fdesc>\u003Ctext x=\"20\" y=\"28\" class=\"d-title\">A Helicone kérés útja\u003C\u002Ftext>\u003Ctext x=\"700\" y=\"28\" text-anchor=\"end\" class=\"d-label\">előbb proxy, utána naplók\u003C\u002Ftext>\u003Crect x=\"20\" y=\"46\" width=\"164\" height=\"64\" rx=\"10\" class=\"d-box\" \u002F>\u003Ctext x=\"102\" y=\"73\" text-anchor=\"middle\" class=\"d-text\">Alkalmazásod\u003C\u002Ftext>\u003Ctext x=\"102\" y=\"95\" text-anchor=\"middle\" class=\"d-small\">OpenAI SDK, egy sor\u003C\u002Ftext>\u003Cpath d=\"M184 78 H216\" class=\"d-line\" \u002F>\u003Ctext x=\"200\" y=\"70\" text-anchor=\"middle\" class=\"d-small\">kérés\u003C\u002Ftext>\u003Crect x=\"216\" y=\"46\" width=\"184\" height=\"64\" rx=\"10\" class=\"d-sky\" \u002F>\u003Ctext x=\"308\" y=\"73\" text-anchor=\"middle\" class=\"d-text\">Gateway\u003C\u002Ftext>\u003Ctext x=\"308\" y=\"95\" text-anchor=\"middle\" class=\"d-small\">Cloudflare Workers, edge\u003C\u002Ftext>\u003Cpath d=\"M400 78 H432\" class=\"d-line\" \u002F>\u003Ctext x=\"416\" y=\"70\" text-anchor=\"middle\" class=\"d-small\">továbbítás\u003C\u002Ftext>\u003Crect x=\"432\" y=\"46\" width=\"164\" height=\"64\" rx=\"10\" class=\"d-accent\" \u002F>\u003Ctext x=\"514\" y=\"73\" text-anchor=\"middle\" class=\"d-text\">Szolgáltató\u003C\u002Ftext>\u003Ctext x=\"514\" y=\"95\" text-anchor=\"middle\" class=\"d-small\">100+ modell, egy API\u003C\u002Ftext>\u003Cpath d=\"M596 78 H628\" class=\"d-line\" \u002F>\u003Ctext x=\"612\" y=\"70\" text-anchor=\"middle\" class=\"d-small\">válasz\u003C\u002Ftext>\u003Crect x=\"216\" y=\"150\" width=\"184\" height=\"64\" rx=\"10\" class=\"d-box d-dash\" \u002F>\u003Ctext x=\"308\" y=\"177\" text-anchor=\"middle\" class=\"d-small\">csak a válasz után\u003C\u002Ftext>\u003Ctext x=\"308\" y=\"199\" text-anchor=\"middle\" class=\"d-small\">naplók a Kafka-ra\u003C\u002Ftext>\u003Cpath d=\"M308 110 V150\" class=\"d-line\" \u002F>\u003Crect x=\"20\" y=\"150\" width=\"164\" height=\"64\" rx=\"10\" class=\"d-gold\" \u002F>\u003Ctext x=\"102\" y=\"177\" text-anchor=\"middle\" class=\"d-small\">edge cache\u003C\u002Ftext>\u003Ctext x=\"102\" y=\"199\" text-anchor=\"middle\" class=\"d-small\">rate limitek, fallbackek\u003C\u002Ftext>\u003Cpath d=\"M184 182 H216\" class=\"d-line\" \u002F>\u003Crect x=\"432\" y=\"150\" width=\"268\" height=\"64\" rx=\"10\" class=\"d-mint\" \u002F>\u003Ctext x=\"566\" y=\"177\" text-anchor=\"middle\" class=\"d-small\">ClickHouse az analitikához\u003C\u002Ftext>\u003Ctext x=\"566\" y=\"199\" text-anchor=\"middle\" class=\"d-small\">MinIO a request body-khoz\u003C\u002Ftext>\u003Cpath d=\"M400 182 H432\" class=\"d-line\" \u002F>\u003Crect x=\"20\" y=\"254\" width=\"680\" height=\"64\" rx=\"10\" class=\"d-box d-dash\" \u002F>\u003Ctext x=\"360\" y=\"281\" text-anchor=\"middle\" class=\"d-text\">Dashboard, HQL, alertek, riportok, MCP\u003C\u002Ftext>\u003Ctext x=\"360\" y=\"303\" text-anchor=\"middle\" class=\"d-small\">Aszinkron út gateway nélkül: napló a válasz után, cache, rate limitek és retry nélkül\u003C\u002Ftext>\u003Crect x=\"20\" y=\"336\" width=\"680\" height=\"28\" rx=\"8\" class=\"d-box\" \u002F>\u003Ctext x=\"360\" y=\"355\" text-anchor=\"middle\" class=\"d-small\">Hiba esetén a worker visszaesik a tiszta proxyzásra, az observability átviteli eszközzé degrádálódik\u003C\u002Ftext>",[161],"A gateway csak proxy módban van a kritikus úton, a naplózás viszont mindkét módban a válasz után történik.",{"type":121,"content":163},[164],"Egy következményt világosan ki kell mondani: proxy módban alapértelmezés szerint minden prompt és minden válasz átmegy egy külső edge hálózaton. A saját üzemeltetés megszünteti ezt, de éppen azt a részt is eltávolítja, ami a Heliconét könűenné teszi, mert a saját Jáwn már nem proxyz — a dokumentáció rögzíti, hogy a gateway route-okat eltávolították, és az AI Gateways-t külön kell telepíteni.",{"type":128,"level":129,"id":96,"text":97},{"type":121,"content":167},[168],"A teljes integráció egy base URL. Az alábbi példa az edge cache-et is bekapcsolja, ami a leggyorsabb módja annak, hogy a platform csináljon valami láthatót: a második azonos kérés a Cloudflare KV-tárolójából jön, nem a szolgáltatótól.",{"type":170,"code":171},"code","import os\nfrom openai import OpenAI\n\nclient = OpenAI(\n    base_url=\"https:\u002F\u002Fai-gateway.helicone.ai\",\n    api_key=os.environ[\"HELICONE_API_KEY\"],\n    default_headers={\n        \"Helicone-Cache-Enabled\": \"true\",\n        \"Cache-Control\": \"max-age=3600\",\n        \"Helicone-Cache-Seed\": \"user-123\",\n        \"Helicone-Property-Env\": \"production\",\n    },\n)\n\nresponse = client.chat.completions.create(\n    model=\"gpt-4o-mini\",\n    messages=[{\"role\": \"user\", \"content\": \"Summarise the refund policy.\"}],\n)\n\nprint(response.choices[0].message.content)\n# The next identical call returns Helicone-Cache: HIT and skips the provider.",{"type":121,"content":173},[174],"A cache kulcsa a cache seed, a kérés URL-je, a teljes request body és a releváns headerek hash-e, tehát pontos egyezés és nem szemantikus: egy szó vagy egy hőmérséklet megváltozása már találatlan. Az időtartam egy órától 365 napos maximumig terjed, a nem determinisztikus promptokhoz 20 eltárolt válasz enged bucket méret van, és a Helicone-Cache-Ignore-Keys kiveszi a kulcsból a request id-t vagy a szolgáltató saját prompt_cache_key mezőjét.",{"type":176,"variant":177,"title":178,"body":179},"callout","warn","A cache kulcsok kontextust szivárogtatnak",[180],[181],"Mivel a kulcs tartalmazza a request body-t, a felhasználónkénti cache seedből a kulcs így is az adott felhasználó prompt tartalmából képződik, a válaszok pedig Cloudflare Workers KV-ben laknak, nem a te infrastruktúrádban. Személyes adatot tartalmazó dolgoknál inkább kapcsold ki a cache-et, és döntsd el tudatosan, hogy a Helicone egyáltalán a kérés útján legyen-e.",{"type":128,"level":129,"id":99,"text":100},{"type":121,"content":184},[185],"Ez a döntés formálja minden mást. A Helicone mindkét módot dokumentálja, és szokatlanul őszinte a köztük lévő hézagról, ami könnyűvé teszi a választás végigvezetését, akkor is, ha a válasz ritkán kényelmes.",{"type":187,"head":188,"rows":195},"table",[189,191,193],[190],"Képesség",[192],"Proxy mód",[194],"Async mód",[196,203,209,214,219,224,231,236,241,248],[197,199,201],[198],"A kritikus úton",[200],"igen",[202],"nem",[204,206,207],[205],"Gateway cache és bucketek",[200],[208],"nem érhető el",[210,212,213],[211],"Egyedi rate limitek",[200],[208],[215,217,218],[216],"Automatikus retry-k",[200],[208],[220,222,223],[221],"Automatikus prompt-formázás",[200],[208],[225,227,229],[226],"Beállítási ráfordítás",[228],"egy base URL",[230],"instrumentálás OpenLLMetryvel",[232,234,235],[233],"Sessionök és felhasználói metrikák",[200],[200],[237,239,240],[238],"Custom property-k és score-ok",[200],[200],[242,244,246],[243],"Adatút",[245],"a promptok átmennek a Helicone edge-én",[247],"a promptok a szolgáltatónál maradnak",[249,251,253],[250],"Akkor válassz, ha",[252],"a cache és a rate limitek számítanak",[254],"a propagációs késés elfogadhatatlan",{"type":121,"content":256},[257],"A reális következtetés: ez két termék egy néven. A proxy egy gateway, amihez analitika van akasztva; az aszinkron integráció egy naplzókönyvtár webes felülettel. Aki a proxyt választja, cache-t, rate limiteket és fallbackeket kap, amiket különben maguknak kellene megépíteniük, és egy plusz ugrással és egy adatrezidencia-döntéssel fizet. Aki az aszinkron utat választja, megtartja a késleltetési budgetjét és a hálózati határát, és maga építi meg a gatewayt, vagy lemond róla.",{"type":128,"level":129,"id":102,"text":103},{"type":121,"content":260},[261],"A közzétett benchmark kicsi, de szokásosan jól leírt: 500 egyedi prompttal küldött kérés az OpenAI és a Helicone között ugyanabban az egy másodperces ablakban összeváltva, váltakozva, hogy melyik végpontot hívták először, maximális prompt kontextussal, text-ada-001-en, a két halmaz körbejárási késleltetését naplózva.",{"type":187,"head":263,"rows":270},[264,266,268],[265],"Statisztika",[267],"OpenAI direkt (s)",[269],"Helicone proxyn (s)",[271,277,284,290,297,304,311,318,325],[272,274,276],[273],"Átlag",[275],"2.21",[275],[278,280,282],[279],"Medián",[281],"2.87",[283],"2.90",[285,287,289],[286],"Szórás",[288],"1.12",[288],[291,293,295],[292],"p90",[294],"3.27",[296],"3.29",[298,300,302],[299],"Maximum",[301],"3.56",[303],"3.76",[305,307,309],[306],"Módszer",[308],"500 összevált kérés",[310],"azonos promotok, váltakozó sorrend",[312,314,316],[313],"Modell",[315],"text-ada-001",[317],"text-ada-001, maximális kontextus",[319,321,323],[320],"Többlet",[322],"alapvonal",[324],"csak a maximumban látható",[326,328,330],[327],"Ki futtatta",[329],"a gyártó",[329],{"type":121,"content":332},[333],"Olvasd el figyelmesen a maximum sort. Kétszáz millisekundum különbség egy másfél másodperces válaszon 6 százalék, és ugyanez az abszolút ugrás egy 300 milliszekundumos modellhíváson vagy egy 40 milliszekundumos eszközhíváson uralkodna. A benchmark ráadásul egy gyártói teszt egy visszavonott modellen: azt mutatja, hogy a többlet korlátos, nem azt, hogy egy adott terhelésnél mekkora lesz.",{"type":176,"variant":335,"title":336,"body":337},"note","Hová megy valójában az idő",[338],[339],"A naplózás nem a költség. A proxy csak a visszaadott válasz után ír a Kafka-ra, tehát a telemetria nem áll a felhasználó előtt. A költség a hálózati körút ahhoz az edge helyhez, amely a hívóhoz van közel, de nem feltétlenül a szolgáltató régiójához, plusz azok a gateway funkciók, amelyeket bekapcsolsz, és amelyek definíció szerint kérésenként dolgoznak.",{"type":128,"level":129,"id":105,"text":106},{"type":121,"content":342},[343],"Az ingyenes Hobby csomag havi 10 000 kérést, egy helyet, egy szervezetet, egy gigabájtot és hét nap megőrzést tartalmaz. A Pro havi 79 $ korlátlan hellyel, egy szervezettel, alertekkel, riportokkal, HQL-lel, egy hónap megőrzéssel és percenként 1 000 beolvasott naplóval. A Team 799 $ öt szervezetért, SOC 2 és HIPAA opcióval, három hónap megőrzéssel és percenként 15 000 naplóval. Az Enterprise korlátlan szervezetet, SAML SSO-t és on-prem telepítést ad.",{"type":121,"content":345},[346],"A szám, amelyre figyelni kell, egyiket sem árazza előkelően: az ingestion. Egy Hobby munkatér percenként 10 naplót olvas be, a Pro 1 000-et, a Team 15 000-et. Egy termelési alkalmazás felhasználónkénti kérésre több naplót is kiadhat — modellhívás, retrieval lépés, eszközhívás —, így egy mérsékelten forgalmas termék a Pro plafonját a kéréskeret kimerítése előtt elfogyasztja, és az a csomag, ami ezt megoldja, havi 799 $. A tárolás az első gigabájt felett külön számlálódik.",{"type":187,"head":348,"rows":377},[349,355,361,367,372],[350,351,352,353,354],"Csomag","Díj","Kérések","Ingestion","Megőrzés",[356,357,358,359,360],"Hobby","0 $","10 000 havonta","10 napló percenként","7 nap",[362,363,364,365,366],"Pro","79 $ havonta","használatalapú","1 000 napló percenként","1 hónap",[368,369,364,370,371],"Team","799 $ havonta","15 000 napló percenként","3 hónap",[373,374,364,375,376],"Enterprise","egyéni","30 000 napló percenként","korlátlan",[378,386,394,405],[379,381,383,384,385],[380],"Helyek",[382],"1",[376],[376],[376],[387,389,390,391,393],[388],"Szervezetek",[382],[382],[392],"5",[376],[395,397,399,401,403],[396],"Fontos kiegészítések",[398],"semmi",[400],"HQL, alertek, riportok",[402],"SOC 2, HIPAA",[404],"SAML SSO, on-prem",[406,408,410,411,412],[407],"Saját üzemeltetés",[409],"ingyenes",[409],[409],[413],"Helm chart kérésre",{"type":128,"level":129,"id":108,"text":109},{"type":121,"content":416},[417],"Az Apache-2.0 repository a teljes platformot tartalmazza, és a README közvetlenül megnevezi az üzemeltetési alakot: öt szolgáltatás, és egy kézi telepítés, amelyet nem ajánlottként jelöl a Docker compose fájl vagy egy Enterprise Helm chart javára.",{"type":134,"ordered":135,"items":419},[420,422,424,426,428,430],[421],"Web: a dashboard frontendje, egy Next.js alkalmazás.",[423],"Worker: a proxy, a hosztolt változatban Cloudflare Workersként.",[425],"Jawn: a naplógyűjtő, egy Express szolgáltatás Tsoa-generált route-okkal.",[427],"Supabase: az alkalmazás-adatbázis és a hitelesítés.",[429],"ClickHouse: az analitikai tároló, amely a költség- és késleltetéskérdésekre válaszol.",[431],"MinIO: objektumtároló a request és response body-khoz.",{"type":176,"variant":177,"title":433,"body":434},"Két dolog, amit a Docs jól figyelmeztet",[435],[436],"A Jawn már nem proxyz: a gateway route-okat eltávolították, tehát a saját üzemeltetésű példány az AI Gateways-t külön szolgáltatásként futtatja, vagy egyáltalán nem proxyz. És a 8585-ös port hitelesítés nélkül fogad proxy kéréseket, így aki eléri, elköltheti a szolgáltatód kreditjét — korlátozd tűzfallal, tegyél elé TLS-t, és csatolj volume-ot a Postgreshez, a ClickHousehoz és a MinIOhoz, különben egy újraindítás törli az adatot.",{"type":128,"level":129,"id":111,"text":112},{"type":121,"content":439},[440],"Az őszinte gyengeségek strukturálisak, nem kozmetikaiak. A Helicone adatmodellje azokra a kérésekre van építve, amelyek áthaladnak a gatewayén; egy csapat, amely már OpenTelemetry spanekkel trace-el, két instrumentációs modell között kell döntsön. Az értékelési történet a Langfuse-hoz vagy a Braintrusthoz képest vékony: vannak promptok, playground és score-ok, de nincs első osztályú kísérleti munkafolyamat. És a tulajdonosi kérdés élő: a Helicone 2025-ben csatlakozott a Mintlifyhez, ami leveszi az open-core lock-in kockázatot, de hozzáadja a szokásos szolgáltatói függést.",{"type":187,"head":442,"rows":451},[443,445,447,449],[444],"",[446],"Helicone",[448],"Langfuse",[450],"Arize Phoenix",[452,461,470,479,488,496,504,513],[453,455,457,459],[454],"Licenc",[456],"Apache 2.0",[458],"MIT mag, enterprise extrák",[460],"Elastic License 2.0",[462,464,466,468],[463],"Instrumentáció",[465],"proxy vagy OpenLLMetry",[467],"natív OpenTelemetry",[469],"OpenInference OTel-en",[471,473,475,477],[472],"Legerősebb oldal",[474],"egysoros indulás, gateway funkciók",[476],"értékelési és prompt munkafolyamatok",[478],"lokális, notebook-szerű értékelés",[480,482,484,486],[481],"Leggyengébb oldal",[483],"nem OTel-natív a tracinghez",[485],"nehezebb elindítani mint egy base URL-t",[487],"az ELv2 nem permisszív",[489,491,493,495],[490],"Gateway funkciók",[492],"cache, limitek, fallbackek",[494],"nincs",[494],[497,498,500,502],[407],[499],"Apache 2.0, öt szolgáltatás",[501],"MIT, Docker Compose vagy Helm",[503],"ELv2, saját üzemeltetés",[505,507,509,511],[506],"Költségkövetés",[508],"beépített",[510],"modellenként konfigurálható",[512],"külön termék",[514,516,518,520],[515],"Legjobb illeszkedés",[517],"csapatok, akiknek idényen láthatóság kell",[519],"csapatok, akik értékelnek",[521],"csapatok, akik lokálisan trace-elnek és értékelnek",{"type":121,"content":523},[524],"A Langfuse MIT-licencű, 2026 januárjában megvásárolta a ClickHouse, a licenc és a saját üzemeltetés kifejezetten változatlan maradt, és szintén ClickHouse-ban tárolja a trace-eket; ha a döntő kritérium a permisszívebb licenc egy valódi értékelési stackkel, az az erősebb eszköz. Az Arize Phoenix az OpenInference konvencióira épül, és bárhol fut, air-gapped módban is, de az Elastic License 2.0 nem permisszív. A Helicone érvelése nem a képességek, hanem az idő: a repositorytól a költség-dashboardig, felhasználónkénti kérésben mérve, egy kódsor.",{"type":128,"level":129,"id":114,"text":115},{"type":121,"content":527},[528],"A Helicone akkor a jó eszköz, ha senki nem tudja megmondani, mennyibe került az LLM-elköltség a múlt kedden, és rossz, ha a késleltetés, az adatrezidencia vagy a tracing sztenderdek döntik el az architektúrát. A mérnöki munkája unalmas a legjobb értelemben: a proxy vékony, a naplók a válasz után mennek ki, és a termék a gatewaytől a dashboardig Apache-2.0. A gyengesége ugyanilyen világos: a te gatewayed akar lenni, és minden, ami kényelmessé teszi, ennek következménye.",{"type":134,"ordered":530,"items":531},true,[532,534,536,538,540,542,544],[533],"Válaszd, ha a csapatnak heteken belül kell költség-, késleltetés- és hibavisszajelzés kérésenként, és még nincs tracing stackje.",[535],"Válaszd, ha az edge cache, az egyedi rate limitek és az automatikus fallbackek megérik a kérés útján.",[537],"Válaszd az aszinkron OpenLLMetry utat, ha a Helicone analitikáját proxy ugrás nélkül akarod, és fogadd el a gateway funkciók hiányát.",[539],"Kerüld el, ha a promptok nem hagyhatják el a hálózatot, vagy ha a proxy ugrás megeszi a kemény késleltetési budgetet.",[541],"Kerüld el, ha a platform már OpenTelemetryvel trace-el, és egy második instrumentációs modell feldarabolná az adatot.",[543],"Gondolj újra körülbelül 1 000 beolvasott napló percenként felett, vagy ha a kéréskeret már nagyon értékes.",[545],"Gondolj újra, ha a saját üzemeltetéshez nem akarod a Cloudflare-függést, mert a proxyréteg a hosztolt termék magja.",{"type":176,"variant":547,"title":548,"body":549},"tip","Az egyetlen, amit mérni kell",[550],[551],"Mielőtt elköteleződsz, mérd a gateway ugrását a saját késleltetési budgeted ellen, a saját modelled és régióddal. A Helicone közzétesz egy korrekt benchmarkot, de egy korrekt benchmark text-ada-001-en alig mond valamit egy 300 milliszekundumos streaming válaszról, amelyet a szolgáltatótól három időzónára levő régióból szolgálnak ki.",{"type":128,"level":129,"id":117,"text":118},{"type":134,"ordered":530,"items":554},[555,560,564,568,572,576,580,584,588],[556],{"tag":557,"href":31,"children":558},"a",[559],"Helicone gyorsindítás",[561],{"tag":557,"href":34,"children":562},[563],"Helicone AI Gateway áttekintés",[565],{"tag":557,"href":37,"children":566},[567],"Helicone: késleltetéshatás és benchmark",[569],{"tag":557,"href":40,"children":570},[571],"Helicone: proxy versus async integráció",[573],{"tag":557,"href":43,"children":574},[575],"Helicone: LLM cache",[577],{"tag":557,"href":46,"children":578},[579],"Helicone: saját üzemeltetés Dockerral",[581],{"tag":557,"href":49,"children":582},[583],"Helicone: hogyan számítunk költséget",[585],{"tag":557,"href":52,"children":586},[587],"Helicone árak",[589],{"tag":557,"href":55,"children":590},[591],"Helicone repository GitHubon",[593,642,725,782],{"slug":594,"published":595,"minutes":596,"category":7,"tags":597,"keywords":603,"about":610,"sources":614,"cover":633,"og":634,"expertise":58,"locales":635,"lang":62,"title":636,"description":637,"coverAlt":638,"url":639,"pricing":640,"kind":641},"ollama","2026-09-29",11,[598,599,600,601,602],"Local inference","Open models","llama.cpp","GGUF","Model serving",[594,604,605,606,607,608,609],"ollama vs lm studio","ollama vs vllm","local llm runtime","gguf model server","ollama self hosting","ollama api",[611],{"name":612,"url":613},"Ollama (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOllama",[615,618,621,624,627,630],{"title":616,"url":617},"Ollama API documentation","https:\u002F\u002Fdocs.ollama.com\u002Fapi",{"title":619,"url":620},"Ollama on GitHub, with the MIT LICENSE file","https:\u002F\u002Fgithub.com\u002Follama\u002Follama",{"title":622,"url":623},"Ollama terms of service, last updated May 2026","https:\u002F\u002Follama.com\u002Fterms",{"title":625,"url":626},"Ollama pricing, cloud plans and per-token model rates","https:\u002F\u002Follama.com\u002Fpricing",{"title":628,"url":629},"Hardware support: Nvidia, AMD, Metal and Vulkan","https:\u002F\u002Fdocs.ollama.com\u002Fgpu",{"title":631,"url":632},"OpenAI compatibility, including what is not supported","https:\u002F\u002Fdocs.ollama.com\u002Fapi\u002Fopenai-compatibility","\u002Fimages\u002Fblog\u002Follama\u002Fcover.webp","\u002Fimages\u002Fblog\u002Follama\u002Fog.jpg",[60,61,62],"Ollama teszt: a barátságos út a nyílt modellekhez","Az Ollama egyetlen HTTP API-n szolgál ki nyílt modelleket saját hardveren. Ami jól megy, hol elmarad az átvitel, és mit nem fed le az MIT-licenc.","Absztrakt borítókép az Ollama teszthez","https:\u002F\u002Follama.com","MIT · free for personal use","Local inference runtime",{"slug":643,"published":644,"minutes":596,"category":7,"tags":645,"keywords":651,"about":659,"sources":666,"cover":718,"og":719,"expertise":58,"locales":720,"lang":62,"title":721,"description":722,"coverAlt":723,"url":662,"pricing":724,"kind":646},"portkey","2026-09-28",[646,647,648,649,650],"LLM gateway","Guardrails","Routing","Observability","Cost control",[652,653,654,655,656,657,658],"portkey ai gateway","portkey vs litellm","llm gateway comparison","llm gateway latency overhead","llm guardrails gateway","self-hosted llm gateway","portkey pricing",[660,663],{"name":661,"url":662},"Portkey","https:\u002F\u002Fportkey.ai",{"name":664,"url":665},"API gateway","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FAPI_gateway",[667,670,673,676,679,682,685,688,691,694,697,700,703,706,709,712,715],{"title":668,"url":669},"Portkey docs: AI Gateway","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fproduct\u002Fai-gateway",{"title":671,"url":672},"Portkey docs: Getting started with the AI Gateway","https:\u002F\u002Fdocs.portkey.ai\u002Fdocs\u002Fguides\u002Fgetting-started\u002Fgetting-started-with-ai-gateway",{"title":674,"url":675},"Portkey docs: Gateway config object","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fapi-reference\u002Fconfig-object",{"title":677,"url":678},"Portkey docs: Guardrails","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fproduct\u002Fguardrails",{"title":680,"url":681},"Portkey docs: Guardrail endpoints and capabilities","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fproduct\u002Fguardrails\u002Fcapabilities",{"title":683,"url":684},"Portkey docs: Cache, simple and semantic","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fproduct\u002Fai-gateway\u002Fcache-simple-and-semantic",{"title":686,"url":687},"Portkey docs: Load balancing","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fproduct\u002Fai-gateway\u002Fload-balancing",{"title":689,"url":690},"Portkey docs: Enterprise hybrid deployment architecture","https:\u002F\u002Fportkey.ai\u002Fdocs\u002Fself-hosting\u002Fhybrid-deployments\u002Farchitecture",{"title":692,"url":693},"Portkey pricing","https:\u002F\u002Fportkey.ai\u002Fpricing",{"title":695,"url":696},"Portkey gateway on GitHub, MIT licensed","https:\u002F\u002Fgithub.com\u002FPortkey-AI\u002Fgateway",{"title":698,"url":699},"Portkey's own benchmark: gateway versus direct Bedrock","https:\u002F\u002Fgithub.com\u002FPortkey-AI\u002Fbenchmark-test",{"title":701,"url":702},"Portkey status page","https:\u002F\u002Fstatus.portkey.ai\u002F",{"title":704,"url":705},"Palo Alto Networks completes acquisition of Portkey, May 2026","https:\u002F\u002Fwww.paloaltonetworks.com\u002Fcompany\u002Fpress\u002F2026\u002Fpalo-alto-networks-completes-acquisition-of-portkey-to-secure-ai-agents",{"title":707,"url":708},"Palo Alto Networks: Prisma AIRS AI Gateway","https:\u002F\u002Fwww.paloaltonetworks.com\u002Fai-security\u002Fai-gateway",{"title":710,"url":711},"Cloudflare AI Gateway pricing","https:\u002F\u002Fdevelopers.cloudflare.com\u002Fai-gateway\u002Freference\u002Fpricing\u002F",{"title":713,"url":714},"LiteLLM pricing","https:\u002F\u002Fwww.litellm.ai\u002Fpricing",{"title":716,"url":717},"OpenRouter pricing","https:\u002F\u002Fopenrouter.ai\u002Fpricing","\u002Fimages\u002Fblog\u002Fportkey\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fportkey\u002Fog.jpg",[60,61,62],"Portkey: éles LLM-átjáró, routing, guardrailok és költség szerint","A Portkey egy OpenAI-kompatibilis végpont mögé szorítja a retry-t, a fallbacket, a cache-t, a guardrailokat és a költségkövetést. Ami jól működik, és mi az ára késleltetésben.","A kérés útja az alkalmazástól a Portkey-átjárón át három modellszolgáltatóig, alatta a guardrail-ítélet és a naplóbejegyzés.","Free · from $49 per month",{"slug":726,"published":727,"minutes":6,"category":7,"tags":728,"keywords":732,"about":740,"sources":750,"cover":775,"og":776,"expertise":58,"locales":777,"lang":62,"title":778,"description":779,"coverAlt":780,"url":742,"pricing":781,"kind":9},"langfuse","2026-08-13",[9,729,10,730,731],"Tracing","Self-hosting","Evaluation",[726,733,734,735,736,737,738,739],"langfuse vs langsmith","llm tracing tool","self-hosted llm observability","langfuse pricing","opentelemetry llm traces","llm cost tracking","prompt versioning",[741,743,744,747],{"name":448,"url":742},"https:\u002F\u002Flangfuse.com",{"name":10,"url":24},{"name":745,"url":746},"ClickHouse","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FClickHouse",{"name":748,"url":749},"Observability (software)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FObservability_(software)",[751,754,757,760,763,766,769,772],{"title":752,"url":753},"Langfuse documentation: observability and application tracing","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fobservability\u002Foverview",{"title":755,"url":756},"Langfuse documentation: get started with tracing","https:\u002F\u002Flangfuse.com\u002Fdocs\u002Fobservability\u002Fget-started",{"title":758,"url":759},"Langfuse pricing: cloud plans, billable units and worked examples","https:\u002F\u002Flangfuse.com\u002Fpricing",{"title":761,"url":762},"Langfuse pricing: self-hosted plans and the feature comparison","https:\u002F\u002Flangfuse.com\u002Fpricing-self-host",{"title":764,"url":765},"Self-host Langfuse: deployment options, containers and storage services","https:\u002F\u002Flangfuse.com\u002Fself-hosting",{"title":767,"url":768},"Langfuse changelog: v4 is live (17 August 2026)","https:\u002F\u002Flangfuse.com\u002Fchangelog\u002F2026-08-17-langfuse-v4",{"title":770,"url":771},"Langfuse blog: Langfuse joins ClickHouse (16 January 2026)","https:\u002F\u002Flangfuse.com\u002Fblog\u002Fjoining-clickhouse",{"title":773,"url":774},"GitHub: langfuse\u002Flangfuse, the platform repository","https:\u002F\u002Fgithub.com\u002Flangfuse\u002Flangfuse","\u002Fimages\u002Fblog\u002Flangfuse\u002Fcover.webp","\u002Fimages\u002Fblog\u002Flangfuse\u002Fog.jpg",[60,61,62],"Langfuse bemutatás: nyomkövetés, promptok és értékelések saját szerveren","A Langfuse egy MIT-licencelt platformra teszi az LLM-nyomokat, a promptverziókat és a kísérleteket. Mibe kerül a saját telepítés, hogy számol a Usage-alapú ár, és hol veszít.","Egy pipeline a kötegelt alkalmazás-eseménytől a Langfuse web konténeren és az objektumtáron át a ClickHouseig, mellette a Redis és a PostgreSQL.","MIT · paid from $59 per month",{"slug":783,"published":784,"minutes":6,"category":7,"tags":785,"keywords":790,"about":797,"sources":801,"cover":817,"og":818,"expertise":58,"locales":819,"lang":62,"title":820,"description":821,"coverAlt":822,"url":823,"pricing":824,"kind":646},"openrouter","2026-07-23",[646,786,787,788,789],"Model routing","Fallbacks","OpenAI-compatible","Pay per token",[783,791,654,792,793,794,795,796],"openrouter vs litellm","openrouter pricing","openai compatible api gateway","llm fallback routing","multi model api gateway","byok llm routing",[798],{"name":799,"url":800},"OpenRouter","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FOpenRouter",[802,805,806,809,812,815],{"title":803,"url":804},"OpenRouter documentation: quickstart","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fquickstart",{"title":716,"url":717},{"title":807,"url":808},"OpenRouter documentation: model fallbacks","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fmodel-fallbacks",{"title":810,"url":811},"OpenRouter documentation: provider routing","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fguides\u002Frouting\u002Fprovider-selection",{"title":813,"url":814},"OpenRouter documentation index","https:\u002F\u002Fopenrouter.ai\u002Fdocs\u002Fllms.txt",{"title":816,"url":800},"Wikipedia: OpenRouter","\u002Fimages\u002Fblog\u002Fopenrouter\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fopenrouter\u002Fog.jpg",[60,61,62],"OpenRouter: egy API-kulcs a katalógus minden modellje előtt","OpenRouter egyetlen OpenAI-kompatibilis végpont mögé tereli a 80+ szolgáltató 500+ modelljét, fallbackkel és listaáron. Mennyibe kerül, és hol törik el.","Kérési útvonal az OpenRouteren át: kliens, router, lehetséges szolgáltatók, fallback lista és a végül válaszoló modell.","https:\u002F\u002Fopenrouter.ai","Pay per token, no subscription",1791383550259]