[{"data":1,"prerenderedAt":693},["ShallowReactive",2],{"blog-guardrails-ai-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":13,"about":21,"sources":31,"cover":59,"og":60,"expertise":61,"locales":62,"lang":65,"title":66,"description":67,"coverAlt":68,"metaTitle":69,"takeaways":70,"faq":76,"toc":89,"blocks":114,"others":458},"guardrails-ai","2026-09-29",10,"security",[9,10,11,12],"Guardrails","Output validation","LLM reliability","Python",[14,15,16,17,18,19,20],"guardrails ai","guardrails ai validators","llm output validation python","guardrails vs nemo guardrails","guardrails on_fail actions","llm guardrails framework","pii validation llm output",[22,25,28],{"name":23,"url":24},"NVIDIA","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FNVIDIA",{"name":26,"url":27},"Apache License","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FApache_License",{"name":29,"url":30},"Large language model","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FLarge_language_model",[32,35,38,41,44,47,50,53,56],{"title":33,"url":34},"Guardrails AI on GitHub: README, news and FAQ","https:\u002F\u002Fgithub.com\u002Fguardrails-ai\u002Fguardrails",{"title":36,"url":37},"guardrails-ai 0.11.0 on PyPI","https:\u002F\u002Fpypi.org\u002Fproject\u002Fguardrails-ai\u002F",{"title":39,"url":40},"Guardrails Hub: 65 validators","https:\u002F\u002Fwww.guardrailsai.com\u002Fhub",{"title":42,"url":43},"Guardrails documentation: error remediation and on-fail actions","https:\u002F\u002Fwww.guardrailsai.com\u002Fdocs\u002Fconcepts\u002Ferror_remediation",{"title":45,"url":46},"Guardrails documentation: use on-fail actions","https:\u002F\u002Fwww.guardrailsai.com\u002Fguardrails\u002Fdocs\u002Fhow-to-guides\u002Fuse_on_fail_actions",{"title":48,"url":49},"Migration issue 1560: moving off hosted remote inferencing","https:\u002F\u002Fgithub.com\u002Fguardrails-ai\u002Fguardrails\u002Fissues\u002F1560",{"title":51,"url":52},"NVIDIA NeMo Guardrails on GitHub","https:\u002F\u002Fgithub.com\u002FNVIDIA-NeMo\u002FGuardrails",{"title":54,"url":55},"NVIDIA NeMo Guardrails documentation","https:\u002F\u002Fdocs.nvidia.com\u002Fnemo\u002Fguardrails\u002Flatest\u002Findex.html",{"title":57,"url":58},"OpenAI API pricing, including moderation","https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fpricing","\u002Fimages\u002Fblog\u002Fguardrails-ai\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fguardrails-ai\u002Fog.jpg","ai-engineer",[63,64,65],"en","de","hu","Guardrails AI: ellenőrizni, amit a modell visszaad","A Guardrails AI értékelése: 65 validátor, nyolc on-fail művelet, a bérelt inferencing megszűnése 2026 augusztusában, és mikor jobb a NeMo Guardrails.","Két függőleges fal alkot folyosót, tizenkét kis négyzettel a belső oldalakon.","Guardrails AI: kimenetellenőrzés LLM-ekhez · Balázs Csorba",[71,72,73,74,75],"A hub 65 validátort szállít külön guardrails-ai csomagokban, és minden validátor nyolc hiba közül egyet ír elő, a noop-tól a refrain-ig.","Csak a noop és az exception működik streaminggel; a reask, fix, fix_reask, filter és refrain a teljes kimenetet igényli.","A bérelt remote inferencing 2026. augusztus 25-én megszűnt, a keretrendszer ezután teljesen helyben fut.","A reask második teljes modellhívás kísérletenként, a licenc Apache-2.0, de az ismétlési hurkon nő a számla.","Az OpenAI az omni-moderation-latest díjmentesként tünteti fel, ezért a Guardrails esete a szabályokra, a struktúrára és a naplóra épül, nem a moderációra.",[77,80,83,86],{"q":78,"a":79},"Ingyenes a Guardrails AI?","A keretrendszer és a validátorok Apache-2.0 alatt állnak, licencdíj nélkül telepíthetők a PyPI-ről. A költség ott jelenik meg, amit a validátorok hívnak: egy LLM-alapú ellenőrzés vázonként egy modellkérést ad hozzá, a reask pedig minden kísérletnél teljesen újragenerálja a választ.",{"q":81,"a":82},"Mi történik, ha egy validátor hibázik?","A hiba bekerül a guard.history-be, majd lefut a validátor on-fail művelete: a noop naplóz és továbbadja az értéket, az exception kivételt dob, a fix javít, például személyes adatokat anonimizál, a reask újrahívja a modellt, a filter eldobja a hibás mezőt, a refrain semmit sem ad vissza, és egy egyedi függvény megkapja az értéket és az eredményt.",{"q":84,"a":85},"Működik streaming kimenettel?","Csak a noop és az exception szerepel streaming-kompatibilisként a dokumentációban. A reask, fix, fix_reask, filter és refrain mind a teljes kimenetet igényli, a tokenenkénti folyamot tehát pufferezni kell.",{"q":87,"a":88},"Guardrails AI vagy NVIDIA NeMo Guardrails?","A Guardrails egy Python-könyvtár, amely validátorokat fűz egy amúgy is meglévő hívás köré; a NeMo egy futtatókörnyezet, amely YAML-szabályokkal és Colang-párbeszédekkel viszi a beszélgetési folyamatot. Az első illeszkedik a meglévő kódba, a második részben lecseréli azt.",[90,93,96,99,102,105,108,111],{"id":91,"title":92},"what-it-is","Mi valójában",{"id":94,"title":95},"how-it-works","Hogy működik",{"id":97,"title":98},"error-handling","Ha egy validátor hibázik",{"id":100,"title":101},"getting-started","Első lépések",{"id":103,"title":104},"cost","Költség",{"id":106,"title":107},"where-it-shingles","Hol akad el",{"id":109,"title":110},"verdict","Ítélet",{"id":112,"title":113},"sources","Források",[115,119,128,131,139,174,175,182,188,191,192,195,273,276,277,280,282,285,294,295,298,324,327,333,334,337,384,387,388,391,403,412,418,419],{"type":116,"content":117},"paragraph",[118],"A Guardrails AI egy nyílt forráskódú Python-keretrendszer, amely ellenőrzi, amit a modell visszaad, mielőtt az alkalmazás felhasználná. A validátorok egy 65 csomagos hubban élnek, mindegyik megadja, mi történik hiba esetén: kivétel, javítás, újrakérdezés, szűrés vagy semlegesítés. A projekt Apache-2.0 alatt áll, a 0.11.0-ás verzió 2026. augusztus 14-én jelent meg, Pythonból hívható, a README a JavaScriptet is támogatottnak jelöli.",{"type":116,"content":120},[121,122,127],"Azt a réteget foglalja el, amely egy LLM-hívás és az azt feldolgozó kód között van, és itt dől el, hogy egy kiszivárgott systemprompt, egy személyes adatokat hordozó összefoglaló vagy egy hibás JSON eléri-e a felhasználót. Ugyanarra a helyre pályázik, mint a ",{"tag":123,"to":124,"children":125},"link","\u002Fblog\u002Fprompt-injection-lethal-trifecta-patterns",[126],"prompt injection védelmi minták"," és az NVIDIA NeMo Guardrails, ott van mellette az OpenAI moderációs végpontja, mint bérelt gyorsmegoldás, és ott a kézzel írt ellenőrzések, amelyeket a legtöbb csapat már megírt. Itt képviselt álláspont: a legteljesebb validátorkönyvtár a területen, és a hibakezelési modellje jobban van megtervezve, mint az üzleti modellje, ahol a ingyenes rész a szoftver, a drága rész az ismétlések.",{"type":129,"level":130,"id":91,"text":92},"heading",2,{"type":116,"content":132},[133,134,138],"A munkaegység a Guard: validátorok rendezett listája, amely vagy a kimenő üzenetekre fut, ",{"tag":135,"children":136},"code",[137],"on=\"messages\""," módon, vagy a válaszra. A validátorok a hubból jönnek és saját PyPI-csomagjaikként települnek, a telepítés így csak a ténylegesen használt ellenőrzéseket viszi. Vannak szabályalapúak, mint a regex, a hossz és a JSON olvashatóság, vannak kis helyi modellel futók, és vannak, amelyek második LLM-et hívnak az első minősítésére.",{"type":140,"ordered":141,"items":142},"list",false,[143,149,154,159,164,169],[144,148],{"tag":145,"children":146},"strong",[147],"Hub. ","65 validátor kockázat szerint csoportosítva: márka, formázás, illem, jailbreaking, adatszivárgás, kódtámadás és tényhűség.",[150,153],{"tag":145,"children":151},[152],"Csomagolás. ","Minden validátor külön csomag, amely a guardrails configure után települ, például a guardrails-ai-regex-match vagy a guardrails-ai-detect-pii.",[155,158],{"tag":145,"children":156},[157],"Két irány. ","A guardok a hívás előtti üzeneteken és a hívás utáni modellkimeneten futnak, és ugyanaz a guard objektum mindkettőt elvégzi.",[160,163],{"tag":145,"children":161},[162],"Strukturált generálás. ","A Guard.for_pydantic a modellt egy Pydantic-osztály ellen vezérli és a feldolgozott objektumot ellenőrzi, function callinggel ott, ahol a modell tudja, promptvázlatban ott, ahol nem.",[165,168],{"tag":145,"children":166},[167],"Licenc és verzió. ","Apache-2.0, Python 3.10-től 3.13-ig, a 0.11.0-ás verzió 2026. augusztus 14-én, körülbelül 7500 csillaggal a GitHubon.",[170,173],{"tag":145,"children":171},[172],"Szerver mód. ","A guardrails start egy Flask-szolgáltatást indít, amely minden guardot OpenAI-kompatibilis basis URL mögött szolgál ki, a meglévő kliens így csak egy karakterláncot változtat.",{"type":129,"level":130,"id":94,"text":95},{"type":116,"content":176},[177,178,181],"Az ellenőrzés alapértelmezésben szinkron: bejön a nyers kimenet, minden validátor sorban fut, minden hiba a ",{"tag":135,"children":179},[180],"guard.history.last.failed_validations"," listára kerül, és az adott validátor on-fail művelete dönti el, mi hagyja el a guardot. A művelet validátoronként, nem guardonként állítható, így egy guard személyes adatnál kivételt dobhat, formázási hibánál csak naplózhat. A reask újraépíti a promptot a meghiúsult kritériummal és újrahívja a modellt, a num_reasks határáig.",{"type":183,"src":184,"alt":185,"wide":186,"caption":187},"image","\u002Fimages\u002Fblog\u002Fguardrails-ai\u002Fdiagram-7.webp","Guardrails AI: egy védett modellhívás Az üzenetek input guardon futnak keresztül, a modell válaszol, a válasz output guardon, minden validátorhiba naplózásra kerül és nyolc on-fail művelet egyikéhez kerül, amelyek közül csak a noop és az exception működik streaminggel.",true,"Az on-fail validátoronként, nem guardonként áll, így egy guard személyes adatnál kivételt dobhat, formázási hibánál csak naplózhat.",{"type":116,"content":189},[190],"Mivel a hibák attól függetlenül naplózódnak, hogy megállítják-e a folyamatot, a noop-ra állított guard is ad auditnyomot, a noop pedig amúgy az alapértelmezés. Szolgáltató felé irányuló hívásnál a keretrendszer a kapcsolati hibákat, a rátalimiteket és az időtúllépéseket exponenciális backoffal ismétli, legfeljebb hatvan másodperc várakozással, így a szolgáltatói kimaradás a guardon belüli késésként jelentkezik, nem azonnali kivételként.",{"type":129,"level":130,"id":97,"text":98},{"type":116,"content":193},[194],"Nyolc művelet áll rendelkezésre, és ezek ennek az eszköznek a valódi felülete, inkább, mint a validátorlista. A dokumentációs táblázat jelöli, melyikük működik streaming kimenet ellen, és ez a oszlop dönt több architektúra-kérdést, mint a funkciójegyzék.",{"type":196,"head":197,"rows":206},"table",[198,200,202,204],[199],"Művelet",[201],"Mit csinál",[203],"Streaming",[205],"Hol illik be",[207,216,224,233,241,249,257,265],[208,210,212,214],[209],"noop",[211],"Naplózza a hibát és változatlanul adja vissza a kimenetet; ez az alapértelmezés",[213],"Igen",[215],"Mérni, milyen gyakran buknak el az ellenőrzések",[217,219,221,222],[218],"exception",[220],"Kivételt dob, hogy a hívó kezelje a hibát",[213],[223],"Bemeneti ellenőrzés és szigorú pipeline-ok",[225,227,229,231],[226],"reask",[228],"Újraépíti a promptot a meghiúsult kritériummal és újrahívja a modellt",[230],"Nem",[232],"Puha hibák, amelyet a második kör javít",[234,236,238,239],[235],"fix",[237],"Alkalmazza a validátor javítási értékét, például anonimizált személyes adatokat",[230],[240],"Adatszűrés és formázási javítások",[242,244,246,247],[243],"fix_reask",[245],"Előbb javít, majd újrakérdez, ha a javított érték is elbukik",[230],[248],"Javítások, amelyek hiányosak maradhatnak",[250,252,254,255],[251],"filter",[253],"Eldobja a hibás mezőt és a strukturált objektum többi részét adja vissza",[230],[256],"Strukturált adatok opcionális mezőkkel",[258,260,262,263],[259],"refrain",[261],"Semmit sem ad vissza, ha a kimenet nem szállítható ki",[230],[264],"Tartalom, amely nem érheti el a felhasználót",[266,268,270,271],[267],"custom",[269],"Saját függvényt futtat az érték és az eredmény felett",[230],[272],"Szabályok, amelyek már a kódban vannak",{"type":116,"content":274},[275],"A vitatható rész: a reask a reklámozott funkció és az, amit gondosan kell költségezni, mert minden reask egy második teljes generálás ugyanazon az áron, mint az első, és a hibaráta szorzódik, nem a forgalom. A dokumentáció maga is lebeszéli a bonyolult esetekről, és kivételalapú megközelítést ajánl, amint az esetek kinőnek, mert egy dobott kivétel lehetővé teszi, hogy az elágazás a hibázott validátor szerint történjen, ahelyett, hogy a reask hallgatva visszaadott eredményét kellene értelmezni.",{"type":129,"level":130,"id":100,"text":101},{"type":116,"content":278},[279],"A telepítés a magcsomagból és a guardhoz szükséges validátorokból áll, utána a guardrails configure állítja be a hitelesítést. A guard kódban készül, nem konfigurációs fájlban, így a hibaütem a hozzá tartozó ellenőrzés mellett marad.",{"type":135,"code":281},"# pip install guardrails-ai guardrails-ai-detect-pii\nfrom guardrails import Guard, OnFailAction\nfrom guardrails_ai.detect_pii import DetectPII\n\nguard = Guard().use(\n    DetectPII(pii_entities=\"pii\", on_fail=OnFailAction.FIX)\n)\n\nresult = guard.validate(\n    \"Hello, my name is John Doe and my email is john.doe@example.com\"\n)\n\nprint(result.validation_passed)   # True once the scrub lands\nprint(result.validated_output)    # \u003CPERSON> and \u003CEMAIL_ADDRESS>",{"type":116,"content":283},[284],"Pythonon kívüli hívóknál a guardrails start minden guardot a localhost:8000\u002Fguards\u002F\u003Cname>\u002Fopenai\u002Fv1\u002F alakú basis URL-en szolgál ki, a meglévő OpenAI-kl így új SDK nélkül rámutat. A README említi a JavaScriptet is támogatottként, a referenciamegvalósítás továbbra is a Python-csomag.",{"type":286,"variant":287,"title":288,"body":289},"callout","warn","A bérelt út 2026 augusztusában lezárult",[290,292],[291],"A projekt 2026. július 6-án jelentette be, hogy megszünteti a bérelt remote inferencingot, tervezett határidővel 2026. augusztus 25-én, és a validátorokat szabványos PyPI-csomagokra teszi át, amelyek közvetlenül pippel települnek. Amit a bérelt inferencing-szolgáltatásra épített, a határig a 1560-as issue-n keresztül kellett migrálnia.",[293],"A határidő után a keretrendszer teljesen helyben fut, ami kiszámíthatóbb üzemeltetés, cserébe az ML-validátorok most a saját deploy memóriáját és CPU-ját fogyasztják, nem egy szolgáltatói végpontét.",{"type":129,"level":130,"id":103,"text":104},{"type":116,"content":296},[297],"A szoftvér szigorú értelemben ingyenes: az Apache-2.0 lefedi a keretrendszert és minden hub-validátort, a telepítés és az ellenőrzés között nincs mérhető díj. A számla máshol keletkezik, ott, amit az út során a validátorok hívnak.",{"type":140,"ordered":141,"items":299},[300,305,310,315,320],[301,304],{"tag":145,"children":302},[303],"Licenc. ","Apache-2.0 a keretrendszerre és a validátorokra; a könyvtárnak nincs fizetős szintje.",[306,309],{"tag":145,"children":307},[308],"LLM-alapú ellenőrzések. ","Olyan validátorok, mint az llm_critic, a provenance_llm és a qa_relevance_llm_eval, vázonként és válaszonként egy modellkéréssel bővülnek.",[311,314],{"tag":145,"children":312},[313],"Reaskok. ","Minden reask teljes újragenerálás, a num_reasks pedig megadja, hányszor generálódhat újra egy válasz, mielőtt a guard feladja.",[316,319],{"tag":145,"children":317},[318],"Helyi ML. ","A detect_pii-hoz hasonló validátorok a Presidiót a folyamatban futtatják, az áruk így memória és késés, nem token.",[321,323],{"tag":145,"children":322},[172],"Az opcionális Flask-szolgáltatás olyan infrastruktúra, amelyet a deployment maga üzemeltet, skáláz és véd.",{"type":116,"content":325},[326],"A mérvadó összehasonlítás a bérelt moderációval szemben történik. Az OpenAI az omni-moderation-latest díjmentesként tünteti fel az árlapon, a NeMo Guardrails szintén Apache-2.0 alatt áll, egyik versenytárs sem kér licencdíjat ugyanazért a feladért. Ami a Guardrails elad, az a lefedettség: egy moderációs végpont egy kérdésre válaszol a tartalmi politikáról, a hub ugyanabban a körben kényszerítheti ki a sémát, a hosszt, a versenytársak említését, a prompt-szivárgást és a származtatást is.",{"type":286,"variant":328,"title":329,"body":330},"tip","A guardot számold, nem a csomagot",[331],[332],"A guard költsége válaszonként a validátorok modellhívásai plusz a reask aránya szorozva a num_reasks-szal és a tokenköltséggel. Egy nulla forintos moderációs végpont és egy második generálást fizető reask hurkon nem ugyanaz a sor, és a második a hibaráta szerint nő, nem a forgalom szerint.",{"type":129,"level":130,"id":106,"text":107},{"type":116,"content":335},[336],"A gyengék üzemeltetési jellegűek, és az első hét után mutatkoznak. A hub egy regexet, egy BERT-modellt és egy LLM-bírót rejt egyszerű absztrakt mögé, a késés így nagyságrendekkel térhet el validátoronként, a dokumentáció pedig nem ad validátoronkénti teljesítménykeretet. A hub nyelvi szűrője csak angolt listáz. A streaming-támogatás a noop és az exception után véget ér, ami kizárja az eszközt tokenenkénti kimenetből, hacsak a teljes választ nem pufferezik. A bérelt inferencing 2026 augusztusi leállítása pedig törő változás volt egy olyan szolgáltatáson, amelyet több deploy felépített.",{"type":196,"head":338,"rows":347},[339,341,343,345],[340],"Jellemző",[342],"Guardrails AI",[344],"NVIDIA NeMo Guardrails",[346],"OpenAI Moderation API",[348,357,366,375],[349,351,353,355],[350],"Forma",[352],"Python-könyvtár plusz 65 hub-validátor",[354],"YAML-szabályok és Colang-párbeszédek",[356],"Egy bérelt végpont",[358,360,362,364],[359],"Licenc",[361],"Apache-2.0, 2026 augusztusa után teljesen helyben",[363],"Apache-2.0, opcionális anonim telemetria",[365],"Zárt, az OpenAI üzemelteti",[367,369,371,373],[368],"Konfiguráció",[370],"Python-kód, on_fail validátoronként",[372],"Fájlok egy rails könyvtárban",[374],"Egyetlen moderációs kérés",[376,378,380,382],[377],"Költség kérésenként",[379],"Ingyenes szoftver; az LLM-validátorok és reaskok külön számolódnak",[381],"Ingyenes szoftver; a railok hívhatnak LLM-et",[383],"omni-moderation-latest díjmentesként feltüntetve",{"type":116,"content":385},[386],"A harmadik alternatíva az, amit a legtöbb csapat ténylegesen kiad: kézzel írt ellenőrzések a hívás körül, egy if a JSON feldolgozásához és egy regex mindenre, ami számlaszámnak látszik. Ez olcsóbb, mint a tábla mindhárom sora, és konstruktívan hallgat, pont ez a hibatípus az oka ennek a kategóriának. A tisztességes összevetés nem Guardrails kontra NeMo, hanem Guardrails kontra az, amit egy csapat délután megír, majd elfelejt bővíteni.",{"type":129,"level":130,"id":109,"text":110},{"type":116,"content":389},[390],"Akkor érdemes bevezetni, ha egy rossz válasz pénzbe, adatba vagy hitelességbe kerül, és ha a napló arról, mi bukott el, ugyanolyan fontos, mint maga a hiba. Ez a legteljesebb validátorkatalógus szabad licenc alatt, és a validátoronkénti hibaütem jobb tervezés, mint egy globális kapcsoló. Az ára minden a folyamatban ellenőrző kódé: üzemelteti, hangolja, és kifizeti azokat a hívásokat, amiket a validátorok indítanak.",{"type":140,"ordered":186,"items":392},[393,395,397,399,401],[394],"Használni, ha a válasz elhagyja a szolgáltatást: személyes adat egy támogatási összefoglalóban, amit a felhasználó lefuttat, strukturált kimenet, amit egy másik szolgáltatás elemz.",[396],"Használni, ha auditnyom kell, mert minden hiba a guard.history-be kerül, a kézzel írt ellenőrzés pedig általában alig rögzít valamit.",[398],"A NeMo Guardrails-t választani, ha beszélgetési politikáról van szó, például mikor kell elutasítani vagy témát váltani, arra valók a Colang rail-ek.",[400],"A díjmentes moderációs végpontot választani, ha az egyetlen kockázat a sértő tartalom, és nem ér meg egy új dependenciát.",[402],"Nem várni streaming-javítást: csak a noop és az exception reagál részleges kimenetre, így pufferezni kell, vagy el kell hagyni a javító eszközöket.",{"type":404,"content":405},"quote",[406,407,411],"A dokumentáció tanácsa, ha egy eset kinő az egyszerű útból: ",{"tag":408,"children":409},"em",[410],"as usecases get more complex, we recommend switching to an exception-based approach",". Egy olyan keretrendszer, amely azt tanácsolja, hagyd el a címfunkciót, amint nehéz lesz, őszinte arról, hogy ez a funkció hová tartozik.",{"type":286,"variant":413,"title":414,"body":415},"note","Egy irányelv",[416],[417],"Validátort exception-re állítani, valahányszor a hibát magyarázni kellene egy felhasználónak vagy egy lognézőnek, reask-t csak ott használni, ahol a második kör valóban jobb választ ad, és ezeket a köröket előre számolni a költségben, mielőtt a késésgrafikonban jelennének meg.",{"type":129,"level":130,"id":112,"text":113},{"type":140,"ordered":186,"items":420},[421,426,430,434,438,442,446,450,454],[422],{"tag":423,"href":34,"children":424},"a",[425],"Guardrails AI a GitHubon: README, hírek és GYIK",[427],{"tag":423,"href":37,"children":428},[429],"guardrails-ai 0.11.0 a PyPI-n",[431],{"tag":423,"href":40,"children":432},[433],"Guardrails Hub: 65 validátor",[435],{"tag":423,"href":43,"children":436},[437],"Guardrails-dokumentáció: hibakezelés és on-fail műveletek",[439],{"tag":423,"href":46,"children":440},[441],"Guardrails-dokumentáció: on-fail műveletek használata",[443],{"tag":423,"href":49,"children":444},[445],"Migrációs issue 1560: kilépés a bérelt inferencingből",[447],{"tag":423,"href":52,"children":448},[449],"NVIDIA NeMo Guardrails a GitHubon",[451],{"tag":423,"href":55,"children":452},[453],"NVIDIA NeMo Guardrails-dokumentáció",[455],{"tag":423,"href":58,"children":456},[457],"OpenAI API árak, beleértve a moderációt",[459,525,595,651],{"slug":460,"published":461,"minutes":462,"category":7,"tags":463,"keywords":467,"about":480,"sources":488,"cover":519,"og":520,"expertise":61,"locales":521,"lang":65,"title":522,"description":523,"coverAlt":524},"llm-output-guardrails-moderation","2026-10-17",13,[464,9,465,466,10],"LLM security","Content moderation","OWASP",[468,469,470,471,472,473,474,475,476,477,478,479],"llm output guardrails","improper output handling llm","owasp llm05","openai moderation api","omni-moderation-latest","llama guard 4","nemo guardrails streaming","markdown image exfiltration","sanitize llm output html","groundedness detection","llm content moderation production","output rails",[481,483,486],{"name":465,"url":482},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContent_moderation",{"name":484,"url":485},"Cross-site scripting","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCross-site_scripting",{"name":466,"url":487},"https:\u002F\u002Fowasp.org\u002F",[489,492,495,498,501,504,507,510,513,516],{"title":490,"url":491},"OWASP GenAI Security Project: LLM05:2025 Improper Output Handling","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm052025-improper-output-handling\u002F",{"title":493,"url":494},"OpenAI API Docs: Moderation","https:\u002F\u002Fplatform.openai.com\u002Fdocs\u002Fguides\u002Fmoderation",{"title":496,"url":497},"Meta: Llama Guard 4 model card and prompt formats","https:\u002F\u002Fwww.llama.com\u002Fdocs\u002Fmodel-cards-and-prompt-formats\u002Fllama-guard-4\u002F",{"title":499,"url":500},"NVIDIA NeMo Guardrails: Output rail streaming configuration","https:\u002F\u002Fdocs.nvidia.com\u002Fnemo\u002Fguardrails\u002Fconfigure-guardrails\u002Fyaml-schema\u002Fstreaming\u002Foutput-rail-streaming.md",{"title":502,"url":503},"Microsoft Learn: Prompt Shields in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fjailbreak-detection",{"title":505,"url":506},"Microsoft Learn: Groundedness detection in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fgroundedness",{"title":508,"url":509},"Microsoft Learn: Protected material detection in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fprotected-material",{"title":511,"url":512},"Guardrails AI documentation","https:\u002F\u002Fwww.guardrailsai.com\u002Fdocs",{"title":514,"url":515},"Vue.js docs: Security best practices","https:\u002F\u002Fvuejs.org\u002Fguide\u002Fbest-practices\u002Fsecurity.html",{"title":517,"url":518},"Simon Willison: Remote prompt injection in GitLab Duo leads to source code theft","https:\u002F\u002Fsimonwillison.net\u002F2025\u002FMay\u002F23\u002Fremote-prompt-injection-in-gitlab-duo\u002F","\u002Fimages\u002Fblog\u002Fllm-output-guardrails-moderation\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-output-guardrails-moderation\u002Fog.jpg",[63,64,65],"LLM output guardrailek: moderáció, biztonságos megjelenítés és ellenőrzés, mielőtt bármi történne","Mit kell ellenőrizni a modell válasza után: biztonságos Markdown, sémaellenőrzés műveletek előtt, moderációs osztályozók, streaming és megalapozottság.","Három szűkülő téglalap alkot tölcsért, pontok hullanak át egy tálcába a lakat mellett.",{"slug":526,"published":461,"minutes":527,"category":7,"tags":528,"keywords":532,"about":544,"sources":552,"cover":589,"og":590,"expertise":61,"locales":591,"lang":65,"title":592,"description":593,"coverAlt":594},"ai-red-teaming-checklist-llm-apps",12,[529,464,466,530,531],"AI red teaming","promptfoo","Penetration testing",[533,534,535,536,537,538,539,540,541,542,543],"ai red teaming checklist","llm red teaming","red teaming llm applications","owasp genai red teaming guide","promptfoo red team","garak llm scanner","pyrit red teaming","llm penetration testing","owasp top 10 llm 2025 testing","jailbreak testing llm app","red team rag chatbot",[545,548,551],{"name":546,"url":547},"Red team","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FRed_team",{"name":549,"url":550},"Prompt injection","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_injection",{"name":466,"url":487},[553,556,559,562,565,568,571,574,577,580,583,586],{"title":554,"url":555},"OWASP GenAI Security Project: GenAI Red Teaming Guide (January 2025)","https:\u002F\u002Fgenai.owasp.org\u002Fresource\u002Fgenai-red-teaming-guide\u002F",{"title":557,"url":558},"OWASP GenAI Security Project: Top 10 for LLM Applications 2025","https:\u002F\u002Fgenai.owasp.org\u002Fllm-top-10\u002F",{"title":560,"url":561},"Bullwinkel et al. (Microsoft): Lessons From Red Teaming 100 Generative AI Products (2025)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2501.07238",{"title":563,"url":564},"NIST AI 600-1: Generative Artificial Intelligence Profile (July 2024)","https:\u002F\u002Fnvlpubs.nist.gov\u002Fnistpubs\u002Fai\u002FNIST.AI.600-1.pdf",{"title":566,"url":567},"Promptfoo Docs: Red team quickstart","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fquickstart\u002F",{"title":569,"url":570},"Promptfoo Docs: Red team configuration","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fconfiguration\u002F",{"title":572,"url":573},"Promptfoo Docs: Red team plugins","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fplugins\u002F",{"title":575,"url":576},"Promptfoo Docs: Red team strategies","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fstrategies\u002F",{"title":578,"url":579},"NVIDIA garak: LLM vulnerability scanner (GitHub)","https:\u002F\u002Fgithub.com\u002FNVIDIA\u002Fgarak",{"title":581,"url":582},"Microsoft PyRIT documentation","https:\u002F\u002Fmicrosoft.github.io\u002FPyRIT\u002F",{"title":584,"url":585},"EU AI Act, Article 55: Obligations for providers of GPAI models with systemic risk","https:\u002F\u002Fartificialintelligenceact.eu\u002Farticle\u002F55\u002F",{"title":587,"url":588},"OWASP GenAI LLM Top 10 2026: final entries (GitHub)","https:\u002F\u002Fgithub.com\u002FGenAI-Security-Project\u002FGenAI-LLM-Top10\u002Ftree\u002Fmain\u002F2026\u002Ffinal","\u002Fimages\u002Fblog\u002Fai-red-teaming-checklist-llm-apps\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fai-red-teaming-checklist-llm-apps\u002Fog.jpg",[63,64,65],"AI red teaming ellenőrzőlista LLM-appokhoz: mit támadj meg, mielőtt a felhasználók tennék","Gyakorlati red teaming ellenőrzőlista LLM-funkciókhoz: hatókör, OWASP 2025 tesztesetek, promptfoo, garak és PyRIT, emberi tesztelők és regressziós tesztek.","Lista egy táblán, majd áthúzott pajzs és pipa egy ív végén.",{"slug":596,"published":597,"minutes":598,"category":7,"tags":599,"keywords":605,"about":616,"sources":626,"cover":645,"og":646,"expertise":61,"locales":647,"lang":65,"title":648,"description":649,"coverAlt":650},"slopsquatting-ai-package-hallucinations","2026-10-16",6,[600,601,602,603,604],"Supply chain security","Coding agents","npm","PyPI","Package hallucination",[606,607,608,609,610,611,612,613,614,615],"slopsquatting","package hallucination","ai hallucinated packages","llm package confusion attack","coding agent supply chain security","npm min-release-age","pnpm minimumReleaseAge","uv exclude-newer","npm ignore-scripts","huggingface-cli hallucinated package",[617,620,623],{"name":618,"url":619},"Typosquatting","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTyposquatting",{"name":621,"url":622},"Supply chain attack","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FSupply_chain_attack",{"name":624,"url":625},"Hallucination (artificial intelligence)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FHallucination_(artificial_intelligence)",[627,630,633,636,639,642],{"title":628,"url":629},"Spracklen et al.: We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs (2024)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.10279",{"title":631,"url":632},"Lasso Security, Bar Lanyado: Diving Deeper into AI Package Hallucinations (Mar 2024)","https:\u002F\u002Fwww.lasso.security\u002Fblog\u002Fai-package-hallucinations",{"title":634,"url":635},"npm Docs: config (min-release-age, before, ignore-scripts, allow-scripts)","https:\u002F\u002Fdocs.npmjs.com\u002Fcli\u002Fv11\u002Fusing-npm\u002Fconfig",{"title":637,"url":638},"pnpm: Dependency resolution settings (minimumReleaseAge)","https:\u002F\u002Fpnpm.io\u002Fsettings\u002Fdependency-resolution",{"title":640,"url":641},"uv: Settings reference (exclude-newer, require-hashes)","https:\u002F\u002Fdocs.astral.sh\u002Fuv\u002Freference\u002Fsettings\u002F",{"title":643,"url":644},"pip documentation: Secure installs and hash-checking mode","https:\u002F\u002Fpip.pypa.io\u002Fen\u002Fstable\u002Ftopics\u002Fsecure-installs\u002F","\u002Fimages\u002Fblog\u002Fslopsquatting-ai-package-hallucinations\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fslopsquatting-ai-package-hallucinations\u002Fog.jpg",[63,64,65],"Slopsquatting: amikor a kódoló ágensek nem létező csomagokat telepítenek","Hogyan hallucinálnak az LLM-ek csomagneveket, hogyan regisztrálják ezeket a támadók, és mely registry-, lockfile- és ágenskontrollok állítják meg a telepítést.","Három doboz egy sínén, a középső üreges és elcsúszott, alatta egyező négyzetek a tálcán.",{"slug":652,"published":597,"minutes":598,"category":7,"tags":653,"keywords":657,"about":668,"sources":674,"cover":687,"og":688,"expertise":61,"locales":689,"lang":65,"title":690,"description":691,"coverAlt":692},"rag-poisoning-knowledge-base-attacks",[654,655,549,466,656],"RAG security","Data poisoning","Vector database",[658,659,660,661,662,663,664,665,666,667],"rag poisoning","knowledge base poisoning","poisonedrag","rag security","indirect prompt injection rag","owasp llm08 vector and embedding weaknesses","vector database security","rag data poisoning defense","hidden text prompt injection","secure rag ingestion",[669,672,673],{"name":670,"url":671},"Retrieval-augmented generation","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FRetrieval-augmented_generation",{"name":549,"url":550},{"name":466,"url":487},[675,678,681,684],{"title":676,"url":677},"Zou et al.: PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models (2024)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.07867",{"title":679,"url":680},"Greshake et al.: Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (2023)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.12173",{"title":682,"url":683},"OWASP Gen AI Security Project: LLM08:2025 Vector and Embedding Weaknesses","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm082025-vector-and-embedding-weaknesses\u002F",{"title":685,"url":686},"OWASP Gen AI Security Project: LLM04:2025 Data and Model Poisoning","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm042025-data-and-model-poisoning\u002F","\u002Fimages\u002Fblog\u002Frag-poisoning-knowledge-base-attacks\u002Fcover.webp","\u002Fimages\u002Fblog\u002Frag-poisoning-knowledge-base-attacks\u002Fog.jpg",[63,64,65],"RAG-mérgezés: hogyan téríthet el néhány dokumentum egy asszisztenst, és hogyan védd a tudásbázist","Hogyan helyeznek el a támadók RAG által visszakeresett dokumentumokat, mit mutat a PoisonedRAG és az OWASP, és milyen kontrollok korlátozzák ezt.","Lapok futnak szalagon egy tárolóba, az egyiken kis kocka, a kijáratnál kapu.",1792261159095]