[{"data":1,"prerenderedAt":636},["ShallowReactive",2],{"blog-protect-ai-hu":3},{"slug":4,"published":5,"minutes":6,"category":7,"tags":8,"keywords":13,"about":22,"sources":32,"cover":65,"og":66,"expertise":67,"locales":68,"lang":71,"title":72,"description":73,"coverAlt":74,"metaTitle":75,"takeaways":76,"faq":82,"toc":95,"blocks":120,"others":399},"protect-ai","2026-06-22",10,"security",[9,10,11,12],"Model scanning","Supply chain","Pickle","CI security",[14,15,16,17,18,19,20,21],"protect ai guardian","modelscan","ai model scanning","prisma airs ai model security","pickle malware scanner","model serialization attack","modelscan vs modelaudit","scan hugging face model for malware",[23,26,29],{"name":24,"url":25},"Protect AI","https:\u002F\u002Fprotectai.com",{"name":27,"url":28},"Palo Alto Networks","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPalo_Alto_Networks",{"name":30,"url":31},"ModelScan","https:\u002F\u002Fgithub.com\u002Fprotectai\u002Fmodelscan",[33,36,39,42,44,47,50,53,56,59,62],{"title":34,"url":35},"Palo Alto Networks: completes acquisition of Protect AI","https:\u002F\u002Fwww.paloaltonetworks.com\u002Fcompany\u002Fpress\u002F2025\u002Fpalo-alto-networks-completes-acquisition-of-protect-ai",{"title":37,"url":38},"Prisma AIRS AI Model Security product page","https:\u002F\u002Fwww.paloaltonetworks.com\u002Fai-security\u002Fai-model-security",{"title":40,"url":41},"Prisma AIRS platform page served at protectai.com","https:\u002F\u002Fprotectai.com\u002F",{"title":43,"url":31},"ModelScan repository and README",{"title":45,"url":46},"ModelScan on PyPI","https:\u002F\u002Fpypi.org\u002Fproject\u002Fmodelscan\u002F",{"title":48,"url":49},"ModelAudit repository and README","https:\u002F\u002Fgithub.com\u002Fpromptfoo\u002Fmodelaudit",{"title":51,"url":52},"promptfoo documentation: model scanning","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fmodel-audit\u002F",{"title":54,"url":55},"Beyond F1: Evaluating Coverage and Failure Recovery in AI Model Security Scanners","https:\u002F\u002Farxiv.org\u002Fabs\u002F2608.27424",{"title":57,"url":58},"JFrog: three zero-day PickleScan vulnerabilities","https:\u002F\u002Fjfrog.com\u002Fblog\u002Funveiling-3-zero-day-vulnerabilities-in-picklescan\u002F",{"title":60,"url":61},"PickleScan repository and README","https:\u002F\u002Fgithub.com\u002Fmmaitre314\u002Fpicklescan",{"title":63,"url":64},"Hugging Face Hub docs: third-party scanner Protect AI","https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Fhub\u002Fen\u002Fsecurity-protectai","\u002Fimages\u002Fblog\u002Fprotect-ai\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fprotect-ai\u002Fog.jpg","ai-engineer",[69,70,71],"en","de","hu","Protect AI modellszkenner: Guardian nincs többé, a ModelScan viszont van","A Protect AI modellszkennelés felülvizsgálata a Palo Alto Networks felvásárlása után: mi lett a Guardianból, mit tud még a ModelScan, és hogyan teljesítenek a szabad szkennerök.","Három doboz oszlopban egymáson, a középsőn nagyító, a felsőből nyíl távozik.","Protect AI modellszkenner-teszt · Balázs Csorba",[77,78,79,80,81],"A Protect AI-t a Palo Alto Networks vásárolta fel, az üzlet 2025. július 22-én zárult le; a Guardian kivezetve, a funkciója Prisma AIRS AI Model Security néven fut.","A ModelScan Apache-2.0 alatt maradt, 0.8.8-as verziója 2026. február 18-i, és csak pickle, TensorFlow SavedModel és Keras H5 formátumot fed le.","Egy 2026. augusztusi benchmark a 135 címkézett modellcsalád 49,6%-án adott egyértelmű ítéletet a ModelScannek, szemben a ModelAudit 100% és a Fickling 81,5% eredményével.","A Prisma AIRS AI Model Security 35+ fájltípust és 25+ fenyegetési kategóriát állít, de sem árat, sem független lefedettségi mérést nem közöl.","Ezeknél a szkenneröknél az 1–4 kilépési kód mind hiba: az 1 találatot jelent, a 2 és felette azt, hogy a szkennelés meg sem történt, ilyenkor buknia kell a buildnek.",[83,86,89,92],{"q":84,"a":85},"Mi történt a Protect AI Guardiannal?","A Palo Alto Networks 2025. április 28-án jelentette be a Protect AI felvásárlását, és 2025. július 22-én fejezte be. a Guardian mint terméknév megszűnt: a protectai.com\u002Fguardian 404-et ad, a tartomány pedig ma a Prisma AIRS oldalait szolgálja ki. A modellszkennelési képesség a Prisma AIRS platformon belül Prisma AIRS AI Model Security néven folytatódik.",{"q":87,"a":88},"Ingyenesen használható a ModelScan?","Igen. A ModelScan Apache-2.0 licencű, pip install modelscan paranccsal települ, a 0.8.8-as verzió 2026. február 18-án jelent meg Python 3.10–3.12 rendszerekre. Nincs hozzá hosztolt szolgáltatás, fiók és használati korlát sem.",{"q":90,"a":91},"Milyen modellformátumokat támogat a ModelScan?","Pickle és pickle-származtatott formátumokat, mint a PyTorch, scikit-learn, XGBoost, joblib, dill és cloudpickle, továbbá TensorFlow SavedModel és Keras H5 fájlokat, a TensorFlow- és H5-szkennerek pedig extra csomagként települnek. Minden más a 3-as kilépési kóddal jön vissza, nem tiszta eredménnyel.",{"q":93,"a":94},"Elég egy modellszkenner egy letöltött modell megbízásához?","Nem. A statikus szkennelés a betöltéskor lefutó kódot fogja meg; a súlyokba rejtett hátsó kaput és az Ön adatain való viselkedést nem látja. A szabad szkennerök lefedettsége nagyon eltér, ezért futtasson többet, bukasson a buildet, ha egy szkennelés nem fejeződik be, és lehetőleg olyan formátumot válasszon, amely egyáltalán nem futtat kódot.",[96,99,102,105,108,111,114,117],{"id":97,"title":98},"what-it-is","Mi ez",{"id":100,"title":101},"how-it-works","Hogyan működik",{"id":103,"title":104},"supported-formats","Támogatott formátumok",{"id":106,"title":107},"getting-started","Első lépések",{"id":109,"title":110},"what-survived","Mi maradt meg",{"id":112,"title":113},"where-it-shingles","Hol dörzsöl",{"id":115,"title":116},"verdict","Ítélet",{"id":118,"title":119},"sources","Források",[121,125,134,137,140,163,166,167,170,176,179,183,191,192,195,246,249,250,253,255,258,265,266,269,272,275,276,279,323,326,332,333,336,348,352,353],{"type":122,"content":123},"paragraph",[124],"A Protect AI valaha olyan cég volt, akinél modellszkennelést lehetett venni. A Palo Alto Networks 2025. április 28-án jelentette be a felvásárlást, és 2025. július 22-én zárta le, így most nem egy szállítót kell értékelni, hanem két tárgyat: a Prisma AIRS AI Model Security-t, a fizetős szkennert, amivé a Guardian vált, és a ModelScan-t, egy Apache-2.0 parancssori eszközt, amely továbbra is települ PyPI-ről. Ennek a recenziónak az álláspontja: a modellfájl szkennelése CI gate, nem beszerzési kategória. A fizetős réteg irányelveket, származást és auditnyomot vesz, és a nyilvános anyagokban semmi sem mutatja, hogy olyasmit tenne fel, amit a szabad eszközök elszalasztanának.",{"type":122,"content":126},[127,128,133],"Egy modellfájl végrehajtható kód adattudományos kiterjesztéssel, mert a PyTorch-szal történő betöltése pontosan azt futtatja, amit a benne lévő pickle kér. A szkenner így a registry és a deploy lépés között ül, ugyanott, ahová egy piactéri eszköz vagy egy nyilvános indexből származó csomag érkezik; érvelése megegyezik az ",{"tag":129,"to":130,"children":131},"link","\u002Fblog\u002Fmcp-server-security-checklist",[132],"MCP-biztonsági checklist"," gondolatmenetével, a súlyokra is. A szabad konkurencia a ModelAudit és a Picklescan, kereskedelmi oldalon pedig a JFrog kutatócsapata publikálta a lejjebb tárgyalt PickleScan-megkerüléseket.",{"type":135,"level":136,"id":97,"text":98},"heading",2,{"type":122,"content":138},[139],"A ModelScan egy Python-csomag egyetlen paranccsal: byteonként olvassa a fájlt, a kódlehajtásig vezető szerializációs szerkezeteket keresi, és súlyosság szerint jelenti őket, a modellt soha nem töltve be. A Guardian ennek a gondolatnak a hosztolt és vállalati rétege volt, modelleket szkennelt CI-ben és registrykben, kényszerített irányelveket és vezetett auditnyomot, ezen a néven már nincs. A képességet Prisma AIRS AI Model Security néven árulják a Prisma AIRS platformon belül, amely további futidővédelmet, red teaminget és posture managementet is hoz.",{"type":141,"ordered":142,"items":143},"list",false,[144,146,148,150,152,159,161],[145],"Szállító: Protect AI, ma a Palo Alto Networks része; a felvásárlás 2025. július 22-én zárult le",[147],"Szabad rész: ModelScan, Apache-2.0, PyPI 0.8.8-as verzió 2026. február 18-ról, Python 3.10–3.12",[149],"Fizetős rész: Prisma AIRS AI Model Security, 35+ fájltípus és 25+ fenyegetési kategória, ár csak kérésre",[151],"Detekció: nem biztonságos szerializációs szerkezetek, beágyazott kártékony kód, hátsó kapuk és szerkezeti anomáliák, CRITICAL-től LOW-ig minősítve",[153,154,158],"Felület: ",{"tag":155,"children":156},"code",[157],"modelscan -p PATH",", konzolos vagy JSON kimenet, 0–4 kilépési kód",[160],"Elhelyezkedés: a szkennelés a saját környezetben fut, így a modellfájlok és a szellemi termék helyben marad, a termékoldal szerint",[162],"A Guardian eltűnt: a protectai.com\u002Fguardian 404-et ad, a Hugging Face dokumentációs oldala pedig továbbra is erre a halott címre hivatkozik",{"type":122,"content":164},[165],"Aki már fizet a Prisma AIRS-ért, annál a modellszkennelés egy pipa egy amúgy is birtokolt platformon. Aki nem fizet, annál ugyanez a gate állítható össze ModelScanból és egy CI lépésből, nulla költséggel. Ez az aszimmetria, nem valamilyen detekciós benchmark forgatja körül ezt a recenziót.",{"type":135,"level":136,"id":100,"text":101},{"type":122,"content":168},[169],"A statikus szkennelés éppen azt a csapdát kerüli el, amely ellen védelmet nyújt: a fájlban semmi sem deszerializálódik. A ModelScan README-je szerint a fájlt byteonként, szövegként olvassa, és nem biztonságos kódaláírásokat keres, ami egyszerre korlátozza a futási időt és a kockázatot, hiszen egy szkennelés nagyjából annyit tart, amennyi a fájl lemezről olvasása. A találatok CRITICAL, HIGH, MEDIUM vagy LOW minősítéssel érkeznek, a folyamat kilépési kódja pedig továbbítja az ítéletet a CI-be.",{"type":171,"src":172,"alt":173,"wide":174,"caption":175},"image","\u002Fimages\u002Fblog\u002Fprotect-ai\u002Fdiagram-8.webp","Hogyan fut egy modellszkenner Négy lépésből álló statikus pipeline: egy registryből vagy CI-artefaktból érkező modellfájlt ellenőriz a formátuma szerint, byteonként szkennel betöltés nélkül, súlyosságot rendel hozzá, az eredményből pedig kilépési kód és irányelvi döntés lesz. Alul súlyossági skála kritikustól alacsonyig, és a megjegyzés, hogy fenyegetési intelligencia csak a fizetős réteggel érkezik.",true,"A modellszkenner a fájlt betöltés nélkül olvassa, súlyosságot rendel hozzá, és az ítéletből kilépési kód lesz; a fenyegetési intelligencia csak a fizetős termékkel jár.",{"type":122,"content":177},[178],"A fizetős réteg azt teszi hozzá, amit egy fájlonként dolgozó eszköz nem láthat. A Palo Alto Networks azt állítja, hogy a szkennelések a Advanced WildFire fenyegetési intelligencia és a huntr kutatóközösség bejelentései alapján validálják a modelleket, az elemzés a ügyfél saját környezetében fut, a buildrendszerek pedig API-n kapcsolódnak; 2026 januárjában jöttek az Artifactory- és GitLab-források. Ezek intelligenciáról, származásról és workflowról szóló állítások, és egyikük sem mondja, hogy a parser pontosabban olvasná a fájlt.",{"type":135,"level":180,"id":181,"text":182},3,"static-not-behavioural","Statisztikus, nem viselkedésalapú",{"type":122,"content":184},[185,186,190],"Egyik réteg sem figyeli a modell működését. Egy szkenner sem mondja meg, hogy egy réteg csak bizonyos bemeneti elosztásra aktiválódik, vagy hogy a pontosságot csendben visszavágták egy felhasználói csoportnál; ahhoz a saját adatain végzett kiértékelés kell, agenteknél pedig olyan futidőbeli kontrollok, amilyenek az ",{"tag":129,"to":187,"children":188},"\u002Fblog\u002Fsandboxing-coding-agents-ci-checklist",[189],"AI agent sandbox checklist"," leír. A statikus elemzés egyetlen kérdésre válaszol: tartalmaz-e a fájl betöltéskor lefutó szerkezeteket. Jól megválaszolni ezt sokat ér, amíg senki nem olvassa úgy, hogy nincs találat, akkor biztonságos.",{"type":135,"level":136,"id":103,"text":104},{"type":122,"content":193},[194],"A formátumlefedettség az, ahol a szabad eszköz és a fizetős termék a legtávolabb kerül egymástól, és ahol a szabad eszköz legalább őszinte a korlátairól.",{"type":196,"head":197,"rows":204},"table",[198,200,202],[199],"Formátumcsalád",[201],"ModelScan, szabad",[203],"Prisma AIRS AI Model Security",[205,212,219,226,233,240],[206,208,210],[207],"Pickle változatok",[209],"torch, scikit-learn, XGBoost, joblib, dill, cloudpickle",[211],"A 35+ fájltípusból álló állított halmazon belül",[213,215,217],[214],"TensorFlow SavedModel",[216],"protokollpuffer, a szkenner extra csomagban",[218],"A TensorFlow szerepel a termékoldalon",[220,222,224],[221],"Keras HDF5",[223],"h5 és keras v3, a szkenner extra csomagban",[225],"A Keras ugyanebben az állításban benne van",[227,229,231],[228],"ONNX és egyéb tenzorformátumok",[230],"Nincs a dokumentált halmazban",[232],"Az ONNX kifejezetten szerepel a 35+ között",[234,236,238],[235],"Archívumok, manifestek, konfigok",[237],"Nincs állítva",[239],"A 25+ fenyegetési kategória része",[241,243,244],[242],"Hátsó kapuk a súlyokban",[237],[245],"Detekciós kategóriaként szerepel",{"type":122,"content":247},[248],"A lényeges rés nem a hiányzó formátum, hanem a fel nem sorolt: egy szkenner nem tud olyat szkennelni, amit nem ismer fel, az ismeretlen fájlnak pedig kontrolláltan kell megbuknia, nem csendben átmennie. A ModelScan ezt jól csinálja, a 3-as kilépési kódot adja, ha nem kap támogatott fájlt. Bármely szállító formátumlistájának azt a kérdést érdemes feltenni, mi történik a harminchatodik fájltípussal.",{"type":135,"level":136,"id":106,"text":107},{"type":122,"content":251},[252],"A szabad út két parancs: telepíteni a csomagot, rászegezni egy könyvtárra. A CI-ben nem a szöveges kimenet számít, hanem a kilépési kód, mert a 0 tiszta, az 1 találat, a 2, 3 és 4 pedig azt jelenti, hogy a szkennelés valójában meg sem történt.",{"type":155,"code":254},"# CI gate: scan every model before it reaches the registry\npip install \"modelscan[tensorflow,h5py]\"\n\nmodelscan --path .\u002Fmodels --reporting-format json --output-file scan.json\nstatus=$?\n\n# 0 clean, 1 findings, 2 scan failed, 3 no supported files, 4 usage error\nif [ \"$status\" -ne 0 ]; then\n  echo \"modelscan returned $status: refusing to publish\"\n  exit 1\nfi",{"type":122,"content":256},[257],"A 2, 3 és 4 kezelje hibaként. Egy szkenner, amely elszabadul egy sérült archívumon, vagy kihagy egy ismeretlen fájltípust, szinte ugyanazt nyomtatja, mint egy tiszta futás, ha a pipeline nincs rá építve, hogy észrevegye. A JFrog által publikált PickleScan-megkerülének pontosan ilyenek voltak: egy fájl úgy megalkotva, hogy a szkenner hibát kap vagy más útra tér, miközben a PyTorch panasz nélkül betölti.",{"type":259,"variant":260,"title":261,"body":262},"callout","warn","Fail-closed",[263],[264],"Ha a szkennelés nem fejeződik be, a modell nem megy ki. A JFrog három kritikus PickleScan-megkerülést jelentett, a CVE-2025-10155, a CVE-2025-10156 és a CVE-2025-10157, mind CVSS 9.3: egy átnevezett fájl, egy sérült ZIP ellenőrzőösszeg, egy alosztály-import. 2025. szeptember 2-án a 0.0.31-es verzióban javították őket. A tanulság túléli a patchet: bármilyen eltérés a szkenner fájlértelmezése és a keretrendszer betöltése között lyuk.",{"type":135,"level":136,"id":109,"text":110},{"type":122,"content":267},[268],"Egyértelműen: a Guardian többé nem létezik termékként. A protectai.com\u002Fguardian 404-et ad, maga a protectai.com ma a Prisma AIRS oldalait szolgálja ki, és az egyetlen első kézből származó leírás egy Hugging Face dokumentációs oldal, amely továbbra is a halott URL-re mutat. A felvásárlást 2025. április 28-án jelentették be, 2025. július 22-én zárták le, a szkennelési képesség ma Prisma AIRS AI Model Security néven szerepel, 2026 januárjában pedig Artifactory-, GitLab- és felhőtárhely-források érkeztek.",{"type":122,"content":270},[271],"A ModelScan ép maradt. A repository továbbra is a protectai szervezet alatt van, Apache-2.0 licenccel, 780 csillaggal, a PyPI 0.8.8-as verziója pedig 2026. február 18-i dátumú. A README-je még mindig azt tanácsolja, nézzük meg a Guardiant, és a halott oldalra mutat; ez éppen olyan jó jel a projekt karbantartási hőmérsékletéről, mint bármelyik más: működik, csendben elhanyagolva, nem feladva.",{"type":122,"content":273},[274],"A kereskedelmi oldal ugyanazt a formát hozza más címen. Nincs nyilvános ár, csak demókérés, és egy szám, ami egy értékesítési beszélgetés után érkezik. Ez a biztonsági szoftvereknél szokásos; egy CI gate-et árazó mérnöknek azt jelenti, hogy a fizetős rétegnek elég sokkal jobbnak kell lennie a szabad eszközöknél, hogy megérje a beszerzést, és ezt egyetlen publikált mérés sem mutatja.",{"type":135,"level":136,"id":112,"text":113},{"type":122,"content":277},[278],"Először a gyengeségek. A ModelScan három formátumcsaládot fed le, a szabad konkurencia tucatnyit. Egy fájl statikus olvasása semmit sem mond a viselkedésről. A szállítótól nincs független lefedettségi mérés, és a rendelkezésre álló egyetlen független benchmark kedvezőtlen: egy 2026. augusztusi, 135 címkézett pickle- és PyTorch-családot vizsgáló kutatás szerint a ModelScan a családok 49,6%-ánál adott egyértelmű ítéletet, szemben a ModelAudit 100% és a Fickling 81,5% eredményével. Amikor a ModelScan mégis döntött, a precizitás, a recall és az F1 is 100% volt. A fizetős rétegnek pedig nincs megkereshető ára.",{"type":196,"head":280,"rows":289},[281,283,285,287],[282],"Eszköz",[284],"Mit fed le",[286],"Független bizonyíték",[288],"Költség",[290,298,306,315],[291,292,294,296],[203],[293],"35+ fájltípus, 25+ fenyegetési kategória",[295],"Nincs publikált lefedettségi mérés",[297],"Kérésre, nincs nyilvános ár",[299,300,302,304],[30],[301],"Pickle, TensorFlow SavedModel, Keras H5",[303],"Egyértelmű ítélet 135 címkézett család 49,6%-án",[305],"Apache-2.0",[307,309,311,313],[308],"ModelAudit",[310],"45 regisztrált szkenner, archívumok és konfigok",[312],"Egyértelmű ítélet a családok 100%-án",[314],"MIT",[316,318,320,322],[317],"Picklescan",[319],"Csak pickle bájtkód",[321],"Három CVSS 9.3 megkerülés, javítva a 0.0.31-ben",[314],{"type":122,"content":324},[325],"A harmadik oszlopot olvassa hibaérték-mód figyelmeztetésként, nem ranglistaként. Egy eszköz, amely a bemutatott anyag felénél ad ítéletet, és abban a felében tökéletes, a többi időben hallgat, a hallgatást pedig a CI gate sikerként jelenti. Ugyanez a benchmark azt találta, hogy a 48 kártékony családnál, amelyeket a ModelScan nem tudott elemezni, a ModelAudit és a Fickling is kiszúrta a payloadot, a Fickling pedig azon túl nem talált valódi találatot, amit a másik két eszköz már lefedett. A következtetés: futtasson két szkennert, ne vegyen ötödiket.",{"type":259,"variant":327,"title":328,"body":329},"note","Két szkenner, egy gate",[330],[331],"Működőképes szabad gate: futtassa a ModelScant a sebessége és a kilépési kódjai miatt, tegye hozzá a ModelAuditet a formátumlefedettségért, és bukasson a buildet, ha bármelyik találatot jelez vagy nem fejeződik be. Mindkettő offline fut. Vegye figyelembe, hogy a ModelAudit csomagos telepítései alapból telemetriát kapcsolnak be, hacsak nincs beállítva a CI=true vagy a NO_ANALYTICS=1.",{"type":135,"level":136,"id":115,"text":116},{"type":122,"content":334},[335],"A Protect AI szkennelése csak akkor éri meg a vásárlást, ha a Prisma AIRS egyébként is a megrendelésen van; önmagában véve ez egy irányelv- és auditréteg, amelyet platformként áraznak. Szabad formában szűk, hasznos CI gate, amely sosem lehet az egyetlen. A mérnöki ítélet, amelyhez ez a recenzió ragaszkodik: a modellszkennelés infrastruktúra, mint egy linter. Legyen olcsó, offline, kilépési kódra épülő és unalmas. Egy termék, amelynek fő érve egy fenyegetési intelligencia-feed, másik rétegről beszél.",{"type":141,"ordered":174,"items":337},[338,340,342,344,346],[339],"A ModelScan akkor jó, ha ingyenes, offline gate kell pickle-, TensorFlow- és Keras-fájlokra, és minden nem nulla kilépési kódot buildhibaként kezel",[341],"A Prisma AIRS AI Model Security akkor kell, ha a származás, az irányelv-érvényesítés és az auditnyom olyasmi, amiről a könyvvizsgálók amúgy is kérdeznek; a detekció önmagában nem indokolja az árat",[343],"Ne vezesse be egyiket sem egyetlen kontrollként: a lefedettségi számok azt mutatják, hogy a második szkenner és a fail-closed szabály többet számít, mint a dobozon lévő márka",[345],"Ne a Guardian körül tervezzen: a terméknév visszavonva, az URL halott, és minden migrációs tanács, amely említi, elavult",[347],"Ha lehet, safetensors-t és más nem végrehajtható formátumot válasszon, mert a legerősebb modellszkennelési irányelvnek egyáltalán nem kell deszerializátort használnia",{"type":349,"content":350},"quote",[351],"Amelyik szkenner csak a bemutatott anyag felét fejezi be, az nem gate. Az egy sebességfokozat zöld lámpával.",{"type":135,"level":136,"id":118,"text":119},{"type":141,"ordered":174,"items":354},[355,360,364,368,372,376,380,384,387,391,395],[356],{"tag":357,"children":358,"href":35},"a",[359],"Palo Alto Networks: a Protect AI felvásárlásának lezárása",[361],{"tag":357,"children":362,"href":38},[363],"Prisma AIRS AI Model Security termékoldal",[365],{"tag":357,"children":366,"href":41},[367],"A protectai.com-on kiszolgált Prisma AIRS platformoldal",[369],{"tag":357,"children":370,"href":31},[371],"ModelScan repository és README",[373],{"tag":357,"children":374,"href":46},[375],"ModelScan a PyPI-n",[377],{"tag":357,"children":378,"href":49},[379],"ModelAudit repository és README",[381],{"tag":357,"children":382,"href":52},[383],"promptfoo dokumentáció: modellszkennelés",[385],{"tag":357,"children":386,"href":55},[54],[388],{"tag":357,"children":389,"href":58},[390],"JFrog: három zero-day sebezhetőség a PickleScanben",[392],{"tag":357,"children":393,"href":61},[394],"PickleScan repository és README",[396],{"tag":357,"children":397,"href":64},[398],"Hugging Face Hub dokumentáció: Protect AI harmadik féltől származó szkenner",[400,468,538,594],{"slug":401,"published":402,"minutes":403,"category":7,"tags":404,"keywords":410,"about":423,"sources":431,"cover":462,"og":463,"expertise":67,"locales":464,"lang":71,"title":465,"description":466,"coverAlt":467},"llm-output-guardrails-moderation","2026-10-17",13,[405,406,407,408,409],"LLM security","Guardrails","Content moderation","OWASP","Output validation",[411,412,413,414,415,416,417,418,419,420,421,422],"llm output guardrails","improper output handling llm","owasp llm05","openai moderation api","omni-moderation-latest","llama guard 4","nemo guardrails streaming","markdown image exfiltration","sanitize llm output html","groundedness detection","llm content moderation production","output rails",[424,426,429],{"name":407,"url":425},"https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FContent_moderation",{"name":427,"url":428},"Cross-site scripting","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FCross-site_scripting",{"name":408,"url":430},"https:\u002F\u002Fowasp.org\u002F",[432,435,438,441,444,447,450,453,456,459],{"title":433,"url":434},"OWASP GenAI Security Project: LLM05:2025 Improper Output Handling","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm052025-improper-output-handling\u002F",{"title":436,"url":437},"OpenAI API Docs: Moderation","https:\u002F\u002Fplatform.openai.com\u002Fdocs\u002Fguides\u002Fmoderation",{"title":439,"url":440},"Meta: Llama Guard 4 model card and prompt formats","https:\u002F\u002Fwww.llama.com\u002Fdocs\u002Fmodel-cards-and-prompt-formats\u002Fllama-guard-4\u002F",{"title":442,"url":443},"NVIDIA NeMo Guardrails: Output rail streaming configuration","https:\u002F\u002Fdocs.nvidia.com\u002Fnemo\u002Fguardrails\u002Fconfigure-guardrails\u002Fyaml-schema\u002Fstreaming\u002Foutput-rail-streaming.md",{"title":445,"url":446},"Microsoft Learn: Prompt Shields in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fjailbreak-detection",{"title":448,"url":449},"Microsoft Learn: Groundedness detection in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fgroundedness",{"title":451,"url":452},"Microsoft Learn: Protected material detection in Azure AI Content Safety","https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fai-services\u002Fcontent-safety\u002Fconcepts\u002Fprotected-material",{"title":454,"url":455},"Guardrails AI documentation","https:\u002F\u002Fwww.guardrailsai.com\u002Fdocs",{"title":457,"url":458},"Vue.js docs: Security best practices","https:\u002F\u002Fvuejs.org\u002Fguide\u002Fbest-practices\u002Fsecurity.html",{"title":460,"url":461},"Simon Willison: Remote prompt injection in GitLab Duo leads to source code theft","https:\u002F\u002Fsimonwillison.net\u002F2025\u002FMay\u002F23\u002Fremote-prompt-injection-in-gitlab-duo\u002F","\u002Fimages\u002Fblog\u002Fllm-output-guardrails-moderation\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fllm-output-guardrails-moderation\u002Fog.jpg",[69,70,71],"LLM output guardrailek: moderáció, biztonságos megjelenítés és ellenőrzés, mielőtt bármi történne","Mit kell ellenőrizni a modell válasza után: biztonságos Markdown, sémaellenőrzés műveletek előtt, moderációs osztályozók, streaming és megalapozottság.","Három szűkülő téglalap alkot tölcsért, pontok hullanak át egy tálcába a lakat mellett.",{"slug":469,"published":402,"minutes":470,"category":7,"tags":471,"keywords":475,"about":487,"sources":495,"cover":532,"og":533,"expertise":67,"locales":534,"lang":71,"title":535,"description":536,"coverAlt":537},"ai-red-teaming-checklist-llm-apps",12,[472,405,408,473,474],"AI red teaming","promptfoo","Penetration testing",[476,477,478,479,480,481,482,483,484,485,486],"ai red teaming checklist","llm red teaming","red teaming llm applications","owasp genai red teaming guide","promptfoo red team","garak llm scanner","pyrit red teaming","llm penetration testing","owasp top 10 llm 2025 testing","jailbreak testing llm app","red team rag chatbot",[488,491,494],{"name":489,"url":490},"Red team","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FRed_team",{"name":492,"url":493},"Prompt injection","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPrompt_injection",{"name":408,"url":430},[496,499,502,505,508,511,514,517,520,523,526,529],{"title":497,"url":498},"OWASP GenAI Security Project: GenAI Red Teaming Guide (January 2025)","https:\u002F\u002Fgenai.owasp.org\u002Fresource\u002Fgenai-red-teaming-guide\u002F",{"title":500,"url":501},"OWASP GenAI Security Project: Top 10 for LLM Applications 2025","https:\u002F\u002Fgenai.owasp.org\u002Fllm-top-10\u002F",{"title":503,"url":504},"Bullwinkel et al. (Microsoft): Lessons From Red Teaming 100 Generative AI Products (2025)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2501.07238",{"title":506,"url":507},"NIST AI 600-1: Generative Artificial Intelligence Profile (July 2024)","https:\u002F\u002Fnvlpubs.nist.gov\u002Fnistpubs\u002Fai\u002FNIST.AI.600-1.pdf",{"title":509,"url":510},"Promptfoo Docs: Red team quickstart","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fquickstart\u002F",{"title":512,"url":513},"Promptfoo Docs: Red team configuration","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fconfiguration\u002F",{"title":515,"url":516},"Promptfoo Docs: Red team plugins","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fplugins\u002F",{"title":518,"url":519},"Promptfoo Docs: Red team strategies","https:\u002F\u002Fwww.promptfoo.dev\u002Fdocs\u002Fred-team\u002Fstrategies\u002F",{"title":521,"url":522},"NVIDIA garak: LLM vulnerability scanner (GitHub)","https:\u002F\u002Fgithub.com\u002FNVIDIA\u002Fgarak",{"title":524,"url":525},"Microsoft PyRIT documentation","https:\u002F\u002Fmicrosoft.github.io\u002FPyRIT\u002F",{"title":527,"url":528},"EU AI Act, Article 55: Obligations for providers of GPAI models with systemic risk","https:\u002F\u002Fartificialintelligenceact.eu\u002Farticle\u002F55\u002F",{"title":530,"url":531},"OWASP GenAI LLM Top 10 2026: final entries (GitHub)","https:\u002F\u002Fgithub.com\u002FGenAI-Security-Project\u002FGenAI-LLM-Top10\u002Ftree\u002Fmain\u002F2026\u002Ffinal","\u002Fimages\u002Fblog\u002Fai-red-teaming-checklist-llm-apps\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fai-red-teaming-checklist-llm-apps\u002Fog.jpg",[69,70,71],"AI red teaming ellenőrzőlista LLM-appokhoz: mit támadj meg, mielőtt a felhasználók tennék","Gyakorlati red teaming ellenőrzőlista LLM-funkciókhoz: hatókör, OWASP 2025 tesztesetek, promptfoo, garak és PyRIT, emberi tesztelők és regressziós tesztek.","Lista egy táblán, majd áthúzott pajzs és pipa egy ív végén.",{"slug":539,"published":540,"minutes":541,"category":7,"tags":542,"keywords":548,"about":559,"sources":569,"cover":588,"og":589,"expertise":67,"locales":590,"lang":71,"title":591,"description":592,"coverAlt":593},"slopsquatting-ai-package-hallucinations","2026-10-16",6,[543,544,545,546,547],"Supply chain security","Coding agents","npm","PyPI","Package hallucination",[549,550,551,552,553,554,555,556,557,558],"slopsquatting","package hallucination","ai hallucinated packages","llm package confusion attack","coding agent supply chain security","npm min-release-age","pnpm minimumReleaseAge","uv exclude-newer","npm ignore-scripts","huggingface-cli hallucinated package",[560,563,566],{"name":561,"url":562},"Typosquatting","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FTyposquatting",{"name":564,"url":565},"Supply chain attack","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FSupply_chain_attack",{"name":567,"url":568},"Hallucination (artificial intelligence)","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FHallucination_(artificial_intelligence)",[570,573,576,579,582,585],{"title":571,"url":572},"Spracklen et al.: We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs (2024)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.10279",{"title":574,"url":575},"Lasso Security, Bar Lanyado: Diving Deeper into AI Package Hallucinations (Mar 2024)","https:\u002F\u002Fwww.lasso.security\u002Fblog\u002Fai-package-hallucinations",{"title":577,"url":578},"npm Docs: config (min-release-age, before, ignore-scripts, allow-scripts)","https:\u002F\u002Fdocs.npmjs.com\u002Fcli\u002Fv11\u002Fusing-npm\u002Fconfig",{"title":580,"url":581},"pnpm: Dependency resolution settings (minimumReleaseAge)","https:\u002F\u002Fpnpm.io\u002Fsettings\u002Fdependency-resolution",{"title":583,"url":584},"uv: Settings reference (exclude-newer, require-hashes)","https:\u002F\u002Fdocs.astral.sh\u002Fuv\u002Freference\u002Fsettings\u002F",{"title":586,"url":587},"pip documentation: Secure installs and hash-checking mode","https:\u002F\u002Fpip.pypa.io\u002Fen\u002Fstable\u002Ftopics\u002Fsecure-installs\u002F","\u002Fimages\u002Fblog\u002Fslopsquatting-ai-package-hallucinations\u002Fcover.webp","\u002Fimages\u002Fblog\u002Fslopsquatting-ai-package-hallucinations\u002Fog.jpg",[69,70,71],"Slopsquatting: amikor a kódoló ágensek nem létező csomagokat telepítenek","Hogyan hallucinálnak az LLM-ek csomagneveket, hogyan regisztrálják ezeket a támadók, és mely registry-, lockfile- és ágenskontrollok állítják meg a telepítést.","Három doboz egy sínén, a középső üreges és elcsúszott, alatta egyező négyzetek a tálcán.",{"slug":595,"published":540,"minutes":541,"category":7,"tags":596,"keywords":600,"about":611,"sources":617,"cover":630,"og":631,"expertise":67,"locales":632,"lang":71,"title":633,"description":634,"coverAlt":635},"rag-poisoning-knowledge-base-attacks",[597,598,492,408,599],"RAG security","Data poisoning","Vector database",[601,602,603,604,605,606,607,608,609,610],"rag poisoning","knowledge base poisoning","poisonedrag","rag security","indirect prompt injection rag","owasp llm08 vector and embedding weaknesses","vector database security","rag data poisoning defense","hidden text prompt injection","secure rag ingestion",[612,615,616],{"name":613,"url":614},"Retrieval-augmented generation","https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FRetrieval-augmented_generation",{"name":492,"url":493},{"name":408,"url":430},[618,621,624,627],{"title":619,"url":620},"Zou et al.: PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models (2024)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.07867",{"title":622,"url":623},"Greshake et al.: Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (2023)","https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.12173",{"title":625,"url":626},"OWASP Gen AI Security Project: LLM08:2025 Vector and Embedding Weaknesses","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm082025-vector-and-embedding-weaknesses\u002F",{"title":628,"url":629},"OWASP Gen AI Security Project: LLM04:2025 Data and Model Poisoning","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm042025-data-and-model-poisoning\u002F","\u002Fimages\u002Fblog\u002Frag-poisoning-knowledge-base-attacks\u002Fcover.webp","\u002Fimages\u002Fblog\u002Frag-poisoning-knowledge-base-attacks\u002Fog.jpg",[69,70,71],"RAG-mérgezés: hogyan téríthet el néhány dokumentum egy asszisztenst, és hogyan védd a tudásbázist","Hogyan helyeznek el a támadók RAG által visszakeresett dokumentumokat, mit mutat a PoisonedRAG és az OWASP, és milyen kontrollok korlátozzák ezt.","Lapok futnak szalagon egy tárolóba, az egyiken kis kocka, a kijáratnál kapu.",1792261159781]