Blog/Téma
MI-biztonság és megfelelés: prompt-injektálás, MCP-eszközmérgezés, minimális jogosultságú ügynökök, személyes adatok és az EU AI Act.
Biztonság és megfelelés
·13 perc olvasás
Mit kell ellenőrizni a modell válasza után: biztonságos Markdown, sémaellenőrzés műveletek előtt, moderációs osztályozók, streaming és megalapozottság.
Biztonság és megfelelés
·12 perc olvasás
Gyakorlati red teaming ellenőrzőlista LLM-funkciókhoz: hatókör, OWASP 2025 tesztesetek, promptfoo, garak és PyRIT, emberi tesztelők és regressziós tesztek.
Biztonság és megfelelés
·6 perc olvasás
Hogyan hallucinálnak az LLM-ek csomagneveket, hogyan regisztrálják őket a támadók, és mely registry-, lockfile- és ügynökkontrollok állítják meg?
Biztonság és megfelelés
·6 perc olvasás
Hogyan helyeznek el a támadók RAG által visszakeresett dokumentumokat, mit mutat a PoisonedRAG és az OWASP, és milyen kontrollok korlátozzák ezt.
Biztonság és megfelelés
·11 perc olvasás
Hogyan szivárognak a titkok kódoló ügynökökön át, és mely kontrollok állítják meg: olvasási tiltás, sandbox, pre-commit, push-védelem, OIDC és kulcscsere.
Biztonság és megfelelés
·11 perc olvasás
Használati naplók miatt egy AI-kódolóeszköz is megfigyelőrendszer lehet. Mit írnak elő az osztrák és német szabályok, és mire érdemes előre megállapodni?
Biztonság és megfelelés
·12 perc olvasás
Az AI Act a Digital Omnibus után: GPAI-kötelezettségek, magas kockázatú határidők (2027. dec. 2., 2028. aug. 2.), szolgáltató vagy alkalmazó, MI-jártasság.
Biztonság és megfelelés
·12 perc olvasás
Kidolgozott DPIA a GDPR 35. cikke szerint: AI-asszisztens rendelési adatokból fogalmazott vevői válaszokhoz. Mikor kell, mik a kockázatok, kik a felelősök?
Biztonság és megfelelés
·10 perc olvasás
A Guardrails AI értékelése: 65 validátor, nyolc on-fail művelet, a bérelt inferencing megszűnése 2026 augusztusában, és mikor jobb a NeMo Guardrails.
Biztonság és megfelelés
·12 perc olvasás
EU AI Act 50. cikk: átláthatósági kötelezettségek fejlesztőknek, MI-interakció közlése, gépileg olvasható jelölés, deepfake-ek, szolgáltató vs. üzemeltető.
Biztonság és megfelelés
·9 perc olvasás
Miért nem lehet kiszűrni a prompt injectiont: a lethal trifecta, hat behatároló tervezési minta, egress szabályok és egy red team checklist KI-ügynökökhöz.
Biztonság és megfelelés
·11 perc olvasás
Lehet GDPR-megfelelő egy LLM API? EU-s adatrezidencia az OpenAI-nál, Claude Bedrockon és Google Cloudon, zero data retention, álnevesítés, saját hosztolás.
Biztonság és megfelelés
·10 perc olvasás
A Semgrep 30 nyelvet elemez, és másodpercek alatt illeszt YAML-mintákat; a motor LGPL-2.1 alatt ingyen van. A cross-file elemzés és az AI-triage fizetős.
Biztonság és megfelelés
·10 perc olvasás
MCP biztonsági ellenőrzőlista: fenyegetési modell, tool poisoning, rug pull, RFC 9207 kiállítóellenőrzés, korlátozott tokenek és audit naplók.
Biztonság és megfelelés
·11 perc olvasás
MI-ügynök sandbox-ellenőrzőlista: izolációs szintek, kimenő forgalmi allowlist, rövid életű hitelesítők, letiltott metadata-végpont, projektkonfiguráció.
Biztonság és megfelelés
·9 perc olvasás
A Lakera Guard értékelése: egyetlen végpont a modell előtt, a pontszámok mögötti PINT-benchmark, és miért áll meg az ingyenes csomag havi 10 000 kérésnél.
Biztonság és megfelelés
·10 perc olvasás
A detect-secrets működése: a commitolt baseline eltérése a gitleakstól és a TruffleHogtól, az ellenőrző hívások a CI-ban, és hol ér véget az eszköz.
Biztonság és megfelelés
·12 perc olvasás
PII-kitakarás LLM-pipeline-okban: visszafordítható tokenek vs. maszkolás, Presidio, felhős DLP, német és magyar hiányok, pszeudonimizálás a GDPR szerint.
Biztonság és megfelelés
·9 perc olvasás
A Rebuff heurisztika, LLM, támadásvektorbázis és canary-tokenek alapján pontozta a promptokat. Archiválták 2025 májusában, utolsó kiadása 2024. január.
Biztonság és megfelelés
·10 perc olvasás
Protect AI modellszkennelés a Palo Alto Networks felvásárlása után: mi lett a Guardianből, mit tud a ModelScan, és hogyan állnak a szabad szkennerek?
Biztonság és megfelelés
·12 perc olvasás
AI-ügynökök identitása legkisebb jogosultsággal: saját azonosító, delegált token, titkok, audit, offboarding, és az Entra, Okta, Auth0 kínálata.