Blog/Thema
KI-Sicherheit und Compliance: Prompt Injection, MCP-Tool-Poisoning, Agenten mit minimalen Rechten, PII und der EU AI Act.
Sicherheit & Compliance
·13 Min. Lesezeit
Output-Guardrails für LLMs: sicheres Markdown-Rendering, Schema-Prüfung vor Aktionen, Moderations-Klassifikatoren, Streaming und Groundedness.
Sicherheit & Compliance
·12 Min. Lesezeit
Red-Teaming-Checkliste für LLM-Apps, bevor es Nutzer tun: Scope, OWASP-2025-Testfälle, promptfoo, garak, PyRIT, menschliche Tester und Regressionstests.
Sicherheit & Compliance
·6 Min. Lesezeit
Wie LLMs Paketnamen halluzinieren, wie Angreifer sie registrieren und welche Registry-, Lockfile- und Agenten-Kontrollen die Installation stoppen.
Sicherheit & Compliance
·6 Min. Lesezeit
RAG-Poisoning: wie Angreifer Dokumente platzieren, die RAG-Systeme finden, was PoisonedRAG und OWASP zeigen und welche Kontrollen helfen.
Sicherheit & Compliance
·11 Min. Lesezeit
Wie Secrets über Coding-Agenten abfließen und welche Kontrollen sie stoppen: Deny-Regeln, Sandbox, Pre-Commit-Scans, Push-Schutz, OIDC und Rotation.
Sicherheit & Compliance
·11 Min. Lesezeit
Nutzungsprotokolle können ein KI-Tool zum Überwachungssystem machen. Was § 96 ArbVG und § 87 BetrVG verlangen und was du vor dem Rollout klären solltest.
Sicherheit & Compliance
·12 Min. Lesezeit
EU AI Act nach dem Digital Omnibus: GPAI-Pflichten, Hochrisiko-Fristen (2.12.2027 und 2.8.2028), Anbieter oder Betreiber bei OpenAI- und Anthropic-APIs.
Sicherheit & Compliance
·12 Min. Lesezeit
DSFA nach Art. 35 DSGVO für einen KI-Assistenten, der Kundenmails mit Bestelldaten beantwortet: wann sie nötig ist und wer die Risiken trägt.
Sicherheit & Compliance
·10 Min. Lesezeit
Guardrails AI im Test: 65 Validatoren, acht On-Fail-Aktionen, das Ende der gehosteten Inferencing im August 2026 und wann NeMo Guardrails besser passt.
Sicherheit & Compliance
·12 Min. Lesezeit
EU AI Act Article 50 für Entwickler: Offenlegung von KI-Interaktion, maschinenlesbare Kennzeichnung, Deepfakes, Anbieter oder Betreiber, Checkliste.
Sicherheit & Compliance
·9 Min. Lesezeit
Warum sich Prompt Injection nicht filtern lässt: das lethal trifecta, sechs Designmuster, Egress-Regeln und eine Red-Team-Checkliste für KI-Agenten.
Sicherheit & Compliance
·11 Min. Lesezeit
Kann eine LLM-API DSGVO-konform sein? EU-Datenresidenz bei OpenAI, Claude über Bedrock und Google Cloud, Zero Data Retention und Self-Hosting.
Sicherheit & Compliance
·10 Min. Lesezeit
Semgrep im Test: über 30 Sprachen, YAML-Muster in Sekunden, Engine unter LGPL-2.1. Cross-File-Analyse, Regelsätze und KI-Triage nur in bezahlten Stufen.
Sicherheit & Compliance
·10 Min. Lesezeit
MCP-Sicherheits-Checkliste: Bedrohungsmodell, Tool-Poisoning, Rug Pulls, RFC-9207-Issuer-Prüfung, Credentials pro Issuer, enge Tokens und Audit-Logs.
Sicherheit & Compliance
·11 Min. Lesezeit
Sandbox-Checkliste für Agenten in der CI: Isolationsstufen, Egress-Allowlist, kurzlebige Credentials, Metadata-Endpunkte, nicht vertrauenswürdige Config.
Sicherheit & Compliance
·9 Min. Lesezeit
Lakera Guard im Test: ein Endpunkt vor dem Modell, PINT-Benchmark-Ergebnisse und warum die Gratis-Stufe schon bei 10.000 Anfragen im Monat endet.
Sicherheit & Compliance
·10 Min. Lesezeit
detect-secrets im Test: eingecheckte Baseline im Vergleich zu gitleaks und TruffleHog, Verifikationsaufrufe in der CI und wo das Tool aufhört.
Sicherheit & Compliance
·12 Min. Lesezeit
PII in LLM-Pipelines schwärzen: Tokens oder Maskierung, Presidio, Cloud-DLP, Lücken bei Deutsch und Ungarisch und was die DSGVO dazu sagt.
Sicherheit & Compliance
·9 Min. Lesezeit
Rebuff: Prompts prüfen mit Heuristiken, einem LLM, Vektorstore früherer Angriffe und Canary-Tokens. Das Repo ist seit Mai 2025 archiviert.
Sicherheit & Compliance
·10 Min. Lesezeit
Protect-AI-Modell-Scanning nach der Übernahme durch Palo Alto Networks: was aus Guardian wurde, was ModelScan kann und wie sich freie Scanner schlagen.
Sicherheit & Compliance
·12 Min. Lesezeit
KI-Agenten als eigene Identitäten: delegierte Tokens, Secrets, Audit, Offboarding und ein Aus-Schalter. Was Entra, Okta und Auth0 dafür liefern.