KI-Sicherheits-Glossar
Klare Definitionen für Käufer, CISOs und DSBs, die KI-DLP und generative KI-Sicherheit bewerten.
KI-DLP
KI-DLP (KI Data Loss Prevention) ist Software, die sensible Daten erkennt, blockiert oder anonymisiert, bevor sie die Organisation Richtung eines generativen KI-Dienstes wie ChatGPT, Claude, Gemini oder Copilot verlassen.
Prompt-Injection
Prompt-Injection ist ein Angriff, bei dem nicht vertrauenswürdiger Text im LLM-Input (via Dokument, Webseite, Tool-Antwort oder Nutzer-Prompt) die ursprünglichen Anweisungen des Entwicklers überschreibt und das Modell zu unerlaubten Aktionen bringt.
Schatten-KI
Schatten-KI ist die Nutzung generativer KI-Dienste durch Mitarbeitende ohne Wissen, Genehmigung oder Kontrolle der IT oder Sicherheit.
MCP (Model Context Protocol)
MCP (Model Context Protocol) ist ein offener Standard, den Anthropic Ende 2024 veröffentlicht hat. Er erlaubt KI-Assistenten den einheitlichen Zugriff auf externe Datenquellen, Tools und Dienste.
EU AI Act
Der EU AI Act (Verordnung 2024/1689) ist das umfassende KI-Gesetz der EU, in Kraft seit August 2024, mit gestaffeltem Inkrafttreten bis August 2027.
NIS2
NIS2 (Richtlinie 2022/2555) ist die überarbeitete EU-Richtlinie zur Netzwerk- und Informationssicherheit, anwendbar seit Oktober 2024.
DORA
DORA (Verordnung 2022/2554) verpflichtet Finanzsektor-Einrichtungen zu digitaler operationaler Resilienz, in Kraft seit Januar 2025.
DSGVO
Die DSGVO (Verordnung 2016/679) ist das umfassende EU-Datenschutzgesetz, in Kraft seit Mai 2018.
CLOUD Act
Der CLOUD Act (2018) ist ein US-Bundesgesetz, das in den USA ansässige Anbieter zur Offenlegung von Daten verpflichtet — unabhängig vom physischen Speicherort.
Jailbreak (LLM)
Ein LLM-Jailbreak ist ein gefertigter Prompt, der das Sicherheitstraining oder operative Guardrails umgeht und das Modell zu Output veranlasst, den die Organisation verbieten wollte.
Anonymisierung (in DLP)
In KI-DLP-Kontext ist Anonymisierung das Ersetzen einer erkannten sensiblen Teilzeichenkette (Kreditkarte, IBAN, E-Mail, API-Schlüssel) durch einen strukturell ähnlichen, aber nicht sensiblen Platzhalter vor dem Senden des Prompts.
Souveräne Cloud
Souveräne Cloud bezeichnet Cloud-Infrastruktur unter der Rechtsprechung eines bestimmten Landes oder einer Region, mit Datenresidenz, operativer Kontrolle und Eigentumsstrukturen gegen extraterritoriale Rechtsforderungen.
Datenresidenz
Datenresidenz ist der geografische Ort, an dem Daten physisch gespeichert, verarbeitet und repliziert werden.
Browser-basierte DLP
Browser-basierte DLP setzt DLP-Richtlinien innerhalb des Webbrowsers durch — via gemanagter Erweiterung, die Paste-Events, Formularübermittlungen und ausgehende HTTP-Requests abfängt.
Formatbewahrende Anonymisierung
Formatbewahrende Anonymisierung ist eine Ersetzungstechnik, bei der der Ersatzwert dasselbe syntaktische Format wie das Original erfüllt.