Blog AI-Security / Governance

37 AI-Security-Plattformen: Wer überblickt eigentlich den Stack?

AI Brief listet 37 Plattformen, die KI-Modelle, Apps und Agents absichern sollen. Mehr Tools heißt aber nicht mehr Kontrolle. Vier Punkte, auf die es beim Aufbau von AI-Security ankommt, bevor das Budget in Insellösungen fließt.

Lesemodus

37 Plattformen – aber noch kein Sicherheitskonzept

Stefan Hof teilt auf LinkedIn eine Liste von AI Brief mit 37 Angeboten für den Schutz von KI-Modellen, Anwendungen und Agents. Sie reicht von spezialisierten Guardrails bis zu KI-Funktionen großer Sicherheitsplattformen. In den Kommentaren entsteht die entscheidende Diskussion: Decken Kategorien die tatsächlichen Fähigkeiten ab? Und wer behält die Kontrolle, wenn mehrere Sicherheitswerkzeuge voneinander abhängen?

Die Liste ist ein Ausgangspunkt für die Diskussion, kein unabhängiger Vergleich. Auswahlkriterien und ursprüngliche Kategorisierung von AI Brief konnten wir über den Kurzlink nicht nachvollziehen. Aus der Nennung eines Produkts folgt deshalb weder eine Empfehlung noch ein Nachweis seiner Wirksamkeit.

Erst den Anwendungsfall klären

Meine Empfehlung: Vor der nächsten Produktdemo eine Seite Papier nehmen. Welche KI-Anwendung läuft hier? Welche Daten sieht sie? Welche Aktionen kann sie ausführen? Wer verantwortet sie? Ein interner Assistent, der Dokumente zusammenfasst, braucht andere Grenzen als ein Agent, der Tickets schließt oder Änderungen in produktiven Systemen auslöst.

Die OWASP Top 10 für LLM-Anwendungen 2025 helfen bei der Sortierung. Sie behandeln unter anderem Prompt Injection, sensible Informationen, Lieferketten, Ausgabeverarbeitung und übermäßige Handlungsmacht. Das ist eine Risikolandkarte. Welche Kontrollen daraus nötig werden, entscheidet der konkrete Anwendungsfall.

Berechtigungen bleiben die harte Grenze

OWASP beschreibt bei Excessive Agency drei zentrale Ursachen: zu viel Funktionalität, zu viele Berechtigungen und zu viel Autonomie. Empfohlen werden minimale Erweiterungen und Rechte, Ausführung im jeweiligen Nutzerkontext sowie menschliche Freigaben für folgenreiche Aktionen. Autorisierung soll in den angebundenen Systemen durchgesetzt werden; die Entscheidung des Modells reicht dafür nicht aus.

Die MCP-Sicherheitshinweise ergänzen das durch möglichst kleine Berechtigungsumfänge und warnen vor Wildcard- oder Sammel-Scopes. Außerdem beschreiben sie Confused-Deputy-Risiken bei bestimmten Proxy-Konstellationen. MCP ist damit kein automatisches Sicherheitsversprechen: Entscheidend ist, wie Server, Identitäten und Freigaben tatsächlich umgesetzt sind.

Ein praktisches Beispiel: Soll ein Agent Rechnungen nur suchen, bekommt er keinen Schreibzugriff auf Zahlungsdaten. Ein Filter kann zusätzlich helfen. Die fehlende Schreibberechtigung schützt aber auch dann, wenn der Filter eine manipulierte Eingabe übersieht.

Überschneidungen sichtbar machen

Ich würde für jeden Anwendungsfall vier Dinge nebeneinanderlegen: das konkrete Risiko, die vorhandene Kontrolle, den verantwortlichen Owner und einen nachvollziehbaren Test. Erst wenn dort eine Lücke bleibt, kommt ein weiteres Werkzeug in die Diskussion.

Auch Konsolidierung braucht Prüfung. Eine zentrale Konsole kann Arbeit sparen; sie beantwortet noch nicht, ob Richtlinien überall greifen und ob Ausfälle beherrschbar bleiben. Ebenso wichtig sind Exportmöglichkeiten für Protokolle, nachvollziehbare Entscheidungen und ein geübter Weg zum Sperren von Zugängen.

Produktgrenzen verändern sich. Check Point bestätigt im Q3-Bericht 2025 den Abschluss der Lakera-Übernahme am 22. Oktober 2025. Für die Beschaffung heißt das: aktuelle Zuständigkeiten, Integration und Roadmap prüfen, statt sich auf eine ältere Marktgrafik zu verlassen.

Meine Einschätzung: Abdeckung ist nicht Kontrolle

37 Kästchen in einer Grafik ergeben noch keinen kontrollierten Betrieb. Für mich zählt, ob eine unerlaubte Aktion im Zielsystem scheitert, ob wir den Versuch sehen und ob ein benannter Verantwortlicher den Zugriff stoppen kann.

Dafür müssen Abschaltwege und Protokolle auch erreichbar bleiben, wenn ein Teil der KI-Umgebung ausfällt. Das sollte man mit einem sicheren Test nachweisen: Zugang entziehen, unerlaubte Aktion versuchen, Ergebnis und Alarm prüfen. Eine Präsentationsfolie ersetzt diesen Nachweis nicht.

Dieser Artikel bewertet keines der 37 Produkte. Es wurden weder Funktionsumfang und Preise noch Erkennungsraten oder Integrationsqualität getestet. Die Empfehlungen sind eine Einordnung der Quellen und ein Vorschlag für die eigene Betriebsorganisation.

Was jetzt auf die Arbeitsliste gehört

Inventar erstellen: KI-Anwendungen, Agents, Datenquellen und erreichbare Aktionen erfassen, jeweils mit einem Verantwortlichen.

Rechte prüfen: Lese- und Schreibzugriffe trennen, unnötige Erweiterungen entfernen und folgenreiche Aktionen gezielt freigeben lassen.

Kontrollen testen: Für eine konkrete unerlaubte Aktion festhalten, welches System sie verhindert und wo der Versuch nachvollziehbar wird.

Werkzeuge abgleichen: Erst vorhandene Funktionen und echte Lücken prüfen, dann zusätzliche Produkte auswählen.

Betrieb absichern: Zuständigkeit, Protokollzugriff und Abschaltweg dokumentieren und in einem begrenzten Test erproben.

Quellen & weiterführende Links

Stefan Hof: AI Brief's list of 37 AI security platforms for models, apps and agents (LinkedIn-Beitrag mit Kommentaren)OWASP Top 10 for LLM Applications 2025 (OWASP Gen AI Security Project)LLM06:2025 Excessive Agency (OWASP Gen AI Security Project)Security Best Practices (Model Context Protocol, Spezifikation)Check Point Software Reports 2025 Third Quarter Financial Results

/Verstehen. Testen. Anwenden.

KI-Agenten begrenzen
01 / VERSTEHEN

Du liest gerade die Einordnung.

Beiträge zum Thema
02 / SELBST TESTEN

Der Agent mit zu vielen Rechten

30 Min. Training
03 / IM ALLTAG PRÜFEN

KI-Assistenten: Werkzeugrechte und fremde Inhalte trennen

Checkliste mit Gegenprobe
← Zurück zum Blog

Im Blog suchen

55 Beiträge

Entra Connect Health: Admin-Adressen und Tenant-Daten ausgelesen2 Min. LesezeitMONAI Label: KI-Agenten fanden einen Zero-Day – was Betreiber jetzt tun2 Min. LesezeitvCenter-Zero-Day: Zwei Monate lang hatte eine China-nahe Gruppe den Admin-Zugang – jetzt gibt es den Patch3 Min. LesezeitLiteLLM in der CISA-Liste: Ein KI-Gateway, alle Schlüssel – und LLMjacking mit sechsstelligen Tagesrechnungen3 Min. LesezeitGTA 6 ist da: 13 Jahre gewartet – und dann hängt das PSN3 Min. Lesezeitnginx2root: Zehn Jahre alter HTTP/2-Fehler – wie kritisch ist er wirklich?4 Min. Lesezeit40 Stunden statt 69 Tage: Wie Berliner Forscher die PIN-Sperre von Windows Hello umgehen4 Min. Lesezeit37 AI-Security-Plattformen: Wer überblickt eigentlich den Stack?4 Min. LesezeitJava4Shell: Ein Gleichheitszeichen zu viel, und Java schreibt daneben7 Min. LesezeitGTA 6: Cheat-Listen gibt es nicht, Fake-Installer schon5 Min. LesezeitOptimizely: Vertrautes Skript, fremder Code bei 178 Organisationen6 Min. LesezeitApache Axis 1: Kein Fix-Release, aber Angriffe auf Confluence Data Center4 Min. LesezeitBundID: Login-Welle sperrt Konten, und der Passwort-Zugang ist immer dabei3 Min. LesezeitMaileva: 22 Millionen Briefempfänger, ein Dienstleister und die Frage, wer wen informiert4 Min. LesezeitCheck Point CVE-2026-123039: Warum „nur lokal“ beim Gateway nicht harmlos ist3 Min. LesezeitFAA-Stopp in den USA: Was belegt ist, was offen bleibt und was IT-Teams daraus mitnehmen4 Min. LesezeitMicrosoft-365-Ausfall: Was belegt ist, was offen bleibt und was Admins jetzt tun3 Min. LesezeitN-central: Hotfix 2 reicht nicht, wenn die Legacy API offen ist3 Min. LesezeitApache CVE-2026-119618: Wie kritisch ist die HTTP/2-Lücke wirklich?3 Min. LesezeitKI-Kollegen vor dem Rollout: Was darf der Bot sehen?4 Min. LesezeitÜber 1.000 Lücken. Ausgenutzt wird der „Moderate“.3 Min. LesezeitKey weg. Wer zahlt die Rechnung?3 Min. LesezeitPatch da. Windows Update liefert ihn nicht.3 Min. LesezeitUngenutzt. Aber noch vertraut.3 Min. LesezeitProvenance gültig. Paket trotzdem vergiftet.3 Min. LesezeitWer fragt da? Identität vor die App.3 Min. LesezeitAuto offen. Der Login war der Schlüssel.3 Min. LesezeitCVSS 10.0. Nichts zu patchen.3 Min. LesezeitRoot im Gast. Griff in Firecracker.3 Min. LesezeitBarracuda ESG: Zwei Lücken, ein Root-Weg3 Min. LesezeitNicht mehr fragen? Dann bitte ohne Secret.3 Min. LesezeitApp-Login. Kein User.3 Min. LesezeitGepatcht. Nicht geputzt.4 Min. LesezeitMFA an. Trotzdem drin.4 Min. LesezeitGeprüft. Dann getauscht.4 Min. Lesezeit14 Rabbit Holes für Entra, M365 und SOC.3 Min. LesezeitARTEX: Der Zeitvorteil liegt zwischen den Schritten.3 Min. LesezeitDas Inventar muss vor der CVE fertig sein.3 Min. LesezeitDas Update selbst ist die Lücke.2 Min. LesezeitDer Anruf kam von der IT. Angeblich.2 Min. LesezeitDer erste Patch war nicht die ganze Kette.2 Min. LesezeitDer interessante Teil liegt zwischen den Alerts.2 Min. LesezeitDer Kernel ist installiert. Läuft er auch?3 Min. LesezeitDer Passkey sitzt. Die Hintertür auch?2 Min. LesezeitDie Gruppe ist noch da. Die Logik steht.2 Min. LesezeitDie KI ist echt. Die Einladung nicht.2 Min. LesezeitEchte Loginseite. Falscher Auftrag.2 Min. LesezeitEchter Login. Falscher Auftrag.3 Min. LesezeitEine KEV-Frist ist noch kein Wiederherstellungsplan.3 Min. LesezeitFernhilfe erlaubt. Domänenzugriff gewonnen.2 Min. LesezeitGeklickt. Bestanden. Nichts gelernt?2 Min. LesezeitKühlung ist kein Neben-Netz.2 Min. LesezeitNode2Shell: Das Image-Tag ist kein Inventar.3 Min. LesezeitStandard ist noch keine Zugriffsregel.2 Min. LesezeitToken-Flows aus PDFs lernen? Viel Glück.3 Min. Lesezeit

Esc schließt die Suche.