Blog KI-Sicherheit

KI-Kollegen vor dem Rollout: Was darf der Bot sehen?

Ein KI-Kollege braucht mehr als eine Einladung. Wer darf ihn installieren, welche Inhalte darf er lesen und wer stoppt ihn, wenn aus einer Zusammenfassung eine Aktion wird?

Lesemodus

Ein neuer Kollege ist auch ein neuer Zugang

Ein Bot sitzt im Meeting, fasst den Termin zusammen und hilft später im Teamchat weiter. Praktisch. Bevor er Zugriff bekommt, würde ich aber dieselben Fragen stellen wie bei jeder anderen angebundenen Anwendung: Welche Daten sieht er? Was darf er verändern? Wer ist verantwortlich?

Der aktuelle Anlass ist Grok Bot 1.0. Die offizielle Ankündigung ist auf den 2. November 2026 datiert. Der Changelog-Eintrag zu Version 1.0.1 vom 11. November beschreibt unter anderem Meetings und die Teams-Anbindung. Diese Datierung sollte man auseinanderhalten. Für den eigenen Rollout zählt anschließend, was im gebuchten Tarif und im konkreten Tenant tatsächlich aktiviert ist.

Erst die Rechte, dann die Features

Startet mit einem begrenzten Pilotbereich. Lest die angeforderten Berechtigungen einzeln: Kanalinhalte, Dateien, Kalender, Nachrichten lesen oder schreiben sind unterschiedliche Befugnisse. Nicht jede Integration braucht alles. Slack dokumentiert dafür Scopes; in Teams müssen die jeweiligen App-Berechtigungen und Administrationsregeln geprüft werden.

Legt fest, wer Apps installieren, Verbindungen herstellen und Zugriffe erweitern darf. Ein benannter Owner gehört dazu. Testet auch den Rückweg: Verbindung trennen, Tokens widerrufen und den Zugriff nach einem Rollenwechsel entziehen. Eine App nur aus einem Chat zu entfernen, ist noch kein nachgewiesenes Offboarding.

Ein Meeting-Bot braucht klare Spielregeln

Bei aktivierter Meeting-Teilnahme kann ein Assistent Gesprächsinhalte für Notizen und Zusammenfassungen verarbeiten. Daraus folgt nicht, dass jeder Bot automatisch jedes Meeting mithört. Prüft Einladungen, Kalender-Automatik und die konkreten Aufzeichnungseinstellungen.

Teilnehmende müssen nachvollziehen können, ob ein Assistent anwesend ist und was mit den Inhalten geschieht. Das gilt auch für Externe. Definiert vertrauliche Termine ohne Bot und klärt, wer Transkripte, Zusammenfassungen und Aufgaben später sehen darf. Sichtbare Teilnahme allein beantwortet die Frage nach Speicherung und Weitergabe noch nicht.

Team-Gedächtnis und Modelltraining getrennt prüfen

Wenn ein Anbieter von Lernen oder Erinnerungen spricht, ist damit nicht automatisch das Training seiner Basismodelle gemeint. Prüft getrennt, welche Informationen der Assistent für das Team speichert, wer neue Erinnerungen freigibt und ob Kundendaten für Anbietertraining genutzt werden dürfen.

Für personenbezogene Daten müssen Zweck, Rechtsgrundlage, Zugriffsrechte und Löschfristen geklärt sein. Ein Auftragsverarbeitungsvertrag ist erforderlich, wenn eine entsprechende Auftragsverarbeitung vorliegt. Eine Datenschutz-Folgenabschätzung ist nach Artikel 35 DSGVO bei voraussichtlich hohem Risiko erforderlich; sie ist keine pauschale Pflicht für jeden Bot. Auch mögliche Drittlandübermittlungen gehören in die Prüfung. Datenschutzbeauftragte und gegebenenfalls die zuständige Interessenvertretung früh einbeziehen.

Was der Bot liest, darf keine Freigabe ersetzen

OWASP beschreibt Prompt Injection auch über fremde Inhalte: Eine Nachricht oder ein Dokument kann Anweisungen enthalten, die das Modell als Auftrag missversteht. Relevant wird das besonders dann, wenn der Assistent neben Lesen auch Werkzeuge bedienen kann.

Mein Ansatz für den Pilot: wenige Rechte, klar begrenzte Aktionen und eine menschliche Freigabe für kritische Schritte. Prüft Freigaben technisch an der jeweiligen Aktion. Protokolliert nachvollziehbar, welcher Zugriff oder welche Änderung ausgeführt wurde, und testet den Umgang mit manipulierten Dokumenten vor einem breiten Rollout.

Eine geprüfte Option schlägt die improvisierte Ausnahme

Ein Verbot allein schafft noch keinen brauchbaren Arbeitsablauf. Bietet eine geprüfte Option mit verständlichen Grenzen und einer Anlaufstelle für neue Anforderungen. Sonst entstehen zusätzliche Integrationen, deren Datenflüsse und Verantwortliche niemand sauber überblickt.

Vor dem Rollout würde ich einen kleinen, dokumentierten Test verlangen: eingeschränkte Zugriffe, nachvollziehbare Mitschriften, Freigaben für kritische Aktionen und ein funktionierender Entzug aller Verbindungen. Erst wenn das funktioniert, wird der Pilot erweitert.

Quellen & weiterführende Links

xAI: Ankündigung Grok Bot 1.0xAI: Grok Bot ChangelogxAI: Bots in MeetingsSlack: Berechtigungen und ScopesMicrosoft: Teams App-BerechtigungenOWASP: LLM01 Prompt InjectionEUR-Lex: DSGVO, insbesondere Artikel 28 und 35

/Verstehen. Testen. Anwenden.

KI-Agenten begrenzen
01 / VERSTEHEN

Du liest gerade die Einordnung.

Beiträge zum Thema
02 / SELBST TESTEN

Der Agent mit zu vielen Rechten

30 Min. Training
03 / IM ALLTAG PRÜFEN

KI-Assistenten: Werkzeugrechte und fremde Inhalte trennen

Checkliste mit Gegenprobe

Passend weiterarbeiten

Key weg. Wer zahlt die Rechnung?
← Zurück zum Blog

Im Blog suchen

55 Beiträge

Entra Connect Health: Admin-Adressen und Tenant-Daten ausgelesen2 Min. LesezeitMONAI Label: KI-Agenten fanden einen Zero-Day – was Betreiber jetzt tun2 Min. LesezeitvCenter-Zero-Day: Zwei Monate lang hatte eine China-nahe Gruppe den Admin-Zugang – jetzt gibt es den Patch3 Min. LesezeitLiteLLM in der CISA-Liste: Ein KI-Gateway, alle Schlüssel – und LLMjacking mit sechsstelligen Tagesrechnungen3 Min. LesezeitGTA 6 ist da: 13 Jahre gewartet – und dann hängt das PSN3 Min. Lesezeitnginx2root: Zehn Jahre alter HTTP/2-Fehler – wie kritisch ist er wirklich?4 Min. Lesezeit40 Stunden statt 69 Tage: Wie Berliner Forscher die PIN-Sperre von Windows Hello umgehen4 Min. Lesezeit37 AI-Security-Plattformen: Wer überblickt eigentlich den Stack?4 Min. LesezeitJava4Shell: Ein Gleichheitszeichen zu viel, und Java schreibt daneben7 Min. LesezeitGTA 6: Cheat-Listen gibt es nicht, Fake-Installer schon5 Min. LesezeitOptimizely: Vertrautes Skript, fremder Code bei 178 Organisationen6 Min. LesezeitApache Axis 1: Kein Fix-Release, aber Angriffe auf Confluence Data Center4 Min. LesezeitBundID: Login-Welle sperrt Konten, und der Passwort-Zugang ist immer dabei3 Min. LesezeitMaileva: 22 Millionen Briefempfänger, ein Dienstleister und die Frage, wer wen informiert4 Min. LesezeitCheck Point CVE-2026-123039: Warum „nur lokal“ beim Gateway nicht harmlos ist3 Min. LesezeitFAA-Stopp in den USA: Was belegt ist, was offen bleibt und was IT-Teams daraus mitnehmen4 Min. LesezeitMicrosoft-365-Ausfall: Was belegt ist, was offen bleibt und was Admins jetzt tun3 Min. LesezeitN-central: Hotfix 2 reicht nicht, wenn die Legacy API offen ist3 Min. LesezeitApache CVE-2026-119618: Wie kritisch ist die HTTP/2-Lücke wirklich?3 Min. LesezeitKI-Kollegen vor dem Rollout: Was darf der Bot sehen?4 Min. LesezeitÜber 1.000 Lücken. Ausgenutzt wird der „Moderate“.3 Min. LesezeitKey weg. Wer zahlt die Rechnung?3 Min. LesezeitPatch da. Windows Update liefert ihn nicht.3 Min. LesezeitUngenutzt. Aber noch vertraut.3 Min. LesezeitProvenance gültig. Paket trotzdem vergiftet.3 Min. LesezeitWer fragt da? Identität vor die App.3 Min. LesezeitAuto offen. Der Login war der Schlüssel.3 Min. LesezeitCVSS 10.0. Nichts zu patchen.3 Min. LesezeitRoot im Gast. Griff in Firecracker.3 Min. LesezeitBarracuda ESG: Zwei Lücken, ein Root-Weg3 Min. LesezeitNicht mehr fragen? Dann bitte ohne Secret.3 Min. LesezeitApp-Login. Kein User.3 Min. LesezeitGepatcht. Nicht geputzt.4 Min. LesezeitMFA an. Trotzdem drin.4 Min. LesezeitGeprüft. Dann getauscht.4 Min. Lesezeit14 Rabbit Holes für Entra, M365 und SOC.3 Min. LesezeitARTEX: Der Zeitvorteil liegt zwischen den Schritten.3 Min. LesezeitDas Inventar muss vor der CVE fertig sein.3 Min. LesezeitDas Update selbst ist die Lücke.2 Min. LesezeitDer Anruf kam von der IT. Angeblich.2 Min. LesezeitDer erste Patch war nicht die ganze Kette.2 Min. LesezeitDer interessante Teil liegt zwischen den Alerts.2 Min. LesezeitDer Kernel ist installiert. Läuft er auch?3 Min. LesezeitDer Passkey sitzt. Die Hintertür auch?2 Min. LesezeitDie Gruppe ist noch da. Die Logik steht.2 Min. LesezeitDie KI ist echt. Die Einladung nicht.2 Min. LesezeitEchte Loginseite. Falscher Auftrag.2 Min. LesezeitEchter Login. Falscher Auftrag.3 Min. LesezeitEine KEV-Frist ist noch kein Wiederherstellungsplan.3 Min. LesezeitFernhilfe erlaubt. Domänenzugriff gewonnen.2 Min. LesezeitGeklickt. Bestanden. Nichts gelernt?2 Min. LesezeitKühlung ist kein Neben-Netz.2 Min. LesezeitNode2Shell: Das Image-Tag ist kein Inventar.3 Min. LesezeitStandard ist noch keine Zugriffsregel.2 Min. LesezeitToken-Flows aus PDFs lernen? Viel Glück.3 Min. Lesezeit

Esc schließt die Suche.