Geklickt. Bestanden. Nichts gelernt?
Themenstand: 27.08.2026 · Für den Blog aufbereitet am 06.11.2026. Dieser Rückblick ordnet die damalige Entwicklung mit ihrem zeitlichen Kontext ein.
Rückblick August 2026: Der SANS-Bericht rückte menschliche Risiken rund um KI nach vorn. Für die Werkbank heißt das: Entscheidungen üben statt Folien abnicken.
Was die Befragung tatsächlich sagt
Der am 27. August 2026 veröffentlichte SANS Security Awareness & Culture Report enthält einen eigenen Schwerpunkt zu KI. Unter den befragten Awareness-Fachleuten war KI das zweithäufigst genannte menschliche Risiko, hinter Social Engineering. Das ist eine Aussage über die Einschätzung dieser Gruppe, keine allgemeine Rangliste aller Cyberangriffe.
Für mich steckt der nützlichere Impuls in der Lernfrage: Welche Entscheidung muss eine Person im Alltag treffen, und woran erkennt sie eine problematische Situation? Ein bestandener Wissenstest beweist noch nicht, dass jemand eine unerwartete Handlungsanweisung in einem Dokument oder eine unnötige Freigabe erkennt.
Ein Dokument kann zur Handlungsanweisung werden
OWASP beschreibt indirekte Prompt Injection als einen Angriff über fremde Inhalte, die ein Sprachmodell verarbeitet. Eine manipulierte Webseite oder Datei kann dabei versuchen, die ursprüngliche Aufgabe umzulenken. Interessant wird das besonders dann, wenn ein Assistent Werkzeuge benutzen oder weitere Daten erreichen kann.
Ein passendes Übungsbeispiel ist eine harmlose Zusammenfassung. In der Quelle steht zusätzlich eine Anweisung, interne Informationen an ein fremdes Ziel zu senden. Die Aufgabe der Lernenden ist nicht, das gefährlichste Wort zu finden. Sie sollen erklären, warum ein fremdes Dokument keine Berechtigung für diese zusätzliche Handlung erteilt.
Kleine Entscheidungen, klares Feedback
Ein Lab kann zwei Verläufe zeigen: Ein naives Modell übernimmt die fremde Anweisung, während eine begrenzte Anwendung den zusätzlichen Werkzeugaufruf außerhalb der erlaubten Aufgabe zurückweist. Die Grenze muss sichtbar sein. Ein Hinweis im Prompt allein ist keine Garantie gegen sämtliche Varianten dieses Problems.
Nach jeder Entscheidung würde ich das Feedback an einem konkreten Unterschied festmachen: Welche Information war nur Quelleninhalt? Welche Aktion war tatsächlich beauftragt? Welche technische Kontrolle hätte die Wirkung begrenzt? Das ist hilfreicher als ein abstrakter Satz darüber, künftig einfach vorsichtiger mit KI umzugehen.
Lernen, das sich nachprüfen lässt
Ein guter Fortschrittswert wäre die Qualität der Begründung bei einem zweiten, leicht veränderten Fall. Erkennt jemand die Vertrauensgrenze auch dann, wenn die Anweisung freundlich, plausibel oder angeblich dringend formuliert ist? Genau solche kleinen Variationen geben einer Werkbank mehr Wert als eine große Zahl beliebiger Quizfragen.