Was ist ein Schatten-KI-Agent?
Ein KI-Agent plant und handelt selbst: Er ruft Tools und APIs auf, verschickt E-Mails, legt Tickets an oder bearbeitet Dateien. Diese Autonomie ist eine Designentscheidung, kein Governance-Versagen. Zum Schatten-KI-Agenten wird ein Agent, wenn er außerhalb der Transparenz, Freigabe oder Governance des Unternehmens arbeitet: kein Inventareintrag, kein Owner, keine Prüfung, was er darf.
Schatten-Agenten laufen oft mit den Rechten der Person, die sie eingerichtet hat, und können weiterarbeiten, wenn diese Person das Team wechselt oder das Unternehmen verlässt. Das unterscheidet sie von Schatten-IT und Schatten-KI im üblichen Sinn, bei der Beschäftigte eine nicht freigegebene App oder einen Chatbot nutzen und jeden Schritt selbst steuern. Die Kategorien überschneiden sich, statt sich auszuschließen: Ein Schatten-KI-Agent ist eine Form von Schatten-KI und läuft oft auf einer Schatten-IT-Plattform.
| Schatten-IT | Schatten-KI (Chat-Nutzung) | Schatten-KI-Agent | |
|---|---|---|---|
| Was es ist | Nicht freigegebene App oder Cloud-Dienst | Nicht freigegebene Nutzung eines KI-Chat-Tools | Nicht freigegebener KI-Agent, der Aufgaben plant und ausführt |
| Handelt selbst | Nein | Nein, eine Person gibt jeden Schritt vor | Ja, im Rahmen seiner Tools und Rechte |
| Hält Zugangsdaten | Konto der Person | Konto der Person | Oft OAuth-Token einer Person oder geteiltes Servicekonto |
| Läuft ohne die Person | Nein | Nein | Ja, über Auslöser oder Zeitpläne |
| Typisches Risiko | Daten außerhalb freigegebener Systeme | Vertrauliche Daten in Prompts | Handlungen mit zu vielen Rechten, ohne dass jemand sie entschieden hat |
Die letzte Spalte zeigt, warum Richtlinien zur Chat-Nutzung nicht reichen. Eine Regel wie "keine Kundendaten in öffentliche Chatbots" sagt nichts über einen Agenten, der bereits Lese- und Senderechte auf ein Vertriebspostfach hat.
Woher kommen Schatten-KI-Agenten?
Die meisten Schatten-Agenten bauen weder Angreifer noch eigenmächtige Entwickler. Beschäftigte richten sie ein, um Zeit zu sparen, meist auf einem dieser Wege:
- Agenten-Funktionen, die in bereits lizenzierten SaaS-Tools eingeschaltet werden;
- Low-Code- und Automatisierungs-Builder, mit denen Fachbereiche KI-Schritte mit Postfächern, CRM und Dateiablagen verketten;
- Browser-Assistenten und -Erweiterungen, die Webseiten lesen und darauf handeln;
- Coding-Agenten mit Zugriff auf Repositories und Build-Pipelines;
- Konnektoren (zum Beispiel MCP-Server) und persönliche OAuth-Freigaben für Postfach, Kalender oder Laufwerk;
- Kundenservice-Agenten aus Fachbereichsprojekten außerhalb der zentralen IT.
Beispielszenario (fiktiv): Ein Vertriebsmitarbeiter verbindet einen KI-Agenten mit seinem Postfach und dem CRM, damit dieser Follow-ups entwirft und Deal-Phasen aktualisiert. Der Mitarbeiter verlässt das Unternehmen. Die IT sperrt sein Konto im Identity Provider. Ob das auch den Agenten stoppt, hängt davon ab, wie dessen Zugriff vergeben wurde: Ein langlebiger API-Schlüssel oder ein Token eines Dienstes außerhalb des Single Sign-on des Unternehmens kann weiter funktionieren, bis ihn jemand ausdrücklich widerruft. In diesem Szenario läuft der Agent weiter, und niemand widerruft seinen Zugriff, weil niemand von dem Agenten weiß.
Welche Sicherheitsrisiken haben Schatten-KI-Agenten?
Das Kernrisiko: Ein ungeprüfter Agent handelt mit echten Zugangsdaten, und niemand schaut hin. In der Praxis zeigt sich das auf fünf Arten:
- Zu weite und geerbte Rechte. Agenten erhalten oft alle Rechte des Kontos ihres Erstellers oder eines geteilten Servicekontos, weit mehr, als ihre Aufgabe braucht.
- Verwaiste Zugänge. Verlässt der Ersteller das Unternehmen, können Tokens oder Schlüssel des Agenten den Austrittsprozess überdauern, wenn niemand sie widerruft.
- Prompt Injection. Ein Agent, der E-Mails, Dokumente oder Webseiten liest, kann in diesen Inhalten versteckten Anweisungen folgen und sie mit seinen Rechten ausführen.
- Ungeprüfte Freigaben. Menschen geben überzeugend klingende Agenten-Aktionen oft frei, ohne sie zu prüfen.
- Blinde Flecken bei der Compliance. Ob ein Agent personenbezogene Daten verarbeitet oder in einen Hochrisiko-Bereich des AI Act fällt, kann niemand prüfen, wenn niemand von ihm weiß.
Die drei Schritte unten adressieren diese Risiken der Reihe nach: Erkennung und Inventar machen Agenten sichtbar, Ownership schließt die Lücke verwaister Agenten, und minimale Rechte begrenzen, was ein Agent tun kann, auch ein gekaperter.
Schritt 1: Schatten-KI-Agenten erkennen und ein Inventar aufbauen
Die Erkennung von Schatten-KI beginnt dort, wo Agenten Spuren hinterlassen. Kein einzelnes Werkzeug sieht alle Agenten, kombinieren Sie deshalb mehrere Quellen:
- OAuth-App-Freigaben und zugelassene Drittanbieter-Apps im Identity Provider;
- die Admin-Konsolen Ihrer SaaS-Tools, die oft zeigen, welche KI- oder Agenten-Funktionen eingeschaltet sind und von wem;
- Proxy-, Secure-Web-Gateway- oder CASB-Logs mit Verbindungen zu KI-Diensten und Automatisierungsplattformen;
- die Admin-Ansichten von Low-Code- und Automatisierungsplattformen;
- ein Aufruf zur Selbstauskunft an die Fachbereiche.
Ein API-Inventar zeigt keinen Agenten, der vollständig in einer Low-Code-Plattform lebt. Behandeln Sie die Selbstauskunft deshalb als eigene Quelle und gestalten Sie sie als Amnestie: Teams, die einen Agenten in den ersten Wochen melden, dürfen ihn während der Prüfung weiter betreiben.
Jeden gefundenen Agenten erfassen Sie dann im Inventar. Ein Agenten-Inventar ist ein Register, das für jeden Agenten festhält, was er tut, in wessen Auftrag er handelt und worauf er zugreifen kann. Mit diesen Feldern taugt das Register für Sicherheitsprüfungen und später für Fragen zum AI Act:
| Feld | Wozu Sie es brauchen |
|---|---|
| Name und ID | Eindeutiger Bezug für Tickets, Logs und Audits |
| Plattform | Wo der Agent läuft (SaaS-Funktion, Low-Code-Tool, eigener Code) |
| Geschäftszweck | Zeigt, ob die Rechte zur Aufgabe passen |
| Fachlicher Owner | Person, die für das Handeln des Agenten verantwortlich ist |
| Technischer Owner und Vertretung | Wer ihn konfiguriert, Zugangsdaten rotiert und ihn abschalten kann |
| Art der Identität | Eigene Agenten-Identität, Token einer Person oder geteiltes Servicekonto |
| Berechtigungen und Scopes | Was er lesen, schreiben, senden oder löschen darf |
| Datenklassen | Personenbezogene Daten? Vertrauliche Daten? Bestimmt die Datenschutzprüfung |
| Angebundene Tools und Konnektoren | Jedes erreichbare System, auch MCP-Server und Plug-ins |
| Autonomiestufe und Freigabepunkte | Welche Aktionen erst nach menschlicher Freigabe laufen |
| Außenwirkung | Spricht er mit Kunden oder anderen Personen außerhalb des Unternehmens? |
| Letzte Prüfung und Ablaufdatum | Erzwingt eine Entscheidung statt unbefristeten Betriebs |
Schritt 2: Jedem Agenten einen Owner geben
Jeder Agent braucht einen benannten fachlichen und einen technischen Owner, jeweils mit Vertretung. Der fachliche Owner verantwortet, was der Agent tut, der technische Owner, wie er es tut. Die übrigen Rollen werden beteiligt oder informiert:
| Aufgabe | Fachlicher Owner | Technischer Owner | Security / IAM | Datenschutz | KI-/Compliance-Verantwortliche | Betriebsrat |
|---|---|---|---|---|---|---|
| Zweck festlegen und Ergebnisse abnehmen | A, R | C | I | C | I | |
| Konfigurieren, Zugangsdaten verwalten, Tokens rotieren | I | A, R | C | |||
| Berechtigungen und Monitoring freigeben | C | R | A | I | ||
| Verarbeitung personenbezogener Daten prüfen, Bedarf einer DSFA klären | C | C | I | A, R | I | |
| Einordnung nach AI Act | C | C | I | C | A, R | |
| Agenten, die Verhaltens- oder Leistungsdaten von Beschäftigten verarbeiten | C | C | C | C | C | Mitbestimmung, wo einschlägig |
A = accountable (rechenschaftspflichtig), R = responsible (durchführend), C = consulted (beteiligt), I = informed (informiert).
Zwei Praktiken halten das Modell stabil. Erstens: Ein Agent ohne Owner wird gesperrt oder in eine eingeschränkte Umgebung verschoben, bis ihn jemand übernimmt. Das ist eine Hausregel, keine gesetzliche Pflicht, aber nur so füllt sich das Inventar nicht mit verwaisten Agenten. Zweitens: Nehmen Sie Agenten in den Austrittsprozess auf. Verlässt ein Owner das Unternehmen, werden seine Agenten und Tokens übergeben oder abgeschaltet, genau wie sein Laptop.
Zur Spalte Betriebsrat: Wo ein Betriebsrat besteht, hat er nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Die Arbeitsgerichte legen "dazu bestimmt" weit aus: Es kann genügen, dass ein System objektiv zur Überwachung geeignet ist, unabhängig von der Absicht des Arbeitgebers. Ob ein bestimmter Agent darunter fällt, hängt davon ab, welche Daten er wie verarbeitet; das sollte rechtlich geprüft werden. Dies ist keine Rechtsberatung.
Schritt 3: KI-Agenten mit minimalen Rechten absichern
Das Prinzip heißt Least Agency und erweitert Least Privilege von Rechten auf Tools und Autonomie: Ein Agent bekommt nur die Tools, Rechte und Autonomie, die seine Aufgabe braucht. Die OWASP Top 10 for LLM Applications 2025 nennen drei Ursachen für "Excessive Agency": zu viel Funktionalität, zu viele Rechte und zu viel Autonomie. Die Gegenmaßnahmen lassen sich direkt in Governance-Regeln übersetzen:
- Minimale Tools. Nur die Erweiterungen und Funktionen anbinden, die die Aufgabe braucht. Ein Agent, der zusammenfasst, braucht keine Sendefunktion.
- Minimale Rechte im Kontext der Person. Aktionen in nachgelagerten Systemen laufen mit den Rechten der konkreten Person und dem kleinsten Scope, nicht mit einer hoch privilegierten Sammelidentität.
- Menschliche Freigabe für folgenreiche Aktionen. Zahlungen, externe E-Mails, Löschungen und Rechteänderungen warten auf eine Person.
- Autorisierung im Zielsystem. Das nachgelagerte System entscheidet, ob eine Aktion erlaubt ist, nicht das Modell.
- Protokollierung und Monitoring. Aufzeichnen, was der Agent getan hat, um unerwünschte Aktionen zu erkennen und darauf zu reagieren.
Die OWASP Top 10 for Agentic Applications for 2026, am 9. Dezember 2025 vom OWASP GenAI Security Project veröffentlicht, übertragen das auf autonome Agenten und verwenden den Begriff "Least-Agency" ausdrücklich. Drei der zehn Einträge passen direkt zur Governance-Arbeit: ASI03 Identity and Privilege Abuse (Agenten übernehmen oder erweitern Zugangsdaten über Delegationsketten), ASI09 Human-Agent Trust Exploitation (Menschen geben Agenten-Aktionen ohne unabhängige Prüfung frei) und ASI10 Rogue Agents (Agenten weichen von ihrer vorgesehenen Funktion oder ihrem freigegebenen Rahmen ab).
Offen ist vor allem die Identitätsfrage. Im Februar 2026 hat das National Cybersecurity Center of Excellence des NIST ein Concept Paper zu Identität und Autorisierung von Software- und KI-Agenten veröffentlicht und um Rückmeldungen zu Identifikation, Autorisierung, Auditing und Nichtabstreitbarkeit gebeten. Es ist ein Konzeptpapier für ein mögliches Projekt, kein Standard. Praktisch heißt das für heute: Geben Sie Agenten eigene Identitäten statt geteilter Servicekonten oder geliehener Tokens, damit sich jede Aktion einem Agenten und einem Owner zuordnen lässt.
Welche Frameworks helfen bei der Governance von KI-Agenten?
Keines der folgenden Frameworks ist ein Gesetz für KI-Agenten. Sie liefern Begriffe und Struktur für die Inventar-, Owner- und Rechteregeln oben.
| Framework | Was es liefert | Status |
|---|---|---|
| NIST AI Risk Management Framework 1.0 | Vier Funktionen (Govern, Map, Measure, Manage) für KI-Risiken; Generative AI Profile NIST AI 600-1 vom 26. Juli 2024 | Freiwillig, veröffentlicht am 26. Januar 2023 |
| OWASP LLM Top 10 2025 und Agentic Top 10 2026 | Konkrete Risikokategorien und Gegenmaßnahmen für Agenten | Community-Projekt |
| Singapurs Model AI Governance Framework for Agentic AI (IMDA) | Vier Dimensionen: Risiken vorab begrenzen, Menschen über Freigabepunkte verantwortlich machen, technische Kontrollen über den Lebenszyklus, Verantwortung der Endnutzer durch Transparenz und Schulung | Leitfaden, vorgestellt am 22. Januar 2026; Referenz außerhalb der EU |
| NIST-NCCoE-Concept-Paper zur Agenten-Identität | Fragen zu Identifikation, Autorisierung und Audit von Agenten | Konzeptpapier, Kommentarfrist endete am 2. April 2026 |
Einen Überblick über die Unterschiede dieser Frameworks gibt unser Glossareintrag zu KI-Risikomanagement-Frameworks.
Was verlangt der AI Act von Unternehmen, die KI-Agenten einsetzen?
Setzt Ihr Unternehmen KI-Agenten für berufliche Zwecke ein, ist es sehr wahrscheinlich "Betreiber" im Sinne der KI-Verordnung und muss schon heute Maßnahmen zur KI-Kompetenz der Personen ergreifen, die diese Agenten bedienen. Strengere Betreiberpflichten gelten nur für Hochrisiko-Systeme, und die meisten internen Produktivitäts-Agenten dürften nicht hochriskant sein. Beides sollte rechtlich für Ihre Situation bestätigt werden.
Schatten-Agenten sind nicht ausgenommen. Die KI-Verordnung unterscheidet nicht zwischen freigegebener und nicht freigegebener Nutzung. Nach unserer Lesart ist das Unternehmen in der Regel Betreiber, wenn Beschäftigte einen Agenten beruflich nutzen, ob die IT davon weiß oder nicht. Ein Grund mehr, Schatten-Agenten zuerst zu finden.
Wer Betreiber ist. Betreiber ist, wer ein KI-System "in eigener Verantwortung verwendet", außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit (Art. 3 Nr. 4 KI-VO). Wer einen Agenten für berufliche Zwecke einschaltet oder baut, wird damit typischerweise Betreiber. Wer einen Agenten selbst entwickelt und in Betrieb nimmt, kann zusätzlich als Anbieter gelten; das sollte rechtlich geprüft werden.
KI-Kompetenz (Art. 4). Die Pflicht gilt seit 2. Februar 2025; die nationalen Marktüberwachungsbehörden beaufsichtigen und setzen sie ab 2. August 2026 durch, so die Fragen und Antworten der EU-Kommission zur KI-Kompetenz. Der Digital-Omnibus zur KI, laut Überblicksseite der Kommission zum KI-Gesetz seit 27. Juli 2026 in Kraft, hat den Wortlaut geändert: Anbieter und Betreiber ergreifen nun Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu fördern, und müssen kein bestimmtes Niveau gewährleisten. Die Pflicht selbst bleibt. Laut Kommission ist kein Zertifikat nötig; interne Aufzeichnungen über Schulungen sind ein Weg, sie zu dokumentieren. Die Kommission nennt auch Beschäftigte, die ChatGPT für Routine-Texte nutzen: Sie sollen über spezifische Risiken wie Halluzinationen informiert werden. Agenten-Owner und Personen, die Agenten-Aktionen freigeben, sind die naheliegende erste Zielgruppe.
Hochrisiko-Pflichten (Art. 26). Betreiber von Hochrisiko-KI-Systemen müssen unter anderem die menschliche Aufsicht natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Art. 26 KI-VO). Nach dem Omnibus gelten die Regeln für Hochrisiko-Anwendungen in sensiblen Bereichen, darunter Beschäftigung und kritische Infrastruktur, ab 2. Dezember 2027, die für KI in regulierten Produkten ab 2. August 2028. Ein Agent, der Bewerbungen vorsortiert oder Arbeit zuteilt, könnte in einen Hochrisiko-Bereich fallen; lassen Sie solche Agenten zuerst einordnen.
Agenten, die mit Menschen sprechen (Art. 50). KI-Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die Betroffenen wissen, dass sie mit einer KI sprechen (Art. 50 Abs. 1 KI-VO). Das ist vor allem eine Anbieterpflicht und betrifft kundennahe Agenten; die Kommission datiert die Transparenzregeln auf August 2026. Unser Artikel zu Deepfake-Simulationen, Einwilligung und AI Act behandelt Art. 50 ausführlicher.
Die DSGVO gilt weiter. Verarbeitet ein Agent personenbezogene Daten, gilt die DSGVO neben dem AI Act, einschließlich der Frage, ob eine Datenschutz-Folgenabschätzung nötig ist.
Die Links zu Art. 3, 4, 26 und 50 führen zu artificialintelligenceact.eu, einer inoffiziellen konsolidierten Fassung des Future of Life Institute; verbindlich ist der im Amtsblatt der EU veröffentlichte Text. Dies ist keine Rechtsberatung.
Die menschliche Seite der Agenten-Governance
Am Anfang jedes Schatten-Agenten steht eine Person, die ihre Arbeit schneller erledigen wollte. Damit ist Governance ebenso ein Thema für Menschen wie für IAM, und zwar in dreifacher Hinsicht.
Menschen bauen und verbinden Agenten. Ein reines Verbot drängt die Nutzung eher weiter ins Verborgene. Eine klare Richtlinie, die freigegebene Plattformen, den Weg zur Registrierung und die Pflichten der Owner festlegt, plus kurze Schulungen für alle, die Agenten bauen, holt Agenten dagegen ins Inventar.
Agenten lassen sich überreden. Ein Agent, der E-Mails, Webseiten oder Dokumente liest, kann Anweisungen erhalten, die in diesen Inhalten versteckt sind. Unser Blogbeitrag dazu, wie Prompt Injection KI-Agenten kapert, erklärt den Mechanismus. Governance antwortet darauf mit den Rechtegrenzen aus Schritt 3, nicht mit Vertrauen ins Modell.
Menschen vertrauen Agenten zu sehr. OWASP beschreibt unter ASI09, wie Nutzer Agenten-Aktionen ohne unabhängige Prüfung freigeben, wenn ein Agent überzeugend klingt. Ein Freigabe-Klick wird erst dann zur Kontrolle, wenn die freigebende Person weiß, was sie prüfen muss, so wie Beschäftigte lernen, eine geänderte Bankverbindung per Rückruf über eine bekannte Nummer zu prüfen. Freigebende brauchen dafür Training, genau wie bei Phishing.
Beispielszenario (fiktiv): Eine Lieferanten-E-Mail enthält versteckten Text, der den Postfach-Agenten der Buchhaltung anweist, die Bankverbindung des Lieferanten zu ändern. Der Agent bereitet die Änderung vor und bittet eine Sachbearbeiterin der Kreditorenbuchhaltung um Freigabe. Die Sachbearbeiterin verlässt sich nicht auf die Zusammenfassung des Agenten, ruft den Lieferanten unter der Nummer aus den Stammdaten an, erfährt, dass sich nichts geändert hat, lehnt die Anfrage ab und meldet die E-Mail an die IT-Sicherheit.
Wo revel8 passt
revel8 ist kein Werkzeug für Agenten-Inventar oder KI-Governance, und dieser Leitfaden setzt revel8 nicht voraus. Zwei Teile der Plattform adressieren die menschliche Seite und kundennahe Agenten:
- Contact Center Protection testet KI-Agenten im Kundenservice per Pentest: Sie kartiert die Kanäle, über die die Agenten arbeiten, markiert wahrscheinliche Schwachstellen und testet sie mit aktuellen Agentic-Prompt-Injection-Techniken. Zusätzlich laufen KI-Voice-Simulationen gegen die menschlichen Mitarbeitenden dahinter.
- Interactive Trainings entwirft Module aus hochgeladenen Dokumenten, etwa einer internen KI- oder Agenten-Richtlinie. So wird aus dieser Richtlinie Training auf Basis Ihrer eigenen Richtlinien für Agenten-Owner und Freigebende. revel8 beschreibt das Reporting als betriebsratskonform und ohne individuelle Überwachung.
Wenn Sie Ihre kundennahen KI-Agenten und die Menschen um sie herum testen möchten, können Sie eine Demo buchen.
In 30 Tagen Schatten-KI-Agenten unter Kontrolle bringen
Für den Anfang brauchen Sie keine Governance-Plattform. Eine Tabelle mit den Feldern aus Schritt 1 und vier fokussierte Wochen bringen Sie von "keine Ahnung" zu einem ersten belastbaren Stand:
| Woche | Ziel | Ergebnis |
|---|---|---|
| 1 | Erfassen | OAuth-Freigaben und Agenten-Einstellungen der SaaS-Tools exportiert, Low-Code-Admin-Ansichten geprüft, Amnestie-Aufruf zur Selbstauskunft gestartet |
| 2 | Owner zuweisen | Jeder Agent hat einen fachlichen und einen technischen Owner mit Vertretung; Agenten ohne Owner sind gesperrt |
| 3 | Rechte reduzieren | Unnötige Tools und Scopes entfernt, Freigabepunkte für folgenreiche Aktionen gesetzt, geteilte Konten durch Agenten-Identitäten ersetzt, wo die Plattform es zulässt |
| 4 | Routine schaffen | Agenten-Richtlinie veröffentlicht, KI-Kompetenz-Maßnahme für Owner und Freigebende dokumentiert, Prüfzyklus und Ablaufdaten festgelegt |
Nach Tag 30 wird die Inventar-Prüfung Teil Ihrer regulären Rezertifizierung von Zugriffsrechten, und neue Agenten durchlaufen die Registrierung, bevor sie Zugangsdaten erhalten. Zwei einfache Kennzahlen zeigen, ob die Governance trägt: Owner-Abdeckung (Agenten mit benanntem fachlichem und technischem Owner ÷ alle Agenten im Inventar) und Prüf-Abdeckung (Agenten, die innerhalb ihres Prüfzyklus geprüft wurden ÷ alle Agenten im Inventar). Zählen Sie gesperrte Agenten im Nenner mit, bis sie entfernt sind; sonst sehen die Zahlen durch das Sperren verwaister Agenten besser aus, als die Lage ist.




