Startseite
›
Magazin
›
Schatten-KI-Agenten: Risiken, Erkennung und Governance
Schatten-KI-Agenten: Risiken, Erkennung und Governance

Schatten-KI-Agenten: Risiken, Erkennung und Governance

November 16, 2026
15 Min. Lesezeit
revel8 Team
Produkt & Engineering
revel8-team

Schatten-KI-Agenten handeln mit Firmendaten und Zugangsdaten, aber niemand hat sie freigegeben. So erkennen Sie sie, bauen ein Agenten-Inventar auf, benennen Owner, begrenzen Rechte und erfüllen den AI Act.

Inhaltsverzeichnis

Get started
with revel8

  • Ein Schatten-KI-Agent läuft ohne die Transparenz, Freigabe oder Governance, die sein Unternehmen verlangt; Autonomie allein macht ihn nicht zum Schatten-Agenten.
  • Finden Sie Agenten über OAuth-Freigaben, SaaS-Admin-Konsolen, Logs und Selbstauskunft; geben Sie jedem einen fachlichen und technischen Owner und sperren Sie Agenten ohne Owner.
  • Nach dem AI Act gilt KI-Kompetenz für Agenten-Nutzer seit Februar 2025; Hochrisiko-Pflichten ab Dezember 2027.

Was ist ein Schatten-KI-Agent?

Ein KI-Agent plant und handelt selbst: Er ruft Tools und APIs auf, verschickt E-Mails, legt Tickets an oder bearbeitet Dateien. Diese Autonomie ist eine Designentscheidung, kein Governance-Versagen. Zum Schatten-KI-Agenten wird ein Agent, wenn er außerhalb der Transparenz, Freigabe oder Governance des Unternehmens arbeitet: kein Inventareintrag, kein Owner, keine Prüfung, was er darf.

Schatten-Agenten laufen oft mit den Rechten der Person, die sie eingerichtet hat, und können weiterarbeiten, wenn diese Person das Team wechselt oder das Unternehmen verlässt. Das unterscheidet sie von Schatten-IT und Schatten-KI im üblichen Sinn, bei der Beschäftigte eine nicht freigegebene App oder einen Chatbot nutzen und jeden Schritt selbst steuern. Die Kategorien überschneiden sich, statt sich auszuschließen: Ein Schatten-KI-Agent ist eine Form von Schatten-KI und läuft oft auf einer Schatten-IT-Plattform.

Schatten-ITSchatten-KI (Chat-Nutzung)Schatten-KI-Agent
Was es istNicht freigegebene App oder Cloud-DienstNicht freigegebene Nutzung eines KI-Chat-ToolsNicht freigegebener KI-Agent, der Aufgaben plant und ausführt
Handelt selbstNeinNein, eine Person gibt jeden Schritt vorJa, im Rahmen seiner Tools und Rechte
Hält ZugangsdatenKonto der PersonKonto der PersonOft OAuth-Token einer Person oder geteiltes Servicekonto
Läuft ohne die PersonNeinNeinJa, über Auslöser oder Zeitpläne
Typisches RisikoDaten außerhalb freigegebener SystemeVertrauliche Daten in PromptsHandlungen mit zu vielen Rechten, ohne dass jemand sie entschieden hat

Die letzte Spalte zeigt, warum Richtlinien zur Chat-Nutzung nicht reichen. Eine Regel wie "keine Kundendaten in öffentliche Chatbots" sagt nichts über einen Agenten, der bereits Lese- und Senderechte auf ein Vertriebspostfach hat.

Woher kommen Schatten-KI-Agenten?

Die meisten Schatten-Agenten bauen weder Angreifer noch eigenmächtige Entwickler. Beschäftigte richten sie ein, um Zeit zu sparen, meist auf einem dieser Wege:

  • Agenten-Funktionen, die in bereits lizenzierten SaaS-Tools eingeschaltet werden;
  • Low-Code- und Automatisierungs-Builder, mit denen Fachbereiche KI-Schritte mit Postfächern, CRM und Dateiablagen verketten;
  • Browser-Assistenten und -Erweiterungen, die Webseiten lesen und darauf handeln;
  • Coding-Agenten mit Zugriff auf Repositories und Build-Pipelines;
  • Konnektoren (zum Beispiel MCP-Server) und persönliche OAuth-Freigaben für Postfach, Kalender oder Laufwerk;
  • Kundenservice-Agenten aus Fachbereichsprojekten außerhalb der zentralen IT.

Beispielszenario (fiktiv): Ein Vertriebsmitarbeiter verbindet einen KI-Agenten mit seinem Postfach und dem CRM, damit dieser Follow-ups entwirft und Deal-Phasen aktualisiert. Der Mitarbeiter verlässt das Unternehmen. Die IT sperrt sein Konto im Identity Provider. Ob das auch den Agenten stoppt, hängt davon ab, wie dessen Zugriff vergeben wurde: Ein langlebiger API-Schlüssel oder ein Token eines Dienstes außerhalb des Single Sign-on des Unternehmens kann weiter funktionieren, bis ihn jemand ausdrücklich widerruft. In diesem Szenario läuft der Agent weiter, und niemand widerruft seinen Zugriff, weil niemand von dem Agenten weiß.

Welche Sicherheitsrisiken haben Schatten-KI-Agenten?

Das Kernrisiko: Ein ungeprüfter Agent handelt mit echten Zugangsdaten, und niemand schaut hin. In der Praxis zeigt sich das auf fünf Arten:

  • Zu weite und geerbte Rechte. Agenten erhalten oft alle Rechte des Kontos ihres Erstellers oder eines geteilten Servicekontos, weit mehr, als ihre Aufgabe braucht.
  • Verwaiste Zugänge. Verlässt der Ersteller das Unternehmen, können Tokens oder Schlüssel des Agenten den Austrittsprozess überdauern, wenn niemand sie widerruft.
  • Prompt Injection. Ein Agent, der E-Mails, Dokumente oder Webseiten liest, kann in diesen Inhalten versteckten Anweisungen folgen und sie mit seinen Rechten ausführen.
  • Ungeprüfte Freigaben. Menschen geben überzeugend klingende Agenten-Aktionen oft frei, ohne sie zu prüfen.
  • Blinde Flecken bei der Compliance. Ob ein Agent personenbezogene Daten verarbeitet oder in einen Hochrisiko-Bereich des AI Act fällt, kann niemand prüfen, wenn niemand von ihm weiß.

Die drei Schritte unten adressieren diese Risiken der Reihe nach: Erkennung und Inventar machen Agenten sichtbar, Ownership schließt die Lücke verwaister Agenten, und minimale Rechte begrenzen, was ein Agent tun kann, auch ein gekaperter.

Schritt 1: Schatten-KI-Agenten erkennen und ein Inventar aufbauen

Die Erkennung von Schatten-KI beginnt dort, wo Agenten Spuren hinterlassen. Kein einzelnes Werkzeug sieht alle Agenten, kombinieren Sie deshalb mehrere Quellen:

  • OAuth-App-Freigaben und zugelassene Drittanbieter-Apps im Identity Provider;
  • die Admin-Konsolen Ihrer SaaS-Tools, die oft zeigen, welche KI- oder Agenten-Funktionen eingeschaltet sind und von wem;
  • Proxy-, Secure-Web-Gateway- oder CASB-Logs mit Verbindungen zu KI-Diensten und Automatisierungsplattformen;
  • die Admin-Ansichten von Low-Code- und Automatisierungsplattformen;
  • ein Aufruf zur Selbstauskunft an die Fachbereiche.

Ein API-Inventar zeigt keinen Agenten, der vollständig in einer Low-Code-Plattform lebt. Behandeln Sie die Selbstauskunft deshalb als eigene Quelle und gestalten Sie sie als Amnestie: Teams, die einen Agenten in den ersten Wochen melden, dürfen ihn während der Prüfung weiter betreiben.

Jeden gefundenen Agenten erfassen Sie dann im Inventar. Ein Agenten-Inventar ist ein Register, das für jeden Agenten festhält, was er tut, in wessen Auftrag er handelt und worauf er zugreifen kann. Mit diesen Feldern taugt das Register für Sicherheitsprüfungen und später für Fragen zum AI Act:

FeldWozu Sie es brauchen
Name und IDEindeutiger Bezug für Tickets, Logs und Audits
PlattformWo der Agent läuft (SaaS-Funktion, Low-Code-Tool, eigener Code)
GeschäftszweckZeigt, ob die Rechte zur Aufgabe passen
Fachlicher OwnerPerson, die für das Handeln des Agenten verantwortlich ist
Technischer Owner und VertretungWer ihn konfiguriert, Zugangsdaten rotiert und ihn abschalten kann
Art der IdentitätEigene Agenten-Identität, Token einer Person oder geteiltes Servicekonto
Berechtigungen und ScopesWas er lesen, schreiben, senden oder löschen darf
DatenklassenPersonenbezogene Daten? Vertrauliche Daten? Bestimmt die Datenschutzprüfung
Angebundene Tools und KonnektorenJedes erreichbare System, auch MCP-Server und Plug-ins
Autonomiestufe und FreigabepunkteWelche Aktionen erst nach menschlicher Freigabe laufen
AußenwirkungSpricht er mit Kunden oder anderen Personen außerhalb des Unternehmens?
Letzte Prüfung und AblaufdatumErzwingt eine Entscheidung statt unbefristeten Betriebs

Schritt 2: Jedem Agenten einen Owner geben

Jeder Agent braucht einen benannten fachlichen und einen technischen Owner, jeweils mit Vertretung. Der fachliche Owner verantwortet, was der Agent tut, der technische Owner, wie er es tut. Die übrigen Rollen werden beteiligt oder informiert:

AufgabeFachlicher OwnerTechnischer OwnerSecurity / IAMDatenschutzKI-/Compliance-VerantwortlicheBetriebsrat
Zweck festlegen und Ergebnisse abnehmenA, RCICI
Konfigurieren, Zugangsdaten verwalten, Tokens rotierenIA, RC
Berechtigungen und Monitoring freigebenCRAI
Verarbeitung personenbezogener Daten prüfen, Bedarf einer DSFA klärenCCIA, RI
Einordnung nach AI ActCCICA, R
Agenten, die Verhaltens- oder Leistungsdaten von Beschäftigten verarbeitenCCCCCMitbestimmung, wo einschlägig

A = accountable (rechenschaftspflichtig), R = responsible (durchführend), C = consulted (beteiligt), I = informed (informiert).

Zwei Praktiken halten das Modell stabil. Erstens: Ein Agent ohne Owner wird gesperrt oder in eine eingeschränkte Umgebung verschoben, bis ihn jemand übernimmt. Das ist eine Hausregel, keine gesetzliche Pflicht, aber nur so füllt sich das Inventar nicht mit verwaisten Agenten. Zweitens: Nehmen Sie Agenten in den Austrittsprozess auf. Verlässt ein Owner das Unternehmen, werden seine Agenten und Tokens übergeben oder abgeschaltet, genau wie sein Laptop.

Zur Spalte Betriebsrat: Wo ein Betriebsrat besteht, hat er nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Die Arbeitsgerichte legen "dazu bestimmt" weit aus: Es kann genügen, dass ein System objektiv zur Überwachung geeignet ist, unabhängig von der Absicht des Arbeitgebers. Ob ein bestimmter Agent darunter fällt, hängt davon ab, welche Daten er wie verarbeitet; das sollte rechtlich geprüft werden. Dies ist keine Rechtsberatung.

Schritt 3: KI-Agenten mit minimalen Rechten absichern

Das Prinzip heißt Least Agency und erweitert Least Privilege von Rechten auf Tools und Autonomie: Ein Agent bekommt nur die Tools, Rechte und Autonomie, die seine Aufgabe braucht. Die OWASP Top 10 for LLM Applications 2025 nennen drei Ursachen für "Excessive Agency": zu viel Funktionalität, zu viele Rechte und zu viel Autonomie. Die Gegenmaßnahmen lassen sich direkt in Governance-Regeln übersetzen:

  1. Minimale Tools. Nur die Erweiterungen und Funktionen anbinden, die die Aufgabe braucht. Ein Agent, der zusammenfasst, braucht keine Sendefunktion.
  2. Minimale Rechte im Kontext der Person. Aktionen in nachgelagerten Systemen laufen mit den Rechten der konkreten Person und dem kleinsten Scope, nicht mit einer hoch privilegierten Sammelidentität.
  3. Menschliche Freigabe für folgenreiche Aktionen. Zahlungen, externe E-Mails, Löschungen und Rechteänderungen warten auf eine Person.
  4. Autorisierung im Zielsystem. Das nachgelagerte System entscheidet, ob eine Aktion erlaubt ist, nicht das Modell.
  5. Protokollierung und Monitoring. Aufzeichnen, was der Agent getan hat, um unerwünschte Aktionen zu erkennen und darauf zu reagieren.

Die OWASP Top 10 for Agentic Applications for 2026, am 9. Dezember 2025 vom OWASP GenAI Security Project veröffentlicht, übertragen das auf autonome Agenten und verwenden den Begriff "Least-Agency" ausdrücklich. Drei der zehn Einträge passen direkt zur Governance-Arbeit: ASI03 Identity and Privilege Abuse (Agenten übernehmen oder erweitern Zugangsdaten über Delegationsketten), ASI09 Human-Agent Trust Exploitation (Menschen geben Agenten-Aktionen ohne unabhängige Prüfung frei) und ASI10 Rogue Agents (Agenten weichen von ihrer vorgesehenen Funktion oder ihrem freigegebenen Rahmen ab).

Offen ist vor allem die Identitätsfrage. Im Februar 2026 hat das National Cybersecurity Center of Excellence des NIST ein Concept Paper zu Identität und Autorisierung von Software- und KI-Agenten veröffentlicht und um Rückmeldungen zu Identifikation, Autorisierung, Auditing und Nichtabstreitbarkeit gebeten. Es ist ein Konzeptpapier für ein mögliches Projekt, kein Standard. Praktisch heißt das für heute: Geben Sie Agenten eigene Identitäten statt geteilter Servicekonten oder geliehener Tokens, damit sich jede Aktion einem Agenten und einem Owner zuordnen lässt.

Welche Frameworks helfen bei der Governance von KI-Agenten?

Keines der folgenden Frameworks ist ein Gesetz für KI-Agenten. Sie liefern Begriffe und Struktur für die Inventar-, Owner- und Rechteregeln oben.

FrameworkWas es liefertStatus
NIST AI Risk Management Framework 1.0Vier Funktionen (Govern, Map, Measure, Manage) für KI-Risiken; Generative AI Profile NIST AI 600-1 vom 26. Juli 2024Freiwillig, veröffentlicht am 26. Januar 2023
OWASP LLM Top 10 2025 und Agentic Top 10 2026Konkrete Risikokategorien und Gegenmaßnahmen für AgentenCommunity-Projekt
Singapurs Model AI Governance Framework for Agentic AI (IMDA)Vier Dimensionen: Risiken vorab begrenzen, Menschen über Freigabepunkte verantwortlich machen, technische Kontrollen über den Lebenszyklus, Verantwortung der Endnutzer durch Transparenz und SchulungLeitfaden, vorgestellt am 22. Januar 2026; Referenz außerhalb der EU
NIST-NCCoE-Concept-Paper zur Agenten-IdentitätFragen zu Identifikation, Autorisierung und Audit von AgentenKonzeptpapier, Kommentarfrist endete am 2. April 2026

Einen Überblick über die Unterschiede dieser Frameworks gibt unser Glossareintrag zu KI-Risikomanagement-Frameworks.

Was verlangt der AI Act von Unternehmen, die KI-Agenten einsetzen?

Setzt Ihr Unternehmen KI-Agenten für berufliche Zwecke ein, ist es sehr wahrscheinlich "Betreiber" im Sinne der KI-Verordnung und muss schon heute Maßnahmen zur KI-Kompetenz der Personen ergreifen, die diese Agenten bedienen. Strengere Betreiberpflichten gelten nur für Hochrisiko-Systeme, und die meisten internen Produktivitäts-Agenten dürften nicht hochriskant sein. Beides sollte rechtlich für Ihre Situation bestätigt werden.

Schatten-Agenten sind nicht ausgenommen. Die KI-Verordnung unterscheidet nicht zwischen freigegebener und nicht freigegebener Nutzung. Nach unserer Lesart ist das Unternehmen in der Regel Betreiber, wenn Beschäftigte einen Agenten beruflich nutzen, ob die IT davon weiß oder nicht. Ein Grund mehr, Schatten-Agenten zuerst zu finden.

Wer Betreiber ist. Betreiber ist, wer ein KI-System "in eigener Verantwortung verwendet", außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit (Art. 3 Nr. 4 KI-VO). Wer einen Agenten für berufliche Zwecke einschaltet oder baut, wird damit typischerweise Betreiber. Wer einen Agenten selbst entwickelt und in Betrieb nimmt, kann zusätzlich als Anbieter gelten; das sollte rechtlich geprüft werden.

KI-Kompetenz (Art. 4). Die Pflicht gilt seit 2. Februar 2025; die nationalen Marktüberwachungsbehörden beaufsichtigen und setzen sie ab 2. August 2026 durch, so die Fragen und Antworten der EU-Kommission zur KI-Kompetenz. Der Digital-Omnibus zur KI, laut Überblicksseite der Kommission zum KI-Gesetz seit 27. Juli 2026 in Kraft, hat den Wortlaut geändert: Anbieter und Betreiber ergreifen nun Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu fördern, und müssen kein bestimmtes Niveau gewährleisten. Die Pflicht selbst bleibt. Laut Kommission ist kein Zertifikat nötig; interne Aufzeichnungen über Schulungen sind ein Weg, sie zu dokumentieren. Die Kommission nennt auch Beschäftigte, die ChatGPT für Routine-Texte nutzen: Sie sollen über spezifische Risiken wie Halluzinationen informiert werden. Agenten-Owner und Personen, die Agenten-Aktionen freigeben, sind die naheliegende erste Zielgruppe.

Hochrisiko-Pflichten (Art. 26). Betreiber von Hochrisiko-KI-Systemen müssen unter anderem die menschliche Aufsicht natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Art. 26 KI-VO). Nach dem Omnibus gelten die Regeln für Hochrisiko-Anwendungen in sensiblen Bereichen, darunter Beschäftigung und kritische Infrastruktur, ab 2. Dezember 2027, die für KI in regulierten Produkten ab 2. August 2028. Ein Agent, der Bewerbungen vorsortiert oder Arbeit zuteilt, könnte in einen Hochrisiko-Bereich fallen; lassen Sie solche Agenten zuerst einordnen.

Agenten, die mit Menschen sprechen (Art. 50). KI-Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die Betroffenen wissen, dass sie mit einer KI sprechen (Art. 50 Abs. 1 KI-VO). Das ist vor allem eine Anbieterpflicht und betrifft kundennahe Agenten; die Kommission datiert die Transparenzregeln auf August 2026. Unser Artikel zu Deepfake-Simulationen, Einwilligung und AI Act behandelt Art. 50 ausführlicher.

Die DSGVO gilt weiter. Verarbeitet ein Agent personenbezogene Daten, gilt die DSGVO neben dem AI Act, einschließlich der Frage, ob eine Datenschutz-Folgenabschätzung nötig ist.

Die Links zu Art. 3, 4, 26 und 50 führen zu artificialintelligenceact.eu, einer inoffiziellen konsolidierten Fassung des Future of Life Institute; verbindlich ist der im Amtsblatt der EU veröffentlichte Text. Dies ist keine Rechtsberatung.

Die menschliche Seite der Agenten-Governance

Am Anfang jedes Schatten-Agenten steht eine Person, die ihre Arbeit schneller erledigen wollte. Damit ist Governance ebenso ein Thema für Menschen wie für IAM, und zwar in dreifacher Hinsicht.

Menschen bauen und verbinden Agenten. Ein reines Verbot drängt die Nutzung eher weiter ins Verborgene. Eine klare Richtlinie, die freigegebene Plattformen, den Weg zur Registrierung und die Pflichten der Owner festlegt, plus kurze Schulungen für alle, die Agenten bauen, holt Agenten dagegen ins Inventar.

Agenten lassen sich überreden. Ein Agent, der E-Mails, Webseiten oder Dokumente liest, kann Anweisungen erhalten, die in diesen Inhalten versteckt sind. Unser Blogbeitrag dazu, wie Prompt Injection KI-Agenten kapert, erklärt den Mechanismus. Governance antwortet darauf mit den Rechtegrenzen aus Schritt 3, nicht mit Vertrauen ins Modell.

Menschen vertrauen Agenten zu sehr. OWASP beschreibt unter ASI09, wie Nutzer Agenten-Aktionen ohne unabhängige Prüfung freigeben, wenn ein Agent überzeugend klingt. Ein Freigabe-Klick wird erst dann zur Kontrolle, wenn die freigebende Person weiß, was sie prüfen muss, so wie Beschäftigte lernen, eine geänderte Bankverbindung per Rückruf über eine bekannte Nummer zu prüfen. Freigebende brauchen dafür Training, genau wie bei Phishing.

Beispielszenario (fiktiv): Eine Lieferanten-E-Mail enthält versteckten Text, der den Postfach-Agenten der Buchhaltung anweist, die Bankverbindung des Lieferanten zu ändern. Der Agent bereitet die Änderung vor und bittet eine Sachbearbeiterin der Kreditorenbuchhaltung um Freigabe. Die Sachbearbeiterin verlässt sich nicht auf die Zusammenfassung des Agenten, ruft den Lieferanten unter der Nummer aus den Stammdaten an, erfährt, dass sich nichts geändert hat, lehnt die Anfrage ab und meldet die E-Mail an die IT-Sicherheit.

Wo revel8 passt

revel8 ist kein Werkzeug für Agenten-Inventar oder KI-Governance, und dieser Leitfaden setzt revel8 nicht voraus. Zwei Teile der Plattform adressieren die menschliche Seite und kundennahe Agenten:

  • Contact Center Protection testet KI-Agenten im Kundenservice per Pentest: Sie kartiert die Kanäle, über die die Agenten arbeiten, markiert wahrscheinliche Schwachstellen und testet sie mit aktuellen Agentic-Prompt-Injection-Techniken. Zusätzlich laufen KI-Voice-Simulationen gegen die menschlichen Mitarbeitenden dahinter.
  • Interactive Trainings entwirft Module aus hochgeladenen Dokumenten, etwa einer internen KI- oder Agenten-Richtlinie. So wird aus dieser Richtlinie Training auf Basis Ihrer eigenen Richtlinien für Agenten-Owner und Freigebende. revel8 beschreibt das Reporting als betriebsratskonform und ohne individuelle Überwachung.

Wenn Sie Ihre kundennahen KI-Agenten und die Menschen um sie herum testen möchten, können Sie eine Demo buchen.

In 30 Tagen Schatten-KI-Agenten unter Kontrolle bringen

Für den Anfang brauchen Sie keine Governance-Plattform. Eine Tabelle mit den Feldern aus Schritt 1 und vier fokussierte Wochen bringen Sie von "keine Ahnung" zu einem ersten belastbaren Stand:

WocheZielErgebnis
1ErfassenOAuth-Freigaben und Agenten-Einstellungen der SaaS-Tools exportiert, Low-Code-Admin-Ansichten geprüft, Amnestie-Aufruf zur Selbstauskunft gestartet
2Owner zuweisenJeder Agent hat einen fachlichen und einen technischen Owner mit Vertretung; Agenten ohne Owner sind gesperrt
3Rechte reduzierenUnnötige Tools und Scopes entfernt, Freigabepunkte für folgenreiche Aktionen gesetzt, geteilte Konten durch Agenten-Identitäten ersetzt, wo die Plattform es zulässt
4Routine schaffenAgenten-Richtlinie veröffentlicht, KI-Kompetenz-Maßnahme für Owner und Freigebende dokumentiert, Prüfzyklus und Ablaufdaten festgelegt

Nach Tag 30 wird die Inventar-Prüfung Teil Ihrer regulären Rezertifizierung von Zugriffsrechten, und neue Agenten durchlaufen die Registrierung, bevor sie Zugangsdaten erhalten. Zwei einfache Kennzahlen zeigen, ob die Governance trägt: Owner-Abdeckung (Agenten mit benanntem fachlichem und technischem Owner ÷ alle Agenten im Inventar) und Prüf-Abdeckung (Agenten, die innerhalb ihres Prüfzyklus geprüft wurden ÷ alle Agenten im Inventar). Zählen Sie gesperrte Agenten im Nenner mit, bis sie entfernt sind; sonst sehen die Zahlen durch das Sperren verwaister Agenten besser aus, als die Lage ist.

FAQ

Was ist der Unterschied zwischen Schatten-KI und Schatten-KI-Agenten?

Schatten-KI ist jede KI-Nutzung ohne Freigabe des Unternehmens, meist Beschäftigte, die nicht freigegebene Chatbots nutzen und jeden Schritt selbst steuern. Schatten-KI-Agenten sind eine Teilmenge davon: nicht freigegebene Agenten, die Zugangsdaten halten, Tools aufrufen, Nachrichten verschicken und über Auslöser laufen, teils noch nach dem Weggang ihres Erstellers. Das Risiko verschiebt sich von Daten in Prompts zu Handlungen, die niemand entschieden hat.

Wie können Unternehmen Schatten-KI-Agenten erkennen?

Kombinieren Sie mehrere Quellen, denn kein einzelnes Werkzeug sieht alle Agenten. Prüfen Sie OAuth-Freigaben und zugelassene Apps im Identity Provider, die KI- und Agenten-Einstellungen in den Admin-Konsolen Ihrer SaaS-Tools, Proxy- oder CASB-Logs und die Admin-Ansichten von Low-Code-Plattformen. Bitten Sie dann die Fachbereiche, ihre Agenten in einer Amnestie-Phase zu melden, denn Agenten innerhalb einer Plattform tauchen womöglich in keinem zentralen Log auf.

Was sind die größten Sicherheitsrisiken von Schatten-KI-Agenten?

Die größten Risiken sind zu weite oder geerbte Rechte, Zugänge, die den Austrittsprozess überdauern, und Prompt Injection: Ein Agent, der E-Mails oder Webseiten liest, kann versteckten Anweisungen folgen und sie mit seinen Rechten ausführen. Hinzu kommt, dass Menschen überzeugend klingende Agenten-Aktionen oft ungeprüft freigeben. Weil niemand von diesen Agenten weiß, prüft und überwacht auch niemand diese Risiken.

Gilt der AI Act auch für Schatten-KI-Agenten?

Nach unserer Lesart ja. Die KI-Verordnung nimmt nicht freigegebene Nutzung nicht aus: Ein Unternehmen, das einen KI-Agenten beruflich einsetzt, ist in der Regel dessen Betreiber, ob die IT davon weiß oder nicht. Maßnahmen zur KI-Kompetenz nach Art. 4 gelten seit 2. Februar 2025, strengere Pflichten nur für Hochrisiko-Systeme. Ein Agenten-Inventar schreibt der AI Act nicht ausdrücklich vor. Dies ist keine Rechtsberatung.

Wem sollte ein KI-Agent gehören: der IT oder dem Fachbereich?

Beiden, mit unterschiedlicher Verantwortung. Der fachliche Owner verantwortet Zweck und Ergebnisse des Agenten; der technische Owner (oft in der IT oder im Tech-Team des Fachbereichs) verantwortet Konfiguration, Zugangsdaten und Abschaltung. Die IT-Sicherheit gibt die Rechte frei. Ein Agent mit nur einem technischen Owner läuft oft noch lange weiter, nachdem sein Zweck entfallen ist.

Sollten wir KI-Agenten verbieten, bis die Governance steht?

Ein pauschales Verbot ist schwer durchzusetzen, weil viele Agenten-Funktionen in bereits lizenzierten Tools stecken, und es drängt die Nutzung eher ins Verborgene. Ein kurzes Registrierungsfenster, das Sperren von Agenten ohne Owner und Freigabepunkte für folgenreiche Aktionen senken das Risiko meist schneller als ein Verbot, das niemand überprüfen kann.

Quellen

Weitere Artikel

White abstract curved shape with jagged edges on a black background.

Gewappnet gegen KI-gestützte Angriffe?

‍
‍