KI-Agenten in Unternehmen: Governance-Lücken als Sicherheitsrisiko

Die Mehrheit der weltweit führenden Konzerne arbeitet bereits mit autonomen KI-Systemen – doch vielen Unternehmen fehlt der Überblick über ihre eigenen digitalen Helfer. Microsofts aktueller Cyber Pulse-Report zeigt: Ohne klare Governance-Strukturen werden KI-Agenten zum Geschäftsrisiko.

Rasante Verbreitung ohne ausreichende Kontrolle

Über 80 Prozent der Fortune-500-Konzerne nutzen derzeit KI-Agenten, die mittels Low-Code- oder No-Code-Plattformen entwickelt wurden. Diese Systeme sind längst nicht mehr auf IT-Abteilungen beschränkt: Mitarbeiter aus Vertrieb, Finanzwesen, Kundenservice und Produktentwicklung erstellen eigenständig Agenten für ihre täglichen Aufgaben.

Der neue Cyber Pulse-Bericht von Microsoft liefert Entscheidungsträgern praxisnahe Analysen zu aktuellen Cybersicherheitsherausforderungen. Im Fokus steht dabei die Governance autonomer KI-Systeme, die schneller skalieren, als Organisationen sie erfassen können.

Zero-Trust-Prinzipien für nicht-menschliche Akteure

Experten fordern, KI-Agenten denselben Sicherheitsstandards zu unterwerfen wie menschliche Nutzer oder Dienstkonten. Die bewährten Zero-Trust-Grundsätze müssen konsequent umgesetzt werden:

Minimale Zugriffsrechte: Jeder Agent erhält ausschließlich die Berechtigungen, die für seine spezifische Aufgabe erforderlich sind.

Explizite Verifizierung: Jede Zugriffsanfrage wird überprüft – unter Berücksichtigung von Identität, Gerätestatus, Standort und Risikobewertung.

Kompromittierung einkalkulieren: Systeme müssen unter der Annahme konzipiert werden, dass Angreifer Zugang erlangen könnten.

Diese Prinzipien sind etabliert, ihre Anwendung auf nicht-menschliche Akteure mit hoher Arbeitsgeschwindigkeit ist jedoch neu. Unternehmen, die entsprechende Kontrollen frühzeitig implementieren, können schneller agieren und Vertrauen in KI-Technologie aufbauen.

Weltweite Adaption über Branchen hinweg

Das Wachstum von KI-Agenten erstreckt sich über sämtliche Regionen – von Amerika über Europa, den Nahen Osten und Afrika bis nach Asien. Besonders aktiv sind laut Cyber Pulse die Branchen Software und Technologie (16 Prozent), Fertigung (13 Prozent), Finanzwesen (11 Prozent) sowie Einzelhandel (9 Prozent).

Diese Agenten übernehmen zunehmend komplexe Tätigkeiten: Sie erstellen Angebote, analysieren Finanzkennzahlen, priorisieren Sicherheitsmeldungen, automatisieren Routineprozesse und generieren Erkenntnisse mit maschineller Geschwindigkeit. Dabei arbeiten sie entweder assistierend auf Nutzeranweisung oder führen Aufgaben weitgehend autonom aus.

Im Gegensatz zu klassischer Software agieren diese Systeme dynamisch: Sie treffen Entscheidungen, greifen auf Daten zu und interagieren verstärkt mit anderen Agenten. Dies verändert das Risikoprofil grundlegend.

Shadow AI: Die neue Dimension von IT-Schatten

Trotz der schnellen Verbreitung können viele Organisationen grundlegende Fragen nicht beantworten: Wie viele Agenten sind im Einsatz? Wer verantwortet sie? Auf welche Informationen haben sie Zugriff? Welche Agenten sind autorisiert?

Shadow IT existiert seit Jahrzehnten, doch Shadow AI bringt neue Risikoebenen mit sich. Agenten können Berechtigungen übernehmen, sensible Daten einsehen und Resultate in großem Umfang produzieren – oft außerhalb der Wahrnehmung von IT- und Sicherheitsabteilungen.

Angreifer könnten die Zugriffsrechte von Agenten missbrauchen und sie ungewollt zu Doppelagenten machen. Ein Agent mit übermäßigen Berechtigungen oder fehlerhaften Anweisungen wird zur Schwachstelle – ähnlich wie ein menschlicher Mitarbeiter.

Der Report zeigt: 29 Prozent der Beschäftigten haben bereits nicht genehmigte KI-Agenten für berufliche Zwecke genutzt. Diese Diskrepanz verdeutlicht, dass zahlreiche Firmen KI-Funktionen einsetzen, bevor angemessene Kontrollen für Zugriffsverwaltung, Datenschutz, Compliance und Verantwortlichkeit etabliert sind. In regulierten Sektoren wie Finanzdienstleistungen, Gesundheitswesen oder öffentlicher Verwaltung wiegt diese Lücke besonders schwer.

Sichtbarkeit als Grundvoraussetzung

Was nicht sichtbar ist, lässt sich nicht schützen. Was nicht verstanden wird, lässt sich nicht verwalten. Transparenz bedeutet, über eine Steuerungsebene zu verfügen, die IT, Sicherheit, Entwickler und KI-Teams Einblick gewährt in:

• Welche Agenten existieren
• Wer sie verantwortet
• Mit welchen Systemen und Daten sie interagieren
• Wie sie sich verhalten

Der Cyber Pulse-Report definiert fünf zentrale Funktionen für echte Beobachtbarkeit und Governance:

Registrierung: Ein zentrales Register dient als einheitliche Informationsquelle für sämtliche Agenten – genehmigte, externe und unbekannte. Dieses Inventar verhindert unkontrollierte Vermehrung, ermöglicht Verantwortlichkeit und unterstützt die Erkennung nicht autorisierter Agenten.

Zugriffskontrolle: Jeder Agent unterliegt denselben identitäts- und richtlinienbasierten Zugriffskontrollen wie menschliche Nutzer und Anwendungen. Konsequent durchgesetzte Minimalberechtigungen stellen sicher, dass Agenten ausschließlich auf benötigte Daten, Systeme und Workflows zugreifen.

Visualisierung: Echtzeit-Dashboards und Telemetriedaten liefern Einblicke in Interaktionen zwischen Agenten, Menschen, Daten und Systemen. Führungskräfte erkennen Einsatzorte, verstehen Abhängigkeiten und überwachen Verhalten – dies ermöglicht schnelle Erkennung von Missbrauch oder aufkommenden Risiken.

Interoperabilität: Agenten operieren unter einem einheitlichen Governance-Modell auf Microsoft-Plattformen, Open-Source-Frameworks und Drittanbieter-Ökosystemen. Diese Interoperabilität erlaubt Zusammenarbeit über Workflows hinweg bei gleichzeitiger Verwaltung unter denselben Unternehmenskontrollen.

Sicherheit: Integrierte Schutzmaßnahmen bewahren Agenten vor internem Missbrauch und externen Bedrohungen. Sicherheitssignale, Richtliniendurchsetzung und eingebaute Tools helfen, kompromittierte oder fehlgeleitete Agenten frühzeitig zu identifizieren und zu reagieren – bevor Schäden entstehen.

Governance und Sicherheit: Zwei Seiten einer Medaille

Eine wesentliche Erkenntnis des Reports: Governance und Sicherheit sind verbunden, aber nicht identisch.

Governance definiert Eigentümerschaft, Verantwortlichkeiten, Richtlinien und Aufsicht. Sicherheit setzt Kontrollen durch, schützt Zugriffe und erkennt Bedrohungen. Beides ist erforderlich, keines kann isoliert funktionieren.

KI-Governance kann nicht allein in der IT angesiedelt sein, KI-Sicherheit nicht ausschließlich bei CISOs. Es handelt sich um eine funktionsübergreifende Verantwortung, die Rechtsabteilung, Compliance, Personal, Datenwissenschaft, Unternehmensführung und Vorstand einbezieht.

Werden KI-Risiken als zentrale Unternehmensrisiken behandelt – gleichrangig mit finanziellen, operativen und regulatorischen Risiken –, können Organisationen schneller und sicherer agieren.

Transparenz als Wettbewerbsfaktor

Starke Sicherheit und Governance reduzieren nicht nur Risiken, sondern schaffen Transparenz. Diese entwickelt sich zunehmend zum Wettbewerbsvorteil.

Zahlreiche Unternehmen nutzen die aktuelle Situation, um Governance zu modernisieren, übermäßig geteilte Daten zu reduzieren und Sicherheitskontrollen zu implementieren, die sichere Nutzung ermöglichen. Sie demonstrieren, dass Sicherheit und Innovation einander nicht ausschließen, sondern verstärken.

Laut Cyber Pulse werden Führungskräfte, die jetzt handeln, Risiken minimieren, schnellere Innovationen ermöglichen, Kundenvertrauen schützen und Resilienz in ihre KI-gestützten Organisationen integrieren. Die Zukunft gehört Unternehmen, die mit maschineller Geschwindigkeit innovieren und mit derselben Präzision beobachten, steuern und absichern.

Der vollständige Microsoft Cyber Pulse-Report bietet Entscheidungsträgern detaillierte Einblicke und praktische Handlungsempfehlungen für die sichere Implementierung von KI-Agenten.

Auch interessant:

---