Risiken durch Schatten-KI nehmen mit steigender Nutzung von genAI-Plattformen weiter zu

Die zunehmende Akzeptanz von generativen KI-Plattformen und KI-Agenten führt zu einem Anstieg potenzieller Sicherheitsrisiken durch sogenannte Schatten-KI. + Laut aktuellen Analysen der Netskope Threat Labs wächst das Risiko insbesondere durch die verstärkte Nutzung von On-Premise genAI-Lösungen und KI-Agenten. Dies gilt auch, obwohl Unternehmen zunehmend in der Lage sind, SaaS-basierte genAI-Anwendungen sicher einzusetzen.

Wie der veröffentlichte Bericht „Schatten-KI und Agentische KI“ von Netskope zeigt, ist die Nutzung generativer KI-Plattformen in Unternehmen in den drei Monaten bis Mai 2025 um 50 Prozent gestiegen. Trotz einer positiven Entwicklung hin zur sicheren Nutzung genehmigter KI-Tools birgt der parallele Anstieg nicht autorisierter Anwendungen weiterhin erhebliche Gefahren. Schätzungen zufolge entfallen derzeit mehr als die Hälfte aller KI-App-Nutzungen auf Schatten-KI.

Die neuen Daten wurden im Rahmen des aktuellen Netskope Threat Labs Reports veröffentlicht. Darin wird der anhaltende Wechsel der Mitarbeiter zu genAI-Plattformen untersucht – unabhängig davon, ob sie aus der Cloud oder On-Premise bereitgestellt werden. Derzeit besteht ein großes Interesse an der Entwicklung von KI-Apps und autonomen Agenten. Dies bringt viele neue Herausforderungen für die Cybersicherheit mit sich, denen sich Unternehmen stellen müssen. 

Aufstieg der genAI-Plattformen 

genAI-Plattformen sind grundlegende Infrastruktur-Tools, mit denen Unternehmen benutzerdefinierte KI-Apps und KI-Agenten erstellen können. Aufgrund ihrer Einfachheit und Flexibilität stellen sie für die Nutzer die am schnellsten wachsende Kategorie der Schatten-KI dar. In den drei Monaten bis Mai 2025 stieg die Zahl der Nutzer dieser Plattformen um 50 %. genAI-Plattformen beschleunigen die direkte Verbindung von Unternehmensdatenspeichern mit KI-Anwendungen, wobei die Popularität der Nutzung neue Risiken für die Datensicherheit in Unternehmen schafft, die der Verhinderung von Datenverlusten (DLP) und der kontinuierlichen Überwachung und Sensibilisierung zusätzliche Bedeutung verleihen. Der mit der Nutzung von KI-Plattformen verbundene Netzwerkverkehr stieg im Vergleich zum vorangegangenen Drei-Monats-Zeitraum um 73 %. Im Mai setzten bereits 41 % der Unternehmen mindestens eine genAI-Plattform ein. Ungefähr 29 % der Unternehmen nutzen Microsoft Azure OpenAI, gefolgt von Amazon Bedrock (22 %) und Google Vertex AI (7,2 %).

„Das rasante Wachstum von Schatten-KI zwingt Unternehmen dazu, herauszufinden, wer neue KI-Apps und KI-Agenten mit Hilfe von genAI-Plattformen entwickelt und wo diese entwickelt und eingesetzt werden“, erläutert Ray Canzanese, Director of Netskope Threat Labs. „Sicherheitsteams wollen die Innovationsbestrebungen der Endanwender nicht behindern, aber die Nutzung von KI wird nur zunehmen. Um diese Innovation zu schützen, müssen Unternehmen ihre KI-App-Kontrollen überarbeiten und ihre DLP-Richtlinien so weiterentwickeln, dass sie Elemente des Benutzer-Coachings in Echtzeit einbeziehen.“ 

Die vielen Facetten der On-Premise KI-Innovation

Von der lokalen Bereitstellung von genAI über On-Premise GPU-Quellen bis hin zur Entwicklung von On-Premise Tools, die mit SaaS-genAI-Anwendungen oder genAI-Plattformen interagieren, evaluieren Unternehmen viele Optionen, um mithilfe von KI schnell innovativ zu sein. Sie wenden sich zunehmend Large Language Model (LLM)-Schnittstellen zu.

• Heute nutzen 34 % der Unternehmen diese Schnittstellen, wobei Ollama mit 33 % derzeit der klare Marktführer ist und andere wie LM Studio (0,9 %) und Ramalama (0,6 %) nur an der Oberfläche kratzen.
• In der Zwischenzeit experimentieren die Endnutzer mit KI-Tools und besuchen KI-Marktplätze in rasantem Tempo. In der Mehrheit (67 %) der Unternehmen laden die Nutzer beispielsweise Ressourcen von Hugging Face herunter.
• Das Versprechen von KI-Agenten treibt dieses Verhalten an, da die Daten zeigen, dass es jetzt eine kritische Masse von Nutzern in Unternehmen gibt, die KI-Agenten entwickeln und die KI-Funktionen von SaaS-Lösungen nutzen. GitHub Copilot wird jetzt in 39 % der Unternehmen eingesetzt, und 5,5 % der Nutzer setzen Agenten ein, die von beliebten KI-Agenten-Frameworks vor Ort generiert wurden.
• Darüber hinaus rufen Agenten vor Ort mehr Daten von SaaS-Diensten ab und greifen dabei auf mehr API-Endpunkte als Browser zu. Zwei Drittel (66 %) der Unternehmen haben Benutzer, die API-Aufrufe an api.openai.com und 13 % an api.anthropic.com tätigen. 

Fortsetzung und Weiterentwicklung der SaaS-KI-Nutzung

Netskope verfolgt jetzt mehr als 1.550 verschiedene genAI-SaaS-Anwendungen, im Vergleich zu nur 317 im Februar. Dies weist auf das rasante Tempo hin, mit dem neue Anwendungen veröffentlicht und im gesamten Unternehmen angenommen werden. Unternehmen nutzen jetzt etwa 15 genAI-Anwendungen, im Februar waren es noch 13. Darüber hinaus ist die Datenmenge, die jeden Monat in genAI-Apps hochgeladen wird, im Quartalsvergleich von 7,7 GB auf 8,2 GB gestiegen.

• Unternehmensanwender beginnen, sich um speziell entwickelte Tools wie Gemini und Copilot zu konsolidieren, da immer mehr Sicherheitsteams daran arbeiten, diese Anwendungen und Lösungen in ihrem Unternehmen sicher zu aktivieren, da diese Chatbots nun besser in ihre Produktivitäts-Suiten integriert sind.
• Der Allzweck-Chatbot ChatGPT verzeichnete den ersten Rückgang in der Beliebtheit bei Unternehmen – seit Netskope 2023 mit der Verfolgung der beliebten genAI-App begann.
• Von den Top 10 der beliebtesten genAI-Apps pro Unternehmen war ChatGPT die einzige, die seit Februar einen Rückgang verzeichnete, während andere beliebte Apps, darunter Anthropic Claude, Perplexity AI, Grammarly und Gamma, alle einen Anstieg der Akzeptanz in Unternehmen verzeichneten.
• Darüber hinaus ist Grok aufgrund seiner zunehmenden Beliebtheit zum ersten Mal in die Top 10 der meistgenutzten Anwendungen aufgestiegen. Grok ist zwar weiterhin in den Top 10 der meistgesperrten Apps, aber die Blockierraten sind tendenziell rückläufig, da immer mehr Unternehmen granulare Kontrollen und Überwachungen evaluieren und einsetzen. 

Sicherstellung von KI-Governance und Nutzungsmonitoring

CISOs und andere Sicherheitsverantwortliche sollten die notwendigen Schritte unternehmen, um eine sichere und verantwortungsvolle Übernahme inmitten der beschleunigten Nutzung verschiedener KI-Technologien zu gewährleisten. Netskope empfiehlt folgende Maßnahmen:

• Bewerten Sie die genAI-Landschaft: Ermitteln Sie, welche genAI-Tools im Unternehmen eingesetzt werden, und bestimmen Sie, wer diese Tools verwendet und wie sie genutzt werden.
• Verstärkung der genAI-App-Kontrollen: Legen Sie eine Richtlinie fest, die nur die Nutzung von im Unternehmen zugelassenen genAI-Anwendungen erlaubt, und setzen Sie sie durch. Implementieren Sie robuste Sperrmechanismen und setzen Sie ein Echtzeit-Benutzercoaching ein.
• Inventarisierung lokaler Kontrollen: Wenn ein Unternehmen genAI-Infrastrukturen lokal betreibt, sollten Sie relevante Sicherheits-Frameworks wie OWASP Top 10 for Large Language Model Applications prüfen sowie anwenden und sicherstellen, dass Daten, Benutzer und Netzwerke, die mit der lokalen genAI-Infrastruktur interagieren, angemessen geschützt sind.
• Kontinuierliches Monitoring und Sensibilisierung: Implementieren Sie ein kontinuierliches Monitoring der genAI-Nutzung innerhalb der Organisation, um neue Schatten-KI-Instanzen zu erkennen und über neue Entwicklungen in der KI-Ethik, regulatorische Änderungen und feindliche Angriffe auf dem Laufenden zu bleiben.
• Bewertung der aufkommenden Risiken von agentenbasierter Schatten-KI: Identifizieren Sie diejenigen, die bei der Einführung von agentenbasierter KI führend sind, und arbeiten Sie mit ihnen zusammen, um eine umsetzbare und realistische Richtlinie zur Begrenzung von Schatten-KI zu entwickeln.

Weitere Informationen finden Sie im Netskope Threat Labs Report: Schatten-KI und Agentische KI.

Weitere lesenswerte Artikel im Überblick

---