Gartner identifiziert gefährliche GenAI-Blindspots: Warum CIOs sofort gegensteuern müssen

Bis 2030 werden über 40 % der Unternehmen Sicherheits- oder Compliance-Vorfälle im Zusammenhang mit nicht autorisierter Schatten-KI erleben

Gartner hat kritische Blindspots identifiziert, die sich aus übersehenen Risiken und unbeabsichtigten Folgen der Einführung generativer KI (GenAI) ergeben. CIOs müssen diese versteckten Herausforderungen proaktiv angehen, um die Realisierung des GenAI-Werts sicherzustellen und das Scheitern von KI-Projekten zu vermeiden.

„GenAI-Technologien und -Techniken entwickeln sich in einem beispiellosen Tempo, das nur durch den damit verbundenen Hype übertroffen wird, was es für CIOs schwierig macht, sich in dieser dynamischen Landschaft zurechtzufinden“, sagte Arun Chandrasekaran, Distinguished VP Analyst bei Gartner.

Während sich Unternehmen oft auf unmittelbare GenAI-Herausforderungen wie Geschäftswert, Sicherheit und Datenbereitschaft konzentrieren, übersehen sie möglicherweise kritische blinde Flecken, da es sich hierbei um Effekte zweiter oder dritter Ordnung handelt, die oft nicht auf den ersten Blick erkennbar sind. Risiken wie Schatten-KI, technische Schulden, Qualifikationsverlust, Anforderungen an die Datenhoheit, Interoperabilitätsprobleme und Anbieterabhängigkeit stellen versteckte Unterströmungen dar, die den langfristigen Erfolg untergraben können.

Gartner prognostiziert, dass diese blinden Flecken bis 2030 die Trennlinie zwischen Unternehmen bilden werden, die KI sicher und strategisch skalieren, und solchen, die sich selbst einschränken, überholt werden oder von innen heraus gestört werden.

Um wettbewerbsfähig und widerstandsfähig zu bleiben, müssen CIOs sowohl sichtbare Herausforderungen als auch versteckte Risiken im Zusammenhang mit der Einführung von GenAI angehen und der Beseitigung der folgenden blinden Flecken Priorität einräumen:

Explosion von Schatten-KI

Eine Gartner-Umfrage unter 302 Cybersicherheitsverantwortlichen im März bis Mai 2025 ergab, dass 69 % der Unternehmen den Verdacht haben oder Beweise dafür vorliegen, dass Mitarbeiter verbotene öffentliche GenAI nutzen.

Die rasche Einführung nicht genehmigter KI-Tools kann sowohl sichtbare als auch unsichtbare Auswirkungen haben, wie z. B. den Verlust von geistigem Eigentum, die Offenlegung von Daten und erhöhte Sicherheitsrisiken. Gartner prognostiziert, dass bis 2030 mehr als 40 % der Unternehmen Sicherheits- oder Compliance-Vorfälle im Zusammenhang mit nicht autorisierter Schatten-KI erleben werden.

„Um diesen Risiken zu begegnen, sollten CIOs klare unternehmensweite Richtlinien für die Nutzung von KI-Tools definieren, regelmäßige Audits für Schatten-KI-Aktivitäten durchführen und die Bewertung von GenAI-Risiken in ihre SaaS-Bewertungsprozesse integrieren“, so Chandrasekaran.

Technische Schulden im Bereich KI

Gartner prognostiziert, dass bis 2030 50 % der Unternehmen aufgrund unkontrollierter technischer Schulden im Bereich GenAI mit verzögerten KI-Upgrades und/oder steigenden Wartungskosten konfrontiert sein werden.

„Unternehmen sind begeistert von der Liefergeschwindigkeit von GenAI. Die extrem hohen Kosten für die Wartung, Reparatur oder den Austausch von KI-generierten Artefakten wie Code, Inhalten und Designs können jedoch die versprochenen Renditen von GenAI schmälern“, so Chandrasekaran. „Durch die Festlegung klarer Standards für die Überprüfung und Dokumentation von KI-generierten Assets und die Verfolgung von technischen Schuldenkennzahlen in IT-Dashboards können Unternehmen proaktive Maßnahmen ergreifen, um kostspielige Störungen zu vermeiden.“

Steigende Nachfrage nach Daten- und KI-Souveränität

Gartner prognostiziert, dass bis 2028 65 % der Regierungen weltweit bestimmte Anforderungen an die technologische Souveränität einführen werden, um die Unabhängigkeit zu verbessern und sich vor extraterritorialen regulatorischen Eingriffen zu schützen.

Regulatorische Beschränkungen für den grenzüberschreitenden Daten- oder Modellaustausch können die unternehmensweite Einführung von KI verlangsamen, die Gesamtbetriebskosten (TCO) erhöhen und zu suboptimalen Ergebnissen führen.

Um diesen Herausforderungen zu begegnen, müssen CIOs von Anfang an Datensouveränität in ihre KI-Strategien einbauen, indem sie frühzeitig Rechts- und Compliance-Teams einbeziehen und Anbietern Vorrang einräumen, die ihre Anforderungen an Daten- und KI-Souveränität erfüllen.

Verlust von Fähigkeiten

Eine übermäßige Abhängigkeit von KI kann zu einem Verlust an kritischem menschlichem Fachwissen, Urteilsvermögen und implizitem Wissen führen, das nicht einfach kodifiziert oder ersetzt werden kann. Dieser Verlust erfolgt schleichend und bleibt oft unbemerkt, sodass CIOs das Risiko möglicherweise erst erkennen, wenn das Unternehmen ohne KI nicht mehr funktionieren kann oder wenn KI in Grenzfällen, die menschliche Intuition erfordern, versagt.

„Um den schleichenden Verlust von Unternehmenswissen und -kompetenzen zu verhindern, sollten Unternehmen ermitteln, wo menschliches Urteilsvermögen und handwerkliches Können unerlässlich sind, und KI-Lösungen entwickeln, die diese Fähigkeiten ergänzen, aber nicht ersetzen“, so Chandrasekaran.

Ecosystem Lock-In und Interoperabilität

Unternehmen, die das Potenzial von GenAI in großem Maßstab nutzen möchten, entscheiden sich oft aus Gründen der Geschwindigkeit und Einfachheit für einen einzigen Anbieter. Diese starke Abhängigkeit kann sich auf die technische Agilität eines Unternehmens und seine zukünftige Verhandlungsmacht in Bezug auf Preise, Konditionen oder Servicelevels auswirken.

Viele CIOs unterschätzen, wie stark ihre Daten, Modelle oder Workflows an herstellerspezifische APIs, Data Lakes und Plattform-Tools gebunden sind.

„Durch die Priorisierung offener Standards, offener APIs und modularer Architekturen beim Design von KI-Stacks können Unternehmen eine Bindung an einen bestimmten Anbieter vermeiden“, so Chandrasekaran. „Darüber hinaus müssen CIOs Interoperabilität zu einem Standard bei GenAI-Pilotprojekten und -Bewertungen machen.“

Gartner-Kunden können mehr darüber in „Generative AI’s Invisible Undercurrents: 10 Blind Spots CIOs Aren’t Watching but Should“ (Die unsichtbaren Unterströmungen generativer KI: 10 blinde Flecken, die CIOs nicht beachten, aber beachten sollten) lesen.

Weiterlesen

 

---

Bild/Quelle: https://depositphotos.com/de/home.html

Folgen Sie uns auf X

Folgen Sie uns auf Bluesky

Folgen Sie uns auf Mastodon