KI-Datenverletzungen und ihre Auswirkungen auf die Compliance

Fehlende einheitliche globale KI-Standards zwingen Unternehmen dazu, regionsspezifische Strategien zu entwickeln – ein Hindernis für die Skalierbarkeit und den wirtschaftlichen Nutzen von KI.

Laut Gartner, Inc. werden bis 2027 mehr als 40 % der KI-bezogenen Datenschutzverletzungen durch die unsachgemäße grenzüberschreitende Nutzung generativer KI (GenAI) verursacht werden.

Die rasche Einführung von GenAI-Technologien durch Endnutzer hat die Entwicklung von Maßnahmen zur Datenverwaltung und -sicherheit überholt und wirft Bedenken hinsichtlich der Datenlokalisierung auf, da für die Unterstützung dieser Technologien eine zentralisierte Rechenleistung erforderlich ist.

„Unbeabsichtigte grenzüberschreitende Datenübertragungen treten häufig aufgrund unzureichender Aufsicht auf, insbesondere wenn GenAI ohne klare Beschreibungen oder Ankündigungen in bestehende Produkte integriert wird“, so Jörg Fritsch, VP Analyst bei Gartner. “Unternehmen stellen Veränderungen in den Inhalten fest, die von Mitarbeitern mithilfe von GenAI-Tools erstellt werden. Diese Tools können zwar für genehmigte Geschäftsanwendungen verwendet werden, bergen jedoch Sicherheitsrisiken, wenn sensible Eingabeaufforderungen an KI-Tools und APIs gesendet werden, die an unbekannten Orten gehostet werden.“

Globale KI-Standardisierungslücken führen zu betrieblicher Ineffizienz

Das Fehlen einheitlicher globaler Best Practices und Standards für KI und Datenverwaltung verschärft die Herausforderungen, indem es zu einer Marktfragmentierung führt und Unternehmen dazu zwingt, regionalspezifische Strategien zu entwickeln. Dies kann ihre Fähigkeit einschränken, ihre Geschäftstätigkeit global zu skalieren und von KI-Produkten und -Dienstleistungen zu profitieren.

„Die Komplexität der Verwaltung von Datenströmen und die Aufrechterhaltung der Qualität aufgrund lokaler KI-Richtlinien kann zu betrieblichen Ineffizienzen führen“, so Fritsch. “Organisationen müssen in fortschrittliche KI-Governance und -Sicherheit investieren, um sensible Daten zu schützen und die Einhaltung von Vorschriften zu gewährleisten. Diese Notwendigkeit wird wahrscheinlich das Wachstum auf den Märkten für KI-Sicherheits-, Governance- und Compliance-Dienstleistungen sowie für Technologielösungen vorantreiben, die die Transparenz und Kontrolle über KI-Prozesse verbessern.“

Unternehmen müssen handeln, bevor KI-Governance zu einem globalen Mandat wird

Gartner prognostiziert, dass KI-Governance bis 2027 weltweit in allen Gesetzen und Vorschriften für KI zur Pflicht wird.

„Unternehmen, die die erforderlichen Governance-Modelle und -Kontrollen nicht integrieren können, könnten einen Wettbewerbsnachteil erleiden, insbesondere wenn ihnen die Ressourcen fehlen, um bestehende Data-Governance-Rahmenwerke schnell zu erweitern“, so Fritsch.

Um die Risiken von KI-Datenverstößen, insbesondere durch grenzüberschreitenden Missbrauch von GenAI, zu mindern und die Einhaltung von Vorschriften zu gewährleisten, empfiehlt Gartner Unternehmen mehrere strategische Maßnahmen:

Verbesserung der Datenverwaltung: Gewährleistung der Einhaltung internationaler Vorschriften und Überwachung unbeabsichtigter grenzüberschreitender Datenübertragungen durch die Erweiterung der Datenverwaltungsrahmen um Richtlinien für KI-verarbeitete Daten. Dies beinhaltet die Einbeziehung von Datenherkunfts- und Datenübertragungsfolgenabschätzungen in regelmäßige Datenschutzfolgenabschätzungen.
Einrichtung von Governance-Ausschüssen: Bildung von Ausschüssen zur Verbesserung der KI-Kontrolle und zur Gewährleistung einer transparenten Kommunikation über KI-Einsätze und Datenverarbeitung. Diese Ausschüsse müssen für die technische Aufsicht, das Risiko- und Compliance-Management sowie die Kommunikation und Entscheidungsberichterstattung zuständig sein.
Stärkung der Datensicherheit: Einsatz fortschrittlicher Technologien, Verschlüsselung und Anonymisierung zum Schutz sensibler Daten. Verifizieren Sie beispielsweise Trusted Execution Environments in bestimmten geografischen Regionen und wenden Sie fortschrittliche Anonymisierungstechnologien wie Differential Privacy an, wenn Daten diese Regionen verlassen müssen.
Investieren Sie in TRiSM-Produkte: Planen und verteilen Sie Budgets für Produkte und Funktionen des Trust, Risk und Security Management (TRiSM), die auf KI-Technologien zugeschnitten sind. Dazu gehören KI-Governance, Datensicherheits-Governance, sofortige Filterung und Schwärzung sowie die synthetische Generierung unstrukturierter Daten. Gartner prognostiziert, dass Unternehmen, die KI-TRiSM-Kontrollen anwenden, bis 2026 mindestens 50 % weniger ungenaue oder illegitime Informationen verwenden und so fehlerhafte Entscheidungen reduzieren werden.

Gartner-Kunden können mehr darüber in „Predicts 2025: Privacy in the Age of AI and the Dawn of Quantum“ erfahren.

Erfahren Sie, wie Sie den Wert von KI maximieren und gleichzeitig kritische Risiken managen können, indem Sie das kostenlose E-Book „KI in der Cybersicherheit: Risiken minimieren und Wirkung maximieren“ lesen.

Bild/Quelle: https://depositphotos.com/de/home.html