Gartner-Prognose: Falsch konfigurierte KI bedroht kritische Infrastruktur bis 2028

Nicht Cyberangriffe oder Naturkatastrophen, sondern schlecht konfigurierte Künstliche Intelligenz könnte bis 2028 die nationale Infrastruktur eines G20-Staates zum Stillstand bringen. Das prognostiziert das Marktforschungsunternehmen Gartner – und empfiehlt konkrete Schutzmaßnahmen.

Gartner-Prognose: Falsch konfigurierte KI bedroht kritische Infrastruktur bis 2028

Laut einer aktuellen Einschätzung von Gartner könnte eine fehlerhafte KI-Konfiguration in cyber-physischen Systemen (CPS) bis 2028 wesentliche Versorgungsstrukturen eines G20-Landes außer Betrieb setzen. Unter dem Begriff CPS fasst Gartner technische Systeme zusammen, die Sensorik, Rechenleistung, Steuerung, Vernetzung und Analyse miteinander verbinden, um mit der physischen Welt zu interagieren. Dazu zählen unter anderem Betriebstechnologie (OT), industrielle Steuerungs- und Automatisierungssysteme, das industrielle Internet der Dinge (IIoT) sowie Robotik, Drohnen und Industrie-4.0-Anwendungen.

Wam Voster, VP Analyst bei Gartner, macht auf eine oft unterschätzte Ursache möglicher Infrastrukturausfälle aufmerksam: „Der nächste große Ausfall wird möglicherweise nicht durch Hacker oder Naturkatastrophen verursacht, sondern durch einen gut gemeinten Ingenieur, ein fehlerhaftes Update-Skript oder eine falsch gesetzte Dezimalstelle.“ Um dem entgegenzuwirken, sei ein sicherer Übersteuerungsmodus – etwa in Form eines sogenannten Kill-Switches – unverzichtbar, zu dem ausschließlich autorisiertes Personal Zugang hat.

Wenn KI Sensordaten falsch deutet

Fehlerhafte KI-Konfigurationen können weitreichende Folgen haben: Autonome Systeme könnten wichtige Dienste abschalten, Sensordaten fehlinterpretieren oder unbeabsichtigte Aktionen auslösen. Die möglichen Auswirkungen reichen von physischen Schäden bis hin zu flächendeckenden Betriebsunterbrechungen mit Folgen für die öffentliche Versorgung und wirtschaftliche Stabilität.

Als konkretes Beispiel nennt Gartner moderne Stromnetze, die KI nutzen, um Erzeugung und Verbrauch in Echtzeit aufeinander abzustimmen. Ein fehlerhaft kalibriertes Vorhersagemodell könnte reguläre Nachfrageschwankungen als Instabilität einstufen und daraufhin unnötige Netzisolierungen oder Lastabwürfe in ganzen Regionen veranlassen.

Erschwerend kommt hinzu, dass selbst Entwickler das Verhalten komplexer KI-Modelle nicht immer vollständig überblicken. „Moderne KI-Modelle ähneln oft einer Black Box“, erklärt Voster. „Selbst kleine Konfigurationsanpassungen können das emergente Verhalten des Modells auf unvorhersehbare Weise beeinflussen. Je weniger transparent diese Systeme sind, desto größer ist das Risiko einer Fehlkonfiguration – und desto wichtiger ist die Möglichkeit menschlicher Eingriffe.“

Drei Maßnahmen für CISOs

Gartner empfiehlt Chief Information Security Officers (CISOs) einen dreistufigen Ansatz zur Risikoreduzierung: Erstens sollten für alle CPS, die kritische Infrastrukturen steuern, sichere Übersteuerungsmechanismen eingerichtet werden, die ausschließlich autorisierten Bedienpersonal zugänglich sind und die menschliche Kontrolle auch unter vollständiger KI-Autonomie sicherstellen. Zweitens rät Gartner zur Entwicklung digitaler Zwillinge – also virtueller Abbilder realer Systeme – mit denen Konfigurationsänderungen und Updates vor dem tatsächlichen Einsatz realitätsnah getestet werden können. Drittens sollte eine Echtzeitüberwachung mit Rollback-Funktionen für KI-Änderungen in CPS verpflichtend eingeführt werden; ergänzend empfiehlt Gartner den Aufbau nationaler KI-Notfallteams.

Auch interessant: