AWS-Ausfälle durch KI-Tools: Wie Amazons Kiro eine Umgebung löschte

Zwei AWS-Ausfälle im Dezember stehen laut einem Bericht der Financial Times im Zusammenhang mit Amazons eigenen KI-Entwicklungstools. Ein KI-Agent traf dabei eigenständig eine weitreichende Entscheidung – mit spürbaren Folgen für den Betrieb.

AWS-Ausfälle durch KI-Tools: Wie Amazons Kiro eine Umgebung eigenständig löschte

Amazon Web Services war im Dezember von mindestens zwei Serviceunterbrechungen betroffen, die laut einem Bericht der Financial Times auf den Einsatz eigener KI-Tools zurückzuführen sind. Das Unternehmen selbst sieht die Ursache hingegen in menschlichem Fehlverhalten.

Im Mittelpunkt steht Kiro, ein agentenbasiertes KI-System von Amazon, das über das reine Schreiben von Code hinausgeht und in der Lage ist, produktionsreife Software eigenständig zu erstellen und anzupassen. Für gewöhnlich fordert Kiro vor der Ausführung von Aktionen eine Genehmigung an. Im fraglichen Fall verfügte das System jedoch über Zugriffsrechte, die denen eines menschlichen Ingenieurs entsprachen – entsprechende Schutzmaßnahmen wurden laut FT erst im Nachgang eingeführt.

Was als kleinere Korrektur an einem kundenseitigen System begann, endete in einer vollständigen Löschung der betroffenen Umgebung. Kiro entschied eigenständig, die gesamte Infrastruktur zu entfernen und neu aufzusetzen – ein Vorgang, der eine Kettenreaktion in einer der beiden AWS-Regionen auf dem chinesischen Festland auslöste und zu einem Ausfall von rund 13 Stunden führte.

AWS wies gegenüber Reuters eine Mitverantwortung der KI zurück. Das Unternehmen bezeichnete den Vorfall als Ergebnis eines „Benutzerfehlers“ – konkret einer fehlerhaft konfigurierten Zugriffskontrolle. Gleichzeitig räumte Amazon ein, dass ein menschlicher Mitarbeiter unter denselben Umständen einen vergleichbaren Fehler hätte begehen können.

Interne Quellen aus dem AWS-Ingenieurteam berichteten der FT jedoch, dass es sich bereits um den zweiten Fall innerhalb weniger Monate handelte, bei dem ein KI-Coding-Tool mit einer Serviceunterbrechung in Verbindung gebracht wurde. Die betroffenen Vorfälle seien zwar in ihrem Ausmaß begrenzt gewesen, aber nach Einschätzung der Beteiligten „vollständig vorhersehbar“ gewesen. Intern habe der Vorfall Diskussionen über den Handlungsspielraum ausgelöst, der KI-Systemen im Produktivbetrieb eingeräumt werden sollte.

Zu beachten ist: Der Dezember-Ausfall, der sich primär auf China auswirkte, steht in keinem Zusammenhang mit dem separaten, weltweiten AWS-Ausfall vom Oktober, der unter anderem Banken, Social-Media-Dienste, Gaming-Plattformen sowie Amazons eigene Angebote wie Amazon Prime Video, Ring und Canva beeinträchtigte.

Sicherheit trifft KI: Wie modernes Identity and Access Management Unternehmen vor Risiken schützt -YouTube