ETSI veröffentlicht weltweit führenden Standard für die Sicherung von KI

Heute gibt ETSI die Veröffentlichung seines neuen Standards ETSI EN 304 223 bekannt, der grundlegende Cybersicherheitsanforderungen für KI-Modelle und -Systeme festlegt. Aufbauend auf den Grundlagen, die in seiner jüngsten technischen Spezifikation dargelegt wurden, ist dies der erste weltweit anwendbare europäische Standard (EN) für KI-Cybersicherheit. Der EN wurde umfassend geprüft und durch Abstimmung der nationalen Normungsorganisationen offiziell genehmigt, wodurch er eine größere internationale Reichweite erhält und seine Autorität auf den globalen Märkten gestärkt wird.

ETSI EN 304 223 schafft einen robusten Rahmen zum Schutz von KI-Systemen vor zunehmenden und immer raffinierteren Cyberbedrohungen. Der neue Standard verstärkt die in ETSI TS 104 223 eingeführten Grundsätze und garantiert eine ausgereifte, strukturierte und lebenszyklusbasierte Reihe von grundlegenden Sicherheitsanforderungen für KI-Modelle und -Systeme.

Die Norm erkennt an, dass KI eine besondere Herausforderung für die Cybersicherheit darstellt, die herkömmliche Software nicht bietet. Herkömmliche Software hat der Welt die Notwendigkeit eines Bewusstseins für Cybersicherheit vor Augen geführt. Heute erfordern die mit KI verbundenen Risiken Cyberabwehrmaßnahmen, die diesen neuen und einzigartigen Eigenschaften Rechnung tragen. Zu diesen Risiken gehören Datenvergiftung, Modellverschleierung, indirekte Prompt-Injektion und Schwachstellen, die durch komplexe Datenverwaltung und Betriebsabläufe entstehen. Die ETSI EN-Norm bringt bewährte Verfahren im Bereich der Cybersicherheit mit gezielten, neuartigen Maßnahmen in Einklang, die speziell für KI-Systeme entwickelt wurden.

ETSI EN 304 223 verfolgt einen ganzheitlichen Lebenszyklusansatz und definiert 13 Grundsätze und Anforderungen in fünf Phasen: sicheres Design, sichere Entwicklung, sichere Bereitstellung, sichere Wartung und sicheres Ende der Lebensdauer. Jede dieser Phasen entspricht international anerkannten KI-Lebenszyklusmodellen und gewährleistet so Konsistenz und Interoperabilität mit bestehenden Normen und Leitlinien. Am Anfang jedes Grundsatzes werden relevante Normen und Veröffentlichungen aufgeführt, um die Umsetzung und Harmonisierung innerhalb des gesamten KI-Ökosystems zu unterstützen.

Die EN wird für alle Beteiligten entlang der KI-Lieferkette, von Anbietern über Integratoren bis hin zu Betreibern, von entscheidender Bedeutung sein und ihnen eine klare und logische Grundlage für die KI-Sicherheit bieten. Ihr Anwendungsbereich umfasst KI-Systeme mit tiefen neuronalen Netzen, einschließlich generativer KI, und wurde für Systeme entwickelt, die für den Einsatz in der Praxis vorgesehen sind. Sie spiegelt das Fachwissen internationaler Organisationen, Regierungsstellen und der Cybersicherheits- und KI-Communities wider, deren Beiträge sicherstellen, dass diese gemeinschaftliche, interdisziplinäre Initiative sowohl global relevant als auch in verschiedenen Sektoren praktisch anwendbar ist.

Schließlich wird ein in Kürze erscheinender technischer Bericht, ETSI TR 104 159, diese Arbeit mit einer domänenspezifischen Anwendung der ETSI EN 304 223-Prinzipien auf generative KI fortsetzen, wobei der Schwerpunkt auf Deepfakes, Fehlinformationen, Desinformation, Vertraulichkeitsrisiken, Urheberrechts- und IPR-Bedenken liegt und bei Bedarf präzisere Spezifikationen für diesen Bereich geliefert werden.

„ETSI EN 304 223 ist ein wichtiger Schritt zur Schaffung einer gemeinsamen, soliden Grundlage für die Sicherheit von KI-Systemen“, sagte Scott Cadzow, Vorsitzender des ETSI-Fachausschusses für die Sicherheit künstlicher Intelligenz. „In einer Zeit, in der KI zunehmend in kritische Dienste und Infrastrukturen integriert wird, ist die Verfügbarkeit klarer, praktischer Leitlinien, die sowohl die Komplexität dieser Technologien als auch die Realitäten der Bereitstellung widerspiegeln, nicht zu unterschätzen. Die Arbeit, die in die Erstellung dieses Rahmens geflossen ist, ist das Ergebnis einer umfassenden Zusammenarbeit und bedeutet, dass Organisationen volles Vertrauen in KI-Systeme haben können, die widerstandsfähig, vertrauenswürdig und von Grund auf sicher sind.“

Mehr Lesestoff:

Bild/Quelle: https://depositphotos.com/de/home.html