NIST legt Konzept für Sicherheits-Overlays bei KI-Systemen vor

Das US-amerikanische National Institute of Standards and Technology (NIST) hat ein Konzeptpapier samt Aktionsplan zur Entwicklung spezieller Sicherheits-Overlays für Künstliche-Intelligenz-Systeme vorgestellt. Diese Overlays basieren auf dem etablierten NIST-Standard Special Publication 800-53 und sollen helfen, Cybersicherheitsrisiken bei Entwicklung und Einsatz von KI zu reduzieren.

In dem Papier beschreibt das NIST mehrere Anwendungsfälle, darunter generative und prädiktive KI, Single- und Multi-Agent-Systeme sowie spezielle Kontrollmechanismen für KI-Entwickler. Ziel ist es, passgenaue Sicherheitskontrollen für unterschiedliche KI-Szenarien zu definieren.

Begleitend hat das NIST einen öffentlichen Slack-Kanal mit dem Titel „NIST Overlays for Securing AI“ eingerichtet. Dort können Interessierte nicht nur den Fortschritt verfolgen, sondern auch Feedback geben, an Diskussionen mit Projektleitern teilnehmen und aktiv an der Ausarbeitung der Overlays mitwirken.

Das Institut ruft Fachleute und Organisationen dazu auf, Rückmeldungen zum Konzept und zum Aktionsplan einzureichen. So soll sichergestellt werden, dass die geplanten Sicherheitsmaßnahmen den vielfältigen Risiken moderner KI-Systeme gerecht werden.

Weitere Informationen zum Projekt „Control Overlays for AI“, zum Slack-Bereich und zur Teilnahme am Slack-Kanal finden Sie unter https://csrc.nist.gov/projects/cosais.

Das Projekt „Control Overlays for Securing AI Systems” (COSAiS) wird eine Reihe von Overlays zur Sicherung von KI-Systemen unter Verwendung der NIST Special Publication (SP) 800-53 Controls entwickeln. Die Control Overlays werden auch NIST SP 800-218A, Draft NIST AI 800-1 und NIST AI 100-2e2025 nutzen.

Die Kontrollüberlagerungen sind eine Reihe von implementierungsorientierten Richtlinien, die Anwendungsfälle mit verschiedenen Arten von KI-Systemen und spezifischen KI-Systemkomponenten (z. B. Trainings- und Testdaten, Modellgewichte und Konfigurationseinstellungen) behandeln. Die Überlagerungen konzentrieren sich auf den Schutz der Vertraulichkeit, Integrität und Verfügbarkeit von Informationen und Benutzern für jeden der folgenden vorgeschlagenen Anwendungsfälle:

• Anpassung und Verwendung generativer KI – Assistent/großes Sprachmodell (LLM)
• Verwendung und Feinabstimmung prädiktiver KI
• Verwendung von KI-Agentensystemen (KI-Agenten) – Einzelagent
• Verwendung von KI-Agentensystemen (KI-Agenten) – Multiagent
• Sicherheitskontrollen für KI-Entwickler

Weitere Informationen zu den Zielgruppen, dem Zweck und der vorläufigen Beschreibung der einzelnen Anwendungsfälle finden Sie im Konzeptpapier und hier.

Konzeptpapier

Grafik Quelle: NIST

Mehr zum Schmökern

---