Die Sicherheit von Systemen basierend auf Künstlicher Intelligenz (KI) ist ein breiter und aktiver Forschungsbereich mit hohen Einstiegshürden. Im Rahmen des Projektes „Sicherheit von KI-Systemen: Grundlagen“ hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) drei Studien zu diesem Themenkomplex in Auftrag gegeben, die sich an KI-Expertinnen und Experten richten:
Security of AI-Systems: Fundamentals – Adversarial Deep Learning
Security of AI-Systems: Fundamentals – Provision or use of external data or trained models
Security of AI-Systems: Fundamentals Security Considerations for Symbolic and Hybrid AI
Die Studien geben einen Einblick in den aktuellen Stand der Forschung. Es werden mögliche Angriffe auf KI-Systeme und Verteidigungsmaßnahmen kategorisiert und bewertet sowie auf Basis der Literatur Handlungsempfehlungen abgeleitet. Gleichzeitig wird auf offene Probleme und die Limitationen existierender Mitigationsmaßnahmen hingewiesen. Zum Teil geben die Studien auch Impulse für zukünftige Sicherheitsforschung im Bereich der KI.
Die Ergebnisse der Studien dienen dem BSI unter anderem als Grundlage für Beratungsdienstleistungen und die Entwicklung von Prüfkriterien für KI-Systeme. Sie stellen aber auch für andere Gruppen, wie Entwicklerinnen und Entwickler, eine vertrauenswürdige Informationsquelle dar. Durch die strukturierte Aufbereitung werden Einstiegshürden in das Thema verringert.
Fachartikel
Studien
Studie von Veracode zeigt: 80 % der in EMEA entwickleten Anwendungen weisen Sicherheitslücken auf
GMO GlobalSign Umfrage unter Unternehmen und KMUs zeigt, dass viele nicht auf die PKI-Automatisierung vorbereitet sind
Studie: Sicherheitsbedenken bremsen Tech-Innovation aus
Mainframe-Investitionen zeigen signifikante Dynamik in DevOps, AIOps, mit Fokus auf Sicherheit
Forrester-Report: Unzureichende unternehmensweite Kollaboration erschwert Management des externen Cyber-Risikos
Whitepaper
Leitfaden zur Sicherheit von Operational Technology (OT)
Deutsche Führungskräfte werden sich den Cyberrisiken bewusster – klicken aber häufiger auf schadhafte Links als ihre Angestellten
Deutsche Wirtschaft setzt auch auf Open Source
Incident Response Ransomware Report: KMU am stärksten von Ransomware betroffen
