
Die Sicherheit von Systemen basierend auf Künstlicher Intelligenz (KI) ist ein breiter und aktiver Forschungsbereich mit hohen Einstiegshürden. Im Rahmen des Projektes „Sicherheit von KI-Systemen: Grundlagen“ hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) drei Studien zu diesem Themenkomplex in Auftrag gegeben, die sich an KI-Expertinnen und Experten richten:
Security of AI-Systems: Fundamentals – Adversarial Deep Learning
Security of AI-Systems: Fundamentals – Provision or use of external data or trained models
Security of AI-Systems: Fundamentals Security Considerations for Symbolic and Hybrid AI
Die Studien geben einen Einblick in den aktuellen Stand der Forschung. Es werden mögliche Angriffe auf KI-Systeme und Verteidigungsmaßnahmen kategorisiert und bewertet sowie auf Basis der Literatur Handlungsempfehlungen abgeleitet. Gleichzeitig wird auf offene Probleme und die Limitationen existierender Mitigationsmaßnahmen hingewiesen. Zum Teil geben die Studien auch Impulse für zukünftige Sicherheitsforschung im Bereich der KI.
Die Ergebnisse der Studien dienen dem BSI unter anderem als Grundlage für Beratungsdienstleistungen und die Entwicklung von Prüfkriterien für KI-Systeme. Sie stellen aber auch für andere Gruppen, wie Entwicklerinnen und Entwickler, eine vertrauenswürdige Informationsquelle dar. Durch die strukturierte Aufbereitung werden Einstiegshürden in das Thema verringert.
Fachartikel

Leitfaden zum Exposure Management: Warum Sie es brauchen und wie Sie es umsetzen

Zusammenfassung des Webinars „Let’s Encrypt“: Eine neue Ära der Zertifikatsüberwachung

Messung des ROI in der Cybersicherheit

Quantifizierung des Risikos von ERP-Ausfallzeiten und das Streben nach betrieblicher Ausfallsicherheit

Spionieren Chrome-Erweiterungen von AI Sie aus?
Studien

Aufruf zum Handeln: Dringender Plan für den Übergang zur Post-Quanten-Kryptographie erforderlich

IBM-Studie: Gen-KI wird die finanzielle Leistung von Banken im Jahr 2025 steigern

Smartphones – neue Studie zeigt: Phishing auch hier Sicherheitsrisiko Nr. 1

GenAI: Wirtschaft in Deutschland vernachlässigt Transformation der Geschäftsmodelle

Studie zu Security in Kubernetes
Whitepaper

Wie NIS2 und DORA die SaaS-Compliance beeinflussen

Umsetzung des Konzeptes „Cyber-Nation“: Bundesverband IT-Sicherheit (TeleTrusT) veröffentlicht Forderungskatalog

Häufige Herausforderungen bei der Cyberkriminalität

Datasheets: Kontinuierliche Compliance mit Onapsis
