Adversarial Machine Learning: Eine Klassifizierung und Terminologie von Angriffen und Gegenmaßnahmen

Dieser NIST-Bericht über vertrauenswürdige und verantwortungsvolle KI bietet eine Klassifizierung von Konzepten und definiert die Terminologie im Bereich des feindlichen maschinellen Lernens (AML). Die Klassifizierung ist in einer konzeptionellen Hierarchie angeordnet, die die wichtigsten Arten von ML-Methoden, die Lebenszyklusphasen von Angriffen sowie die Ziele, Absichten, Fähigkeiten und Kenntnisse von Angreifern umfasst. In diesem Bericht werden auch aktuelle Herausforderungen im Lebenszyklus von KI-Systemen identifiziert und entsprechende Methoden zur Minderung und Bewältigung der Folgen dieser Angriffe beschrieben.

Die in diesem Bericht verwendete Terminologie steht im Einklang mit der Literatur zum Thema AML und wird durch ein Glossar der wichtigsten Begriffe im Zusammenhang mit der Sicherheit von KI-Systemen ergänzt. Insgesamt sollen die Taxonomie und die Terminologie andere Standards und zukünftige Praxisleitfäden für die Bewertung und das Management der Sicherheit von KI-Systemen durch die Festlegung einer gemeinsamen Sprache für die sich schnell entwickelnde AML-Landschaft informieren.

Zum Download.

Bild/Quelle: https://depositphotos.com/de/home.html