Share
Beitragsbild zu Beitrag zur Prüfbarkeit von sicherheitskritischen KI-Anwendungen veröffentlicht

Beitrag zur Prüfbarkeit von sicherheitskritischen KI-Anwendungen veröffentlicht

TÜV-Verband, BSI und Fraunhofer legen gemeinsames Whitepaper vor + Wichtiger Beitrag für die kommende Umsetzung der gesetzlichen Regulierung von Künstlicher Intelligenz in der EU

Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut haben in einem gemeinsamen Whitepaper ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) vorgestellt. Die „Certification Readiness Matrix“ (CRM) beschreibt, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht. Hintergrund ist die geplante Regulierung von KI-Anwendungen in der Europäischen Union. „Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“, sagt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim TÜV-Verband. Im Rahmen der KI-Verordnung wird geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden soll. Dazu zählen beispielsweise die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten.

Die Zertifizierungsmatrix stellt eine Methode zur Erfassung der Prüfbarkeit von Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wendet diese exemplarisch an. Sie berücksichtigt dabei den gesamten Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis zum Einsatz in der Praxis. Darüber hinaus beleuchtet sie verschiedenste Aspekte der IT-Sicherheit. „KI-Systeme müssen verschiedene Anforderungen erfüllen, um als sicher und vertrauenswürdig gelten zu können“, sagt Gilroy. Dazu gehören neben dem Schutz vor gesundheitlichen Gefahren auch die Abwehr von Cyberangriffen, die Robustheit gegenüber sich ändernden äußeren Einflüssen oder die Erklärbarkeit von Entscheidungen des KI-Systems. Gilroy: „Wir glauben, dass sowohl Prüfer:innen als auch Entwickler:innen und Entscheidungsträger:innen in der Industrie, Forschung und in Behörden von der Certification Readiness Matrix profitieren können.“

Das Whitepaper und die darin abgebildete Certification Readiness Matrix sind im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfindet. Die Diskussionen und Beiträge des letztjährigen Fachforums sind als Impulse eingeflossen und weiterentwickelt worden. „Das Whitepaper, aber auch die gemeinsamen Veranstaltungen sind Ausdruck einer sehr intensiven und ergebnisorientierten Zusammenarbeit dreier Kompetenzpartner auf Augenhöhe. Diese Kooperation wollen wir weiter ausbauen“, betont Gilroy.

Das nächste Fachforum findet am 24. November 2022 statt. Am Vortag veranstaltet der TÜV-Verband die ebenfalls jährlich stattfindende „TÜV AI Conference“.

Das vollständige Whitepaper ist abrufbar unter: https://www.tuev-verband.de/meldungen/whitepaper-pruefbarkeit-ki-systeme