
Datenschutz-, Risiko- oder Compliance-Management: Neue KI-Technologien stellen Unternehmen und Entwickler vor neue Herausforderungen. Damit sie diese systematisch und strukturiert angehen können, arbeiten verschiedene Institutionen an Leitlinien und Standards zum Management von Künstlicher Intelligenz (KI). Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS hat in der jetzt veröffentlichten Studie »Management System Support for Trustworthy Artificial Intelligence« den Standard-Entwurf für KI-Managementsysteme der International Organization for Standardization (ISO) und die bisherigen Richtlinien miteinander verglichen. Die von Microsoft beauftragte Studie zeigt, inwieweit KI-Managementsysteme Unternehmen beim vertrauenswürdigen Einsatz von KI-Systemen unterstützen und gleichzeitig das Vertrauen in KI-Anwendungen stärken können.
Als Schlüsseltechnologie der Zukunft birgt Künstliche Intelligenz enormes Innovationspotenzial für Wirtschaft und Gesellschaft. Besonders leistungsstarke KI-Systeme, die künftig auch wichtige Aufgaben z. B. beim Autonomen Fahren übernehmen sollen, basieren auf der Verarbeitung großer Datenmengen. Um die damit verbundenen Risiken zu handhaben, eine sichere Nutzung zu gewährleisten und die internationale Kompatibilität zu ermöglichen, sind behördliche Richtlinien und internationale Standards notwendig, an denen sich Unternehmen und andere Organisationen bei der Nutzung und Entwicklung neuer KI-Technologien orientieren können. Ein bisher in anderen Unternehmensbereichen geläufiges Werkzeug, um mit sensiblen Aspekten wie z. B. Informationssicherheit erfolgreich umzugehen, sind normierte Managementsysteme. Im Kontext von KI-Technologien befinden sich derlei Managementsysteme noch in der Entwicklung. Ein internationaler Standard für KI-Managementsysteme (engl. AI Management Systems, kurz AIMS) wird aktuell von der gemeinsamen Arbeitsgruppe der Normungsorganisationen International Organization for Standardization (ISO) und International Electrotechnical Commission (IEC) erarbeitet. Derzeit besteht er als Arbeitsentwurf.
In der nun veröffentlichten Studie »Management System Support for Trustworthy Artificial Intelligence« hat das Fraunhofer IAIS den Arbeitsentwurf des AIMS-Standards dahingehend untersucht, inwieweit er Unternehmen und andere Organisationen dabei unterstützen kann, KI-Technologien auf vertrauenswürdige Weise zu nutzen und zu entwickeln. Zu diesem Zweck haben die KI-Wissenschaftler den Entwurf mit den aktuellen Anforderungen und Empfehlungen für vertrauenswürdige Künstliche Intelligenz verglichen, die bisher von der Europäischen Kommission, der von ihr beauftragten Expertengruppe High-Level-Expert Group on AI (HLEG) sowie dem Bundesamt für Sicherheit in der Informationstechnik (BSI) formuliert wurden.
Die Studie des Fraunhofer IAIS zeigt, dass die Einführung eines KI-Managementsystems für Unternehmen künftig ein wichtiger und angemessener Schritt sein kann, um geeignete Strategien und Prozesse für die vertrauenswürdige Entwicklung und Nutzung von KI-Technologien zu definieren. »Für Organisationen, die KI einsetzen, sollte das Ziel, verantwortungsvoll, vertrauenswürdig und rechtskonform zu sein, in ihrer Governance-, Risk- und Compliance-Strategie deutlich zum Ausdruck kommen«, empfiehlt Dr. Michael Mock, Co-Autor der Studie, der am Fraunhofer IAIS das vom Bundesministerium für Wirtschaft und Energie geförderte Projekt »KI-Absicherung« für sichere KI im Autonomen Fahren leitet. Dabei können KI-Managementsysteme Unternehmen und Entwickler auch langfristig bei der Einhaltung von aktuellen und kommenden Richtlinien und Gesetzen unterstützen. »Selbst bei Vorhandensein mehrerer Interessensgruppen und komplexer Lieferketten erleichtert der Einsatz von KI-Managementsystemen die Einhaltung von Vorschriften über den gesamten Lebenszyklus von KI-Systemen hinweg«, sagt Mock.
Die Wissenschaftler des Fraunhofer IAIS heben in ihrer Studie hervor, dass die Implementierung von KI-Managementsystemen in Unternehmen auch einen positiven Einfluss auf die Akzeptanz und das Vertrauen von KI-Technologien in der Gesellschaft haben kann. »Unserer Einschätzung nach sind KI-Managementsysteme ein wichtiger Baustein, um das Vertrauen von Stakeholdern – wie zum Beispiel Kunden oder Mitarbeitende – in KI-Anwendungen wesentlich zu stärken«, sagt Dr. Maximilian Poretschkin, Co-Autor der Studie und Teamleiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS.
Als eines der führenden Forschungsinstitute im Bereich Künstlicher Intelligenz in Europa befasst sich das Fraunhofer IAIS ebenfalls mit der Vertrauenswürdigkeit und Zuverlässigkeit von KI-Systemen und ist u. a. im Projekt »ZERTIFIZIERTE KI« an der Definition von praxistauglichen Prüfgrundlagen und Kriterienwerken beteiligt. Insbesondere diese Expertise ermöglicht es den Wissenschaftlern, den bisherigen Norm-Entwurf zu KI-Managementsystemen zu bewerten. »Mit dem Regulierungsentwurf der EU-Kommission, aber auch anderen Dokumenten wie etwa den Empfehlungen der HLEG bilden sich wichtige Leitplanken für den Einsatz von KI-Anwendungen heraus. Es ist daher sehr wichtig, entstehende Standards mit diesen zu vergleichen«, sagt Dr. Maximilian Poretschkin. Darüber hinaus geben die KI-Expert*innen in ihrer Studie konkrete Handlungsempfehlungen ab, inwiefern sich der Norm-Entwurf noch verbessern lässt.
Die über 60-seitige Studie fasst zunächst den Standard-Entwurf sowie die KI-Leitlinien der Europäischen Kommission (Proposal for AI Regulation), der HLEG (Assessment List for Trustworthy AI) und des BSI (AIC4-Katalog) zusammen. In der detaillierten Gegenüberstellung aller Dokumente werden neben organisatorischen auch die technischen Anforderungen miteinander verglichen. Hier orientiert sich die Struktur des Vergleichs an dem vom Fraunhofer IAIS kürzlich veröffentlichten KI-Prüfkatalog, einem Leitfaden für die Gestaltung vertrauenswürdiger Künstlicher Intelligenz. Darüber hinaus behandelt die Studie eine mögliche Zertifizierung von KI-Managementsystemen und schließt mit einer Zusammenfassung der Erkenntnisse sowie Empfehlungen zur weiteren Ausarbeitung ab.
Finanziert wurde die Studie »Management System Support for Trustworthy Artificial Intelligence« von Microsoft.
Zum Download
Fachartikel

Privilegierte Zugriffe im Fokus: Warum CIOs jetzt auf Privileged Access Management (PAM) setzen müssen

Neue Cyber-Bedrohung „Hazy Hawk“ kapert Subdomains – Gefahr auch für Ihr Unternehmen?

400.000 DMARC-Boost nach Microsofts Update für Absender mit hohem Volumen

Ausgewogenes Verhältnis zwischen Notfallwiederherstellung, Backup-Systemen und Sicherheit

Über 100 schädliche Chrome-Erweiterungen entdeckt – getarnt als KI-Tools, VPNs und Krypto-Helfer
Studien

Unternehmen blockieren zunehmend GenAI-Tools – DNSFilter-Studie zeigt wachsende Sicherheitsbedenken

Weltweite Investitionen in Quantencomputing nehmen branchenübergreifend zu

Princeton-Forscher warnen vor fatalen KI-Angriffen im Web3-Umfeld

Führungskräfte ohne KI-Wissen? Gartner-Umfrage offenbart Sorgen der CEOs

Schweigen über KI-Erfolge: Was eine neue Ivanti-Studie offenbart
Whitepaper

Neuer Leitfaden zur Sicherung von KI-Daten veröffentlicht

Russische Cyberangriffe auf westliche Logistik: Deutsche Behörden warnen vor GRU-Einheit 26165

BEC- und FTF-Angriffe – keine andere Cyberbedrohung hat 2024 für mehr Schaden gesorgt

100 Tage bis zum Inkrafttreten des Data Act: Deutsche Unternehmen kaum vorbereitet

Weltweiter Sicherheitslagebericht zeigt dringenden Handlungsbedarf: Vernetzte Prozesse als Schlüssel
Hamsterrad-Rebell

Insider – die verdrängte Gefahr

Sicherer SAP-Entwicklungsprozess: Onapsis Control schützt vor Risiken

Das CTEM-Framework navigieren: Warum klassisches Schwachstellenmanagement nicht mehr ausreicht

Cybersicherheit im Mittelstand: Kostenfreie Hilfe für Unternehmen
