KI-Sicherheit – Die EU kann und muss sich stärker in die Diskussion einbringen

2023 kam erstmalig Bewegung in die Regulierung von Künstlicher Intelligenz. Das ist insofern auch nachvollziehbar, da die öffentliche Wahrnehmung von KI mit der allgemeinen Verfügbarkeit generativer KI-Modelle große Wellen geschlagen hat. Die EU machte im Juni mit ihrem “AI Act” den Anfang, die USA zog Ende Oktober mit ihrer “AI Executive Order” nach. Nun möchte auch Großbritannien mit ihrem “AI Summit” mitmischen. „Wir müssen die Risiken bezüglich KI genauso ernst nehmen wie andere große globale Herausforderungen, wie den Klimawandel“

Dieses Zitat stammt von Demis Hassabis, dem Mitbegründer des Londoner Unternehmens DeepMind, der seit April federführend für die KI-Entwicklung bei Google verantwortlich ist.
Nicht zuletzt dank DeepMind hat sich Großbritannien zu einem Hot Spot für KI-Startups entwickelt. Deshalb ist es nicht ganz abwegig, dass der erste in Europa abgehaltene Kongress zum Thema KI-Sicherheit im englischen Buckinghamshire stattfindet. Das britische Außen- und Wissenschaftsministerium luden Regierungsvertreter und KI-Entwickler aus der ganzen Welt dazu ein, sich am ersten und zweiten November über die Risiken der Weiterentwicklung sogenannter KI-Frontier-Modelle auszutauschen. Das ausgegebene Ziel der Veranstaltung ist es, Forschung und Politik an einen Tisch zu bringen, um Regulierungsmöglichkeiten für die Entwicklung der leistungsstärksten KI-Modelle zu erörtern.

KI-Risiken – Nur Hype oder eine reale Gefahr?

Nun mag man sich darüber streiten, wie weit fortgeschritten die KI-Entwicklung bereits ist, ob ChatGPT insgeheim Weltherrschaftsfantasien hegt, oder ob die ganze Aufregung einfach nur ein riesiger Medien-Hype ist.

Fakt ist jedoch, dass die negativen Auswirkungen generativer KI-Tools bereits im hier und jetzt angekommen sind und reale Schäden für Wirtschaft und Gesellschaft verursachen.

Angefangen bei möglichen Urheberrechtsverletzung, über KI-gestützte Desinformationskampagnen bis hin zur Gefahr für die Demokratie und unser Verständnis einer faktenbasierten Realität – die Risiken der Nutzung künstlicher Intelligenz sind zu einem Teil unserer Lebenswelt geworden. Wir bei RISK IDENT sehen die Auswirkungen des KI-Einsatzes jeden Tag in Form von immer raffinierteren Betrugsmaschen: Generierte Phishing-Mails, mittels DeepFakes gefälschte Identitäten, betrügerische Sprachnachrichten mit generierten Stimmen – die Palette an KI-Instrumenten, derer sich Betrüger bedienen, wird mit jedem Tag größer, die Qualität ihrer Betrugsversuche immer besser. Doch wie mit jedem Werkzeug – und das ist KI zum heutigen Stand der Technik immer noch – kommt es darauf an, wofür man es einsetzt. Im Kontext der Betrugserkennung nutzen wir das enorme Potenzial von KI für die Mustererkennung und zur automatisierten Betrugsbekämpfung. Es ist daher wichtig, dass jegliche Regulierung einen nuancierten Ansatz verfolgt, um die konstruktiven Einsatzmöglichkeiten von KI weder einzuschränken noch zu kriminalisieren.

Die EU muss ihrem Anspruch gerecht werden, eine globale Führungsrolle beim Thema KI-Regulierung einzunehmen

Einerseits ist es zu begrüßen, dass die Diskussion um KI-Sicherheit auf der politischen Bühne in Europa angekommen ist. Doch Großbritannien ist ja bekanntlich nicht länger Teil der EU.
Doch genau hier, bei uns in der Europäischen Union, müssten viel mehr Anstrengungen unternommen werden, beim Thema KI-Sicherheit und KI-Regulierung als globaler Vordenker und Wortführer wahrgenommen zu werden. Immerhin haben wir es mit dem EU AI Act als erste Wirtschaftsmacht geschafft, einen Gesetzentwurf mit großer internationaler Strahlwirkung vorzulegen. Die Ratifizierung dieser Pionierleistung ist indes nicht vor nächstem Jahr zu erwarten. Aufgrund der zweijährigen Übergangsfrist wird das Inkrafttreten der Gesetzesnovelle also noch bis mindestens 2026 auf sich warten lassen.

Know-How ist reichlich vorhanden – Die Politik könnte aus dem vollen Schöpfen

Wie im neulich erschienen Bericht „State of AI“ zu sehen ist, steht Europa in der Kategorie KI-Spitzenforschung gar nicht so schlecht da, wie man intuitiv vermuten könnte. In Summe der wissenschaftlichen Publikationen zum Thema KI, belegt Deutschland einen respektablen fünften Platz im internationalen Ranking. Kumuliert man die Veröffentlichungen aller EU-Länder, so ist die EU mit dem zweitplatzierten China auf Augenhöhe. Selbst bei den Investitionen in KI liegt die EU nach den USA und China auf Platz drei.

Auch RISK IDENT beschäftigt sich jeden Tag mit dem Thema KI-Sicherheit im Kontext der Betrugsabwehr und steht im regelmäßigen Austausch mit Behörden wie beispielsweise dem Bundeskriminalamt oder Europol, um sich über die aktuellen Neuigkeiten im Bereich Cybercrime auszutauschen. In unseren Analysen ist ein klarer Trend zum vermehrten KI-Einsatz für betrügerische Zwecke zu beobachten.

Die EU-Politik muss nun ihrer Verantwortung gerecht werden und – über den EU AI Act hinaus – mit weitergehenden Regulierungserwägungen und -maßnahmen entschlossen auf der globalen Bühne auftreten. Schon heute ist die EU ein Champion und Vorreiter des Verbraucherschutzes. Sie könnte ihr politisches Gewicht sehr effektiv für die Etablierung internationaler Strukturen für eine normierte KI-Regulierung nutzen.

Denn KI-Sicherheit ist ebenso wenig an Staatsgrenzen gebunden, wie Cybercrime. Die Errichtung einer internationalen Organisation, wie es sie in Form der IAEA bereits gibt, ist daher auf kurz oder lang auch beim Thema KI-Sicherheit unumgänglich.

Einer muss jedoch den ersten Schritt wagen und Nägel mit Köpfen machen. Die EU wäre – betrachtet man Erfahrung, Renommee und Marktmacht – für eine solche Führungsrolle prädestiniert.

Ein Kommentar von Frank Heisel, Co-CEO von RISK IDENT