Hinterlassen Bots Fingerabdrücke?

Projekt der Uni Osnabrück erforscht Anomalien in Online-Netzwerken und hilft bei Erkennung von Betrugsversuchen und Fake News

In sozialen Online-Netzwerken können Nutzer viele unterschiedliche Dinge tun: je nach Netzwerk können sie beispielsweise Bilder oder Kommentare posten, Profile von Anderen aufrufen oder Links anklicken. Dabei entsteht für jede Nutzer ein einzigartiger, digitaler Fingerabdruck. Im Regelfall sind sich diese Abdrücke sehr ähnlich. Aber wie sehen digitale Fingerabdrücke von Bots aus? Oder wie bei möglichen Betrügern? Weicht ihr Fingerabdruck vom „normalen“ Fingerabdruck anderer Nutzer ab? Derartige Fragen versucht das Projekt MODUS-II („Modellbasierte Erkennung und Analyse von Anomalie-Mustern in ubiquitären und sozialen Interaktionsnetzwerk“) unter Leitung von Prof. Dr. Martin Atzmüller an der Universität Osnabrück zu beantworten. Das Projekt wird über eine Laufzeit von dreieinhalb Jahren von der Deutschen Forschungsgemeinschaft (DFG) mit 330.000 Euro gefördert.

Eine Anomalie ist dem Wort nach etwas, das nicht normal ist. Etwas, das eine Ausnahme bildet oder vom Regelfall abweicht. Das zieht unweigerlich die Frage nach sich, was überhaupt „normal“ ist und woran sich „Normalität“ messen lässt. „Im Kontext sozialer Online-Netzwerke stellt die Anomalie-Entdeckung eine herausfordernde Aufgabe dar. Um einer Anomalie auf die Spur zu kommen, bedarf es zunächst eines Vergleichs mit dem ‚Normalen‘. Wir brauchen also erstmal einen Referenzpunkt, etwas, das wir als Normalverhalten definieren können.“ erklärt Prof. Atzmüller. „In unserem Forschungsprojekt versuchen wir genau solches Normalverhalten formal zu beschreiben und Referenzmodelle zu entwickeln. Durch diesen modellbasierten Ansatz lassen sich Anomalien besser erklären und in Daten erkennen bzw. entdecken.“

Aber wofür wird die Anomalie-Entdeckung in sozialen Online-Netzwerken überhaupt benötigt? „Werden beispielsweise von einem Profil eines Online-Netzwerks tausende Nachrichten in nur wenigen Sekunden verschickt, kann es sich um einen Betrugsversuch handeln. Eine derartige Anomalie zu erkennen, heißt auch Nutzer zu schützen“, so Prof. Atzmüller. „Darüber hinaus lassen sich anhand von Anomalien die Ausbreitung von Informationen oder auch ungewöhnlicher Themen, die zum Beispiel Fake News sein könnten, analysieren.“

Der innovative Forschungsansatz von MODUS-II biete eine Reihe von Vorteilen. Unter anderem ließen sich jetzt auch komplexe Anomalien erkennen, erklärt Prof. Atzmüller. Komplexe Anomalien bestehen aus Einzelpunkten, die für sich betrachtet normal erscheinen, in ihrem Zusammenwirken aber vom Normalen abweichen. Schreiben z.B. ungewöhnlich viele Nutzer einen Kommentar, ist diese Anomalie nicht an ihren individuellen, digitalen Fingerabdrücken zu erkennen. Erst wenn das gleiche Muster bei verschiedenen Nutzern nachgewiesen werden kann, zeigt sich die Abweichung. So könnten beispielweise Bots erkannt werden, die mehrere Einzelprofile nutzen um auf diese Weise eine Vielzahl ähnlicher Kommentare abzugeben.

Das Projekt zielt aber auch auf die Erklärbarkeit von Anomalien ab. So können etwa Regeln abgeleitet werden, warum eine Abweichung überhaupt auftritt und warum sie als solche erkannt worden ist. Dies öffne den Weg zu einem besseren Verständnis in die eingesetzten maschinellen Lernverfahren und Methoden der Künstlichen Intelligenz (KI), da diese durch Erklärungen nachvollziehbarer werden. Das fördere auch das Vertrauen in neue KI-basierte Verfahren, so Prof. Atzmüller.

Der Forschungsansatz ist allerdings nicht auf soziale Online-Netzwerke begrenzt, sondern umfasst auch sogenannte ubiquitäre Netzwerke, die auch als Internet der Dinge bekannt sind. Gemeint sind damit z.B. intelligente Geräte oder Maschinen die miteinander, aber auch mit dem Internet, vernetzt sind. Anwendungsbereiche finden sich also auch in komplexen industriellen Systemen, in sensor-basierten Daten oder in Netzwerken cyber-physischer Gegenstände.

MODUS-II ist die Fortsetzung des MODUS-Projekts, das von 2016 bis 2019 ebenfalls unter Leitung von Prof. Dr. Atzmüller von der DFG gefördert wurde.