Kommentar von Trellix zu ChatGPT

24. Januar 2023

ChatGPT ist ein Begriff, der in den letzten Wochen scheinbar zum dem Gesprächsthema schlechthin geworden ist. Während seine Vorgänger in der Data-Science-Branche auf Interesse stießen, hatten nur sehr wenige einen praktischen Nutzen für den Durchschnittsverbraucher erkannt. Damit ist jetzt Schluss, denn der „intelligenteste Textbot aller Zeiten“ hat Tausende von innovativen Anwendungsfällen inspiriert, die in fast allen Branchen zum Einsatz kommen. Im Cyber-Bereich reichen die Beispiele von der E-Mail-Generierung über die Code-Erstellung und -Prüfung bis hin zur Entdeckung von Sicherheitslücken und vielem mehr.

Mit den bahnbrechenden Fortschritten in der Technologie sind jedoch auch die unvermeidlichen Sicherheitsbedenken nicht weit entfernt. Während ChatGPT versucht, böswillige Inhalte einzuschränken, ist die Realität, dass Cyber-Kriminelle bereits nach Möglichkeiten suchen, das Tool für schadhafte Zwecke zu nutzen.

Es ist zum Beispiel nicht schwer, realistische Phishing-E-Mails oder Exploit-Code zu erstellen, indem man einfach die Benutzereingabe ändert oder die erzeugte Ausgabe leicht anpasst

Während textbasierte Angriffe wie Phishing weiterhin das Social Engineering dominieren, wird die Entwicklung von datenwissenschaftlichen Tools unweigerlich zu anderen Medien führen, einschließlich Audio, Video und anderen Formen von Medien, die ebenso effektiv sein könnten. Darüber hinaus könnten Bedrohungsakteure versuchen, Datenverarbeitungs-Engines so zu verfeinern, dass sie ChatGPT nachahmen, während sie gleichzeitig Beschränkungen aufheben und sogar die Fähigkeiten dieser Tools zur Erstellung bösartiger Ergebnisse verbessern.

Auch wenn Bedenken hinsichtlich der Cyber-Sicherheit aufgekommen sind, darf nicht vergessen werden, dass dieses Tool ein noch größeres Potenzial hat, zum Guten genutzt zu werden. Es kann unter anderem dazu beitragen, kritische Programmierfehler zu erkennen, komplexe technische Konzepte in einfacher Sprache zu beschreiben und sogar Skripte und widerstandsfähigen Code zu entwickeln. Forscher, Hochschulen und Unternehmen in der Cyber-Sicherheitsbranche können sich die Vorteile von ChatGPT für Innovation und Zusammenarbeit zunutze machen.

Es wird interessant sein, diese Entwicklung für computergenerierte Inhalte zu verfolgen, da es die Fähigkeiten sowohl für gutartige als auch für bösartige Absichten verbessert.

Ein Kommentar von Steve Povolny, Principal Engineer und Director, Trellix