Meta geht gegen „Nudify“-Apps vor – Klage gegen CrushAI eingereicht

Meta hat rechtliche Schritte gegen die Verbreitung sogenannter „Nudify“-Apps eingeleitet. Wie das Unternehmen mitteilt, wurde unter anderem Klage gegen die Betreiberfirma der App „CrushAI“ erhoben. Zugleich arbeite Meta an neuen Technologien, mit denen sich Werbung für derartige Anwendungen besser erkennen lasse. Ziel sei es auch, andere Tech-Unternehmen mit relevanten Informationen zu versorgen, damit diese ihrerseits gegen die Verbreitung solcher Inhalte vorgehen können. Meta betont, dass auf seinen Plattformen klare Regeln gelten: Das Teilen intimer Bilder ohne Zustimmung – unabhängig davon, ob diese real oder KI-generiert sind – sowie die Bewerbung entsprechender Apps sei streng untersagt.

Im Internet beobachten wir eine besorgniserregende Zunahme sogenannter „Nudify“-Apps, die mithilfe von KI ohne Einwilligung der betroffenen Personen gefälschte Nacktbilder oder sexuell eindeutige Bilder erstellen. Meta hat seit langem Regeln gegen intime Bilder ohne Einwilligung und hat vor über einem Jahr diese Richtlinien aktualisiert, um noch deutlicher zu machen, dass wir die Werbung für Nudify-Apps oder ähnliche Dienste nicht zulassen. Wir entfernen Anzeigen, Facebook-Seiten und Instagram-Konten, die für diese Dienste werben, sobald wir davon Kenntnis erhalten, blockieren Links zu Websites, die diese Dienste hosten, damit sie nicht über Meta-Plattformen aufgerufen werden können, und schränken Suchbegriffe wie „Nudify“, „Ausziehen“ und „Kleidung löschen“ auf Facebook und Instagram ein, damit sie keine Ergebnisse liefern.

Heute veröffentlichen wir Aktualisierungen zu unserem Vorgehen gegen diese Apps, darunter neue Maßnahmen, um sie von unseren Plattformen zu entfernen, andere Unternehmen dabei zu unterstützen, dasselbe zu tun, und die Verantwortlichen zur Rechenschaft zu ziehen.

Rechtliche Schritte

Wir verklagen Joy Timeline HK Limited, das Unternehmen hinter den CrushAI-Apps, mit denen Nutzer ohne deren Zustimmung KI-generierte Nacktbilder oder sexuell eindeutige Bilder von Personen erstellen können. Wir haben in Hongkong, wo Joy Timeline HK Limited seinen Sitz hat, Klage eingereicht, um das Unternehmen daran zu hindern, auf Meta-Plattformen für CrushAI-Apps zu werben.

Dies folgt auf mehrere Versuche von Joy Timeline HK Limited, den Werberevisionsprozess von Meta zu umgehen und diese Anzeigen weiterhin zu schalten, nachdem sie wiederholt wegen Verstoßes gegen unsere Regeln entfernt worden waren.

Diese rechtlichen Schritte unterstreichen sowohl die Ernsthaftigkeit, mit der wir diesen Missbrauch nehmen, als auch unsere Entschlossenheit, alles in unserer Macht Stehende zu tun, um unsere Community davor zu schützen. Wir werden weiterhin alle notwendigen Maßnahmen – einschließlich rechtlicher Schritte – gegen diejenigen ergreifen, die unsere Plattformen auf diese Weise missbrauchen.

Bekämpfung von Nudify-Apps im Internet

Da Nudify-Apps im Internet beworben werden – und sogar in den App Stores erhältlich sind –, reicht es nicht aus, sie nur von einer Plattform zu entfernen. Wenn wir nun Anzeigen, Konten oder Inhalte entfernen, die für diese Dienste werben, geben wir Informationen – angefangen bei den URLs der betreffenden Apps und Websites – über das Lantern-Programm der Tech Coalition an andere Technologieunternehmen weiter, damit diese ebenfalls Ermittlungen anstellen und Maßnahmen ergreifen können. Seit wir Ende März mit dem Austausch dieser Informationen begonnen haben, haben wir den teilnehmenden Technologieunternehmen mehr als 3.800 eindeutige URLs zur Verfügung gestellt. Wir tauschen bereits Hinweise auf Verstöße gegen die Kindersicherheit, einschließlich Sextortion, mit anderen Unternehmen aus, und dies ist eine wichtige Fortsetzung dieser Arbeit.

Verstärkte Maßnahmen gegen feindselige Werbetreibende

Wie andere Arten von Online-Schädigungen handelt es sich hierbei um einen feindseligen Bereich, in dem die dahinter stehenden Personen – die in erster Linie finanziell motiviert sind – ihre Taktiken ständig weiterentwickeln, um nicht entdeckt zu werden. Einige verwenden beispielsweise harmlose Bilder in ihren Anzeigen, um nicht von unserer Technologie zur Erkennung von Nacktheit erfasst zu werden, während andere schnell neue Domainnamen erstellen, um die von uns gesperrten Websites zu ersetzen.

Aus diesem Grund entwickeln auch wir unsere Durchsetzungsmethoden weiter. So haben wir beispielsweise eine neue Technologie entwickelt, die speziell darauf ausgelegt ist, diese Art von Anzeigen zu identifizieren – auch wenn die Anzeigen selbst keine Nacktheit enthalten – und mithilfe einer Abgleichtechnologie können wir Nachahmeranzeigen schneller finden und entfernen. Wir haben mit externen Experten und unseren eigenen Spezialistenteams zusammengearbeitet, um die Liste der sicherheitsrelevanten Begriffe, Phrasen und Emojis zu erweitern, auf deren Erkennung unsere Systeme innerhalb dieser Anzeigen trainiert sind.

Außerdem haben wir die Taktiken, mit denen wir Netzwerke koordinierter unechter Aktivitäten unterbinden, angewendet, um Netzwerke von Konten zu finden und zu entfernen, die diese Anzeigen schalten. Seit Anfang des Jahres haben unsere Expertenteams eingehende Untersuchungen durchgeführt, um vier separate Netzwerke von Konten aufzudecken und zu unterbinden, die Anzeigen zur Bewerbung dieser Dienste schalten wollten.

Unterstützung wirksamer Gesetze

Wir begrüßen Gesetze, die dazu beitragen, den Missbrauch intimer Bilder im Internet zu bekämpfen, unabhängig davon, ob diese echt oder KI-generiert sind, und die unsere langjährigen Bemühungen ergänzen, die Verbreitung solcher Inhalte im Internet durch Tools wie StopNCII.org und NCMEC’s Take It Down zu verhindern. Aus diesem Grund haben wir uns für die neue US-Gesetzesinitiative „TAKE IT DOWN Act” eingesetzt und arbeiten an deren Umsetzung. TAKE IT DOWN Act eingesetzt und setzen uns für dessen Umsetzung ein, der einen wichtigen parteiübergreifenden Schritt zur Bekämpfung dieser Art von Missbrauch im Internet und zur Unterstützung der Betroffenen darstellt.

Wir unterstützen auch weiterhin Gesetzesinitiativen, die Eltern die Möglichkeit geben, die App-Downloads ihrer Teenager zu überwachen und zu genehmigen. Dies würde Eltern nicht nur die Last wiederholter Genehmigungen und Altersüberprüfungen in den unzähligen Apps ersparen, die ihre Teenager nutzen, sondern ihnen auch ermöglichen, zu sehen, ob ihre Teenager versuchen, eine Nudify-App aus einem App Store herunterzuladen, und sie daran hindern, dies zu tun.

Bild/Quelle: https://depositphotos.com/de/home.html