Bumble nutzt persönliche Daten für KI-Feature – ohne gültige Einwilligung

Die Dating-App Bumble hat im Dezember 2023 ein neues KI-Feature in ihrer Freundschafts-Sektion „Bumble for Friends“ eingeführt. Die sogenannten „KI-Eisbrecher“ sollen Nutzer:innen mit automatisch generierten Nachrichten den Einstieg in ein Gespräch erleichtern. Grundlage dafür: persönliche Profilinformationen, die in ein KI-System – offenbar ChatGPT – eingespeist werden.

Brisant: Laut der Datenschutzorganisation noyb geschieht das ohne ausdrückliche Zustimmung der Nutzer. Zwar blendet Bumble regelmäßig einen Banner mit einem „Okay“-Button ein, der wie eine Einwilligungserklärung wirkt. Tatsächlich beruft sich das Unternehmen jedoch auf ein angeblich „berechtigtes Interesse“ an der Datenverarbeitung – eine Praxis, die laut noyb gegen die Datenschutz-Grundverordnung (DSGVO) der EU verstoßen könnte.

noyb hat daher Beschwerde bei der österreichischen Datenschutzbehörde eingereicht. Der Fall könnte weitreichende Konsequenzen für den Einsatz von KI in personalisierten Apps haben – insbesondere dann, wenn dieser ohne klare Zustimmung der Nutzer erfolgt.

Beschwerde gegen Bumble (DE)

OpenAI liest mit. Rund 50 Millionen Menschen nutzen die Dating-App Bumble, um eine neue Partnerschaft, Freunde oder sogar Geschäftspartnerschaft zu finden. Die App gibt zwar keine genauen Zahlen für Europa an, kommt aber allein in Deutschland auf 1,45 Millionen User. Leider ist Menschen zusammenzubringen nicht das Einzige, was Bumble macht. Im Dezember 2023 hat das Unternehmen sogenannte KI-Eisbrecher im “Bumble for Friends”-Bereich der App eingeführt. Diese erlauben OpenAI, auf die persönlichen Profildaten der Nutzer:innen zuzugreifen, um anhand der dort geteilten Informationen eine KI-generierte Nachricht zu erstellen.

Lisa Steinfeld, Datenschutzjuristin bei noyb: “Bumble zwingt seine KI-Funktionen Millionen von europäischen Nutzern auf, ohne jemals um ihre Einwilligung zu bitten. Stattdessen werden ihre persönlichen Daten an OpenAI weitergeleitet und in die KI-Systeme des Unternehmens eingespeist.”

Zur “Einwilligung” gedrängt. Die KI-Eisbrecher wurden eingeführt, ohne jemals eine Einwilligung der betroffenen Personen einzuholen. Stattdessen bekamen die Nutzer beim Öffnen der App ein Pop-up mit folgendem Text zu sehen: “Wir nutzen AI, um dir dein Einstieg beim Chatten zu erleichtern. Dadurch kannst du Fragen stellen, die zu den Profilinfos unser Mitglieder passen.” Der Banner ist eindeutig darauf ausgelegt, die Leute zu einem Klick auf “Okay” zu bewegen. Wenn man versucht, das Fenster einfach zu schließen, erscheint es immer wieder – bis man schließlich “Okay” drückt. All das lässt vermuten, dass Bumble sich auf eine (lästige Form der) Einwilligung beruft. Aber Bumble scheint das nur vorzugeben, um Menschen ein falsches Gefühl der Kontrolle zu vermitteln.

Lisa Steinfeld, Datenschutzjuristin bei noyb: “Dass Bumble eine Zustimmung zu den KI-Eisbrechern einholt, ist irreführend. Es vermittelt ein falsches Gefühl von Kontrolle über die eigenen Daten. In Wirklichkeit behauptet Bumble, ein sogenanntes berichtigtes Interesse daran zu haben, deine Daten ohne Einwilligung zu nutzen.”

Einwilligung – oder doch ein berechtigtes Interesse? Die Betroffenen werden zwar dazu gedrängt, aktiv zu bestätigen, dass OpenAI auf ihre persönlichen Daten zugreifen darf. Doch Bumble stützt sich gar nicht auf eine Einwilligung gemäß Artikel 6(1)(a) DSGVO als Rechtsgrundlage. Nach mehreren Auskunftsersuchen gemäß Artikel 15 DSGVO bekam die Beschwerdeführerin schließlich eine Kopie ihrer Daten und (unvollständige) Infos über die Datenverarbeitung im Zusammenhang mit der Eisbrecher-Funktion. Demnach beruft sich Bumble auf ein angebliches berechtigtes Interesse gemäß Artikel 6(1)(f) DSGVO, um Daten für die KI-Funktion zu verarbeiten.

Lisa Steinfeld, Datenschutzjuristin bei noyb: “Es ist absurd, dass Bumble behauptet ein berechtigtes Interesse daran zu haben, Nutzerdaten an OpenAI zu senden. Die Dating-App scheint verzweifelt auf den KI-Zug aufspringn zu wollen und tritt dabei die Grundrechte der Betroffenen mit Füßen.”

Beschwerde in Österreich eingereicht. noyb hat deshalb eine Beschwerde bei der österreichischen Datenschutzbehörde (DSB) eingereicht. Bumble hat gegen seine Transparenzpflichten nach Artikel 5(1)(a) DSGVO verstoßen, indem es keine Informationen über die Datenverarbeitung im Zusammenhang mit der Eisbrecher-Funktion bereitgestellt und die Nutzer mit einem falschen Einwilligungsbanner in die Irre geführt hat. Dem Unternehmen fehlt außerdem eine gültige Rechtsgrundlage gemäß Artikel 6(1), da es die Verarbeitung nicht rechtmäßig auf ein berechtigtes Interesse stützen kann. Das wird auch dadurch verdeutlicht, dass das Profil der Beschwerdeführerin sensible Daten wie ihre sexuelle Orientierung enthält. Diese dürfen nur mit ausdrücklicher Einwilligung verarbeitet werden (Artikel 9). Nicht zuletzt hat Bumble das Auskunftsbegehren der Beschwerdeführerin nicht angemessen beantwortet (Artikel 15). noyb beantragt, dass Bumble die rechtswidrige Verarbeitung einstellt und eine ordnungsgemäße Rechtsgrundlage für die Eisbrecher-Funktion verwendet. Zu guter Letzt schlagen wir der DSB außerdem die Verhängung einer Geldstrafe vor.