Das Magazin WIRED hat am 2. November eine Recherche veröffentlicht, wonach rund 400 miteinander verbundene Apps und Websites nach außen wie Haustier-Porträts, Sprachlern-Tools oder KI-Fitnesscoaches wirken, unter bestimmten Bedingungen aber eine zweite Oberfläche laden. Dort können Nutzer Fotos anderer Menschen hochladen und daraus explizite Bilder und Videos erzeugen. Es handelt sich um sexualisierte Deepfakes ohne Einwilligung der Betroffenen, teils kommt Gewalt hinzu.
Die ersten Hinweise lieferten Videoanzeigen auf Facebook und Instagram. Forscher verfolgten Tausende explizite Anzeigen zurück und stießen auf Apps in den Stores von Apple und Google; bezahlt wird über Apple Pay und Google Pay.
Erst nach der Prüfung wird das Gesicht gewechselt
Dem Bericht zufolge sendet die App nach jedem Download Angaben wie Herkunft des Nutzers, Sprache und eine eindeutige Kennung an einen Server, der entscheidet, ob die harmlose oder die explizite Version angezeigt wird. Der Download nach einem Klick auf eine der betreffenden Meta-Anzeigen scheint eine der Auslösebedingungen zu sein; die genauen Regeln sind unklar.
Apple bezeichnet dieses Vorgehen als „Bait-and-Switch“: Entwickler tauschen nach bestandener Prüfung die Quelle der Inhalte aus. Die Prüfer sehen ein Haustier-Porträt, zahlende Nutzer womöglich etwas völlig anderes.
Zu den im Bericht genannten Beispielen zählt Viefur, das sich als „Haustier-Porträt“-App ausgibt und 130 Münzen für etwa 4 US-Dollar verkauft; DiffAI wurde im Dezember 2025 angelegt und kommt bei Google Play auf mehr als 100.000 Downloads.
Die Zahlen zum Ausmaß stammen von mehreren Forschungseinrichtungen:
- AI Forensics: Im September waren bei Google Play noch 27 einschlägige Apps verfügbar, zusammen mehr als 350.000 Downloads, viele davon als für alle Altersgruppen geeignet gekennzeichnet; in diesem Jahr gab es zehntausende entsprechende explizite Anzeigen; zu Spitzenzeiten wurden pro Woche etwa 30 Websites registriert
- Infoblox: fast 500 verbundene Domains identifiziert, die nach Angaben der Forscher „denselben Code ausführen und aufeinander verweisen“
AI-Forensics-Forscher Paul Bouchaud schätzt die Lage so ein:
„This is an organized, commercially run operation: One operator behind hundreds of disposable apps and domains“
(Das ist ein organisierter, kommerziell betriebener Apparat: ein Betreiber hinter Hunderten von Wegwerf-Apps und -Domains.)
Reaktionen der Plattformen
Apple entfernte nach den Hinweisen von WIRED 19 Apps und erklärte, die Richtlinien seien aktualisiert worden, um solche Tools weiter einzuschränken. Google reagierte nicht auf die Anfrage, hatte die meisten dieser Apps aber bereits vor der Kontaktaufnahme der Reporter entfernt.
Nach Erhalt der Domainliste bestätigte Meta zunächst mehr als 3.000 einschlägige Anzeigen, von denen etwa zwei Drittel gelöscht wurden; später teilte das Unternehmen mit, gegen 11.600 Werbekonten, mehr als 4.700 Unternehmensseiten, 5.200 Nutzer und 15.000 Seiten vorgegangen zu sein und 209 Apps am Schalten von Anzeigen gehindert zu haben. Laut Bericht haben die Anzeigen bereits Untersuchungen von Aufsichtsbehörden in mehreren Ländern ausgelöst. Die US-Nonprofit-Organisation Tech Transparency Project hatte zuvor außerdem Deepfake-Anzeigen entdeckt, die Minderjährige darstellen.
Spuren, die zu chinesischen Entwicklern führen
Für chinesischsprachige Leser ist der Abschnitt zur Identität der Betreiber kaum zu übergehen. WIRED und die Forscher stützen sich auf mehrere indirekte Belege: viele chinesische Kommentare im Code, ausschließlich Hosting innerhalb Chinas, chinesische Schnittsoftware-Wasserzeichen in den Anzeigenvideos sowie Kontaktdaten, Admin-Login-Seite und einige E-Mail-Adressen der zuerst registrierten Website, die auf ein in Hongkong registriertes Unternehmen namens KeLing Technology Limited verweisen.
Dies sind Einschätzungen aus der Recherche, und auch WIRED formuliert mit Vorbehalt. Das Unternehmen reagierte nicht auf die Anfrage, und öffentlich einsehbare Angaben wurden nach der Nachfrage der Reporter geändert oder gelöscht. Meta erklärt, das Unternehmen sei bereits 2025 vom Schalten von Anzeigen ausgeschlossen worden. Die englische Schreibweise des Firmennamens unterscheidet sich von der des Videomodells Kling von Kuaishou, und der Bericht erwähnt keinerlei Verbindung zwischen beiden; Leser sollten die beiden nicht verwechseln.
Das dänische Medium DR hatte im September über einen Teil der Vorgänge berichtet. Bislang taucht in dem Bericht weder ein Ermittlungsverfahren von Strafverfolgungsbehörden noch eine systematische Sanktion auf Store-Ebene auf, und keine Stelle hat aktuelle Zahlen dazu vorgelegt, wie viele Apps des Netzwerks noch online sind.
Quellen: WIRED, AI Forensics, CocoLoop, Infoblox; die Zahlen zu den Maßnahmen der Plattformen entsprechen den Angaben von Apple und Meta gegenüber den Medien, die Identität der Betreiber ist eine Einschätzung aus der Recherche.