Liebe Community,
Manchmal stößt man auf eine potentielle Falschbehauptung und weiß noch gar nicht, was da noch auf einen zukommt. Zum Beispiel bei einem Selfie von einer jungen Frau mit AfD-Kappe, das meine Kollegin Kimberly Nicolaus Ende letzten Jahres auf Tiktok entdeckte. Wir fanden bei dem Profil rasch Hinweise auf KI. Damals dachten wir: Okay, spannend, das Foto schauen wir uns an.
Und dann sind wir eingetaucht. Wir haben nicht nur mehr über dieses Profil herausgefunden – sondern auch, dass es Teil einer Masche ist.
Sie geht so: Ein Social-Media-Profil zeigt vermeintlich eine junge Frau, die einerseits rechte bis rechtsradikale Positionen vertritt, andererseits für ihre eigenen Inhalte auf Erotikplattformen wie Onlyfans und Fanvue wirbt. Und KI nutzt – entweder um Bilder und Videos zu manipulieren oder um sie vollständig zu generieren.
Davon gibt es einige. Kimberly und ich haben im Laufe der Recherche mehr als 20 solcher Personas gefunden, die gemeinsam fast 200 Profile betrieben. Teilweise scheinen sie zusammenzuarbeiten oder sich zumindest derselben Inhalte zu bedienen. Zum Beispiel veröffentlichen viele von ihnen wortgleiche Beiträge, etwa: „Wenn der Islam so toll ist, warum suchen dann Muslime eigentlich nur in nicht islamischen Ländern Schutz?“ Diese Behauptung haben wir übrigens schon einmal widerlegt. Manchmal haben die Frauen auf den Bildern und Videos sogar dieselbe Kleidung an und sitzen in denselben Zimmern.
Teilweise scheinen einzelne Inhalte aber auch authentisch zu sein. Teils kommt KI kommt offenbar nur zum Einsatz, um Bilder oder Videos zu verändern. Die Grenze zwischen echt und fake verschwimmt, das wurde bei dieser Recherche besonders deutlich.
Unsere Ergebnisse haben wir mittlerweile hier veröffentlicht. Doch unsere Arbeit ist noch nicht abgeschlossen. Seither haben wir neue Profile entdeckt, die wohl dieselben Methoden nutzen und fragen uns weiterhin: Wer steckt dahinter?
Sind euch solche Profile auch schon begegnet oder habt ihr Hinweise für uns? Ich freue mich über eine Nachricht!
Liebe Grüße
Gabriele Scherndl von CORRECTIV.Faktencheck
Lese- und Schautipps
Mehr Gas, weniger Tempo: Ein Jahr Klimapolitik der Regierung
Ein Jahr Schwarz-Rot: Die Bundesregierung verspricht Klimaschutz – und subventioniert gleichzeitig Gas, drosselt erneuerbare Energien und verteuert das Deutschlandticket. Ein Überblick über die wichtigsten Entscheidungen.
correctiv.org
Wal „Timmy“: Tiktok-Profil wirbt mit Fake-Dokumenten für Spenden
Auf Tiktok sammelt ein Profil seit Anfang April Spenden, um den gestrandeten Buckelwal „Timmy“ zu retten. Es nutzt dafür Dokumente, die offenbar mit KI generiert wurden. Die Regierung in Mecklenburg-Vorpommern warnte bereits vor der Fake-Kampagne. Digitale Spuren deuten auf eine Person aus Wuppertal.
correctiv.org
EU will härter gegen sexualisierte Deepfakes vorgehen
Pornographische Deepfakes missbrauchen die Identität von Frauen und lassen sie in pornografischen Filmen ohne ihr Einverständnis erscheinen. Die EU will jetzt Anwendungen zur Erstellung von solchen Deepfakes verbieten.
tagesschau.de