Bild auf Tiktok von Grenze zwischen Italien und Slowenien ist KI-generiert

Am 8. Juni veröffentlichte der Account „europeforeverrr“ ein Bild auf Tiktok, das die Grenze zwischen Italien und Slowenien zeigen soll. Zu sehen ist eine Straße in der Mitte des Bildes, die von einer Art Mauer geteilt wird. Auf der linken Seite, beschriftet mit „Italy“, stehen alte, heruntergekommen aussehende Gebäude, die Straße sieht marode aus. Auf der rechten Seite, beschriftet mit „Slovenia“, sehen die Gebäude neu und gut gepflegt aus. Der Ersteller kommentiert den Vergleich mit „Brutal“. Der Beitrag wurde mehr als drei Millionen mal angesehen. Das Bild ist aber KI-generiert, es zeigt nicht die tatsächliche Grenze zwischen den Ländern.

Bei genauerer Betrachtung fallen mehrere Punkte auf, die das Bild als generiert entlarven. Zunächst ein Logik-Fehler: Sowohl Italien als auch Slowenien gehören zum Schengen-Raum, die Grenzübergänge sind also offen. Mauern zwischen den Ländern, wie im Bild gezeigt, gibt es nicht. Das Grenzschild, auf dem „Republika Slovenija“ steht, sieht außerdem anders aus, als an Grenzübergängen, die auf Google Earth zu sehen sind.

Kartenmaterial zeigt, dass die Grenze zwischen den Ländern nur an einer Stelle einen Ort teilt. Dort, in Gorizia/Nova Gorica, passt die Architektur der Stadt aber nicht zum Bild im Tiktok-Beitrag. Gorizia und Nova Gorica waren 2025 Kulturhauptstädte Europas, Medienberichte zu diesem Anlass zeigen eine Stadt, die anders aussieht als im Tiktok-Beitrag. Auf die Nutzung von KI weisen außerdem im Bild selbst einige Unstimmigkeiten hin. Ein Auto auf der italienischen Seite scheint beispielsweise zwei Kennzeichen zu haben. Die weißen Streifen der Spurmarkierung auf der slowenischen Seite sind nicht gleichmäßig im Abstand. Auf einem roten Schild am linken Bildrand stehen Pseudo-Buchstaben und im hinteren Teil des Bildes scheint die Straße in eine Hausfassade überzugehen.

Die aktuelle Generation von KI-Bildgeneratoren, etwa von Google oder OpenAI, hinterlegt in ihren Bildern sogenannte Digitale Wasserzeichen. Diese Markierungen, nicht erkennbar für die Betrachtenden, können von den entsprechenden KI-Modellen ausgelesen werden und identifizieren Bilder, die mithilfe von KI erstellt oder bearbeitet wurden. Das Verfahren nennt man auch „Synth-ID“. OpenAI konnte ein solches Wasserzeichen auf dem Bild feststellen. Es wurde also offenbar mit KI erstellt. Im Tiktok-Beitrag ist es nicht als solches gekennzeichnet, obwohl die Regeln der Plattform das fordern. „Europeforeverrr“ reagierte auf eine Nachfrage von uns dazu nicht. Einige Tage nach der Veröffentlichung auf Tiktok wurde das Bild auch auf der Plattform X verbreitet, dort ist es mit einer Community Note und einem Hinweis als KI-Inhalt markiert.

Der Tiktok-Account scheint mit der Gegenüberstellung Stimmung gegen arabischsprachige Migrantinnen und Migranten machen zu wollen, was insbesondere durch die Schilder auf der angeblich italienischen Seite des Bildes – „Morocco Market“ und „Bazar“ – deutlich wird. Dieses Narrativ bediente der Verbreiter in einem weiteren Beitrag Ende März mit Videos aus Frankfurt am Main sowie Dresden, versehen mit der Aufschrift „78 % German“ und „98 % German“. In Frankfurt folgt die Kamera einer Frau mit Kopftuch, es sind Bauzäune, Graffiti und eine vermutlich bettelnde Person zu sehen. In Dresden dagegen zeigt die Kamera einen Straßenzug direkt am touristischen Residenzschloss in der historischen Innenstadt. Die Prozentangaben im Beitrag sind falsch. Der Ausländeranteil in den ostdeutschen Bundesländern ohne Berlin beträgt etwa 7,6 Prozent der Gesamtbevölkerung, in Westdeutschland liegt er bei etwa 15,7 Prozent, wie aus Zahlen des Deutschlandatlases hervorgeht (Stand: 2024). Entsprechend liegt der Anteil von Personen mit deutschem Pass bei 92,4 Prozent im Osten und bei 84,3 Prozent im Westen.