Warnung: In diesem Text geht es um antisemitische und gewaltverherrlichende Inhalte in Sozialen Medien.

„Hey @tiktok_de, wir müssen reden!“, forderte der Zentralrat der Juden am 30. Oktober bei X (früher Twitter). Anlass war ein auf Tiktok veröffentlichter Dialog zwischen Arafat Abou-Chaker, Anführer der Berliner Abou-Chaker-Familie, und dem salafistischen Prediger Pierre M Vogel. Abou-Chaker, Sohn von Palästinensern, sagt darin über Israel: „Dieses zionistische Regime, das ist vergleichbar mit Adolf Hitler.“ Er führt aus, dass Hitler besser als Netanjahu sei, weil er die Juden zumindest sofort umgebracht hätte. Der Zentralrat der Juden forderte die Polizei auf, Ermittlungen wegen Volksverhetzung einzuleiten. Auf Nachfrage des „Tagesspiegels“ teilte die Polizei mit, dass der Staatsschutz die Aussagen im Video nun prüfe.

Hey @tiktok_de, wir müssen reden!
Etliche Jugendliche werden tagtäglich auf eurer Plattform mit solchen Livestreams ideologisch vergiftet. „Für mich ist Adolf Hitler besser als Netanjahu“ erfüllt den Tatbestand der Volksverhetzung. @polizeiberlin, bitte übernehmen Sie! pic.twitter.com/E2QCW7Qsc3

— Zentralrat der Juden in Deutschland (@ZentralratJuden) October 30, 2023

Die ideologische Vergiftung ergießt sich seit dem 7. Oktober, dem Tag, an dem die Hamas Israel überfiel, mit erschreckendem Erfolg durch die Timelines aller sozialen Netzwerke. Die radikalisierenden Botschaften der Hamas und der immer unverhohlenere Antisemitismus werden zu einem Bestandteil täglicher Medienrezeption, insbesondere bei jungen Menschen. Sie informieren sich politisch überdurchschnittlich viel über Tiktok.

Der vergangene Monat hat auch sichtbar gemacht hat, mit welcher rasanten Geschwindigkeit diese terroristischen und antisemitischen Erzählungen Verbreitung finden. In der Rhetorik gibt es das „Godwin’s Law“. Das Gesetz, das ähnlich wie „Murphy’s Law“ oft nicht ganz ernst gemeint ist, besagt, dass mit Fortschreiten einer Diskussion ein Nazi-Vergleich wahrscheinlicher wird. Auf Tiktok und X müsste man dieses Gesetz nun weiterdenken als Godwins Algorithmus. Oft sieht man vor lauter Nazi-Vergleichen den israelbezogenen Antisemitismus gar nicht mehr.

Tiktok und X belegen seit der Attacke der Hamas auf Israel, wie die Netzwerke an ihre Grenzen kommen – von der Zersetzung des Diskurses ganz zu schweigen. Was die Plattformen einst auszeichnete –unmittelbare Kommunikation, zeitnaher Informationsaustausch und eine Vernetzung in Krisen- und Kriegssituationen – wurde durch Desinteresse und Deregulierung zu einem manipulativen Moloch aus Fehlinformation, Desinformation und Propaganda. Moloch deshalb, weil es einerseits ekelhaft menschenfeindliche Äußerungen gibt, wie beispielsweise die einer Pariser Influencerin, die auf Tiktok fragte, welche Gewürze und Beilagen es zum Baby gab, das Hamas-Terroristen in einem Backofen verbrannt haben sollen. Und andererseits, weil so viele gefälschte oder dekontextualisierte Bilder und Videos verbreitet werden, dass ​​Faktenchecker und Moderationsteams der Plattformen kaum hinterherkommen. Tiktok ist wie ein unersättlicher Schlund für Unwahrheiten.

Auf X ist es kaum besser: „Newsguard“, ein Dienst, der die Vertrauenswürdigkeit von Seiten bewertet, berichtet, dass Accounts mit blauem Haken, also bezahlte Accounts, 74 Prozent der am häufigsten verbreiteten falschen oder unbelegten Behauptungen über Israel-Hamas-Krieg produzieren. Der Dienst betrachtete hierfür die Beiträge mit den meisten Online-Interaktionen (Likes, Reposts, Replies und Bookmarks), die wiederum mindestens eine von zehn der prominentesten Falschbehauptungen über den Krieg verbreiteten. Zu diesen Behauptungen zählen zum Beispiel: Die Ukraine verkaufe Waffen an die Hamas. Oder: Der Hamas-Terroranschlag sei eine False-Flag-Aktion gewesen, die eigentlich von Israel oder dem Westen durchgeführt wurde. Die Liste erstellte der Dienst anhand seiner Misinformation-Datenbank, die virale Falschbehauptungen widerlegt. Die analysierten Beiträge wurden in nur einer Woche weltweit mehr als 100 Millionen Mal angeschaut.

Bilder stammten aus einem Computerspiel

Neben Desinformation (mit Täuschungsabsicht) und Fehlinformation (ohne Täuschungsabsicht) in Textform, beschäftigen vor allem gefälschte Bilder und aus dem Kontext gerissene Videos die Open-Source-Intelligence-Faktenprüfer (OSINT) und Moderatoren auf den Plattformen. Insbesondere auf Tiktok, das mit Videos der Hamas regelrecht überschwemmt wurde.

Ein Video, das angeblich einen Hamas-Soldaten zeigt, der einen israelischen Hubschrauber abschießt, stammte in Wahrheit aus dem Simulations-Videospiel „Arma 3“, wie „Correctiv“ berichtet. Ein anderes Video, das massiv als Pro-Hamas-Propaganda verwendet wurde, zeigt einen von Feuer rot erleuchteten Nachthimmel. Es sieht aus, als würden einige Häuser brennen – angeblich israelische Luftangriffe auf Gaza. In Wirklichkeit zeigen die Bilder aber ein Feuerwerk nach einem Fußballspiel in Algerien. Es war mit mehr als 60 Millionen Aufrufen das meist gesehene Tiktok-Video unter dem Suchbegriff „Gaza“.

Auch durch KI generierte Bilder sind selbstverständlicher Bestandteil der Desinformationsmaschinerie, wie zum Beispiel dieses künstlich erzeugte, häufig geteilte Bild eines Vaters und seiner fünf Kinder. Immerhin schreibt Instagram folgende Warnung dazu: „Verfälschtes Foto. Laut unabhängigen Faktenprüfern könnte dieses Foto irreführend sein.“ Wobei „verfälscht“ und „irreführend“ ja nicht dasselbe bedeuten wie künstlich erzeugt oder Fake.

Accounts geben sich als Journalisten, Redaktionen oder Nachrichtenagenturen aus und nutzen Bilder und Videos aus Krisen- und Kriegsgebieten wie zum Beispiel Syrien. Angebliche Fallschirmspringer der Hamas, die über Israel abspringen, sind Militärschüler in Kairo.

That’s Military Academy in Al Matar, El Nozha in Cairo, Egypt. NOT Israel. https://t.co/6U8vQWlc71 pic.twitter.com/hUdNg3OZDe

— Mohammed Zubair (@zoo_bear) October 8, 2023

Doch auch wenn Faktenchecker das ein oder andere falsche Video aufdecken und richtig einordnen: es gibt viel zu viele davon. Und die Hamas nutzt dieses Chaos der Desinformation. Sie profitiert von der mangelnden Inhaltsmoderation und flutet X und Tiktok mit ihrer terroristischen Propaganda.

Gerade jetzt zeigt sich Elon Musks Scheitern

Der Amerikaner Mike Rothschild ist Experte für Verschwörungstheorien und untersucht virale Unwahrheiten in Sozialen Medien. Beim Bloomberg sagte er:

„Die Nachricht über den Angriff auf Israel war der erste echte Test von Elon Musks Version von Twitter, und er ist spektakulär gescheitert.“

Dazu muss man wissen, dass Musk mit Beginn seiner Regentschaft viele Mitarbeiter:innen entließ, die für die Moderation auf der Plattform verantwortlich waren. Er sparte den Trust and Safety Council ein, der, wie der Name schon ahnen lässt, für die Vertrauenswürdigkeit und Sicherheit auf der Plattform zuständig war. Zudem wurde das Verifizierungssystem im Grunde ersetzt durch ein Verkaufssystem für blaue Haken, was die Überprüfung der Absenderglaubwürdigkeit unmöglich bzw. egal machte.

X ist durch Musk zu einem Hafen für all die Inhalte geworden, die auf anderen Plattformen entfernt wurden. Die Plattform ist zu sehr großen Teilen nichts anderes mehr als eine Desinformations-Deponie.

Die chinesische Plattform Tiktok indes wurde zu einer Brutstätte für Fehl- und Desinformation, vor allem aufgrund ihres Designs. Auch wenn Tiktok offiziell jede Form terroristischer Inhalte verurteilt und um Löschung bemüht ist, werden Extremisten von den digitalen Hebeln dabei unterstützt, ihre Propaganda reichweitenstark zu verbreiten. Das Radikalisierungspotenzial entfaltet sich durch den Algorithmus, der stets daran arbeitet, einem Nutzenden more of the same anzubieten. Das bedeutet: Schaut man ein paar Videos zu einem bestimmten Thema an, bekommt man ab dann einfach immer weitere, ähnliche Inhalte präsentiert. Tiktok ist eine Echokammer mit der Form eines nach unten nie endenden Kaninchenbaus.

Das muss uns nicht nur deshalb alarmieren, weil jeder vierte Deutsche Tiktok nutzt. Sondern auch, weil die Gefahr besteht, dass insbesondere Menschen, die Tiktok als favorisierte Nachrichtenquelle nutzen, meist junge Leute, ihr Bild der Wirklichkeit auf Grundlage dieser manipulativ kuratierten Eindrücke konstruieren.

Jeff Morris Jr., Autor und ehemaliger Manager bei der Dating-App Tinder, schreibt in einem Thread bei X, wie schockiert er war über die große Unterstützung der Hamas insbesondere durch amerikanische Jugendliche. Viele von ihnen halten die Gewalt der Terrororganisation laut Umfragen für nachvollziehbar. Morris schreibt, er sei überzeugt davon, dass der Tiktok-Algorithmus der Grund dafür sei, „dass wir den Informationskrieg bei High-School- und College-Studenten verlieren.“

Da die Propaganda-Videos der Hamas so erfolgreich auf Tiktok laufen, ziehen die Contenhersteller anderer Plattformen nach. Wie zum Beispiel Youtube, wo Influencer mit dem arbeiten, was auf Tiktok am meisten Engagement erzeugt. Und das ist auch die Verbreitung von antisemitischen und terroristischen Inhalten.

Seit mehreren Monaten untersucht die Soziologin Anna-Katharina Meßmer mit ihrem Team die Kurzvideo-Plattform und dokumentiert, dass sich mindestens ein Teil von Tiktoks Suchvorschlägen nicht aus dem Verhalten der Nutzer:innen ergibt, sondern von Tiktoks Algorithmus selbst vorgeschlagen wird. Im Deutschlandfunk erklärte Meßmer:

„Seit der Eskalation in Nahost sind Tiktoks Suchvorschläge dominiert von themenverwandten Empfehlungen. (…) Klickt man auf eine dieser empfohlenen Textzeilen, wird man zu einer Ergebnisseite weitergeleitet. Dort findet man sich wieder in einer wilden Melange aus Nachrichten, Propaganda, Desinformationen, Meinungen, Klickbait, Werbung und Videos von Trittbrettfahrern. All das in zahlreichen unterschiedlichen Sprachen, ohne jeden Kontext und mit zum Teil verstörenden Inhalten.“

Was Kriegsvideos und Tanzvideos gemeinsam haben

Das könnte erklären, warum manche Menschen – auch junge, linke – die Gewalt der Hamas nachvollziehbar finden. Man darf bei Tiktok nicht vergessen: Das, was an den Kurzvideos so süchtig macht und zum Teilen animiert, sind alles auch Eigenschaften, die für Tiktok-Videos gelten, die mit propagandistischer Intention veröffentlicht werden. Ein emotionalisierendes Kriegsvideo funktioniert für die Rezipient:innen genauso wie ein Tanzvideo. Aufgrund der parasozialen Beziehungen, die Nutzer:innen mit Tiktokern haben, halten sie diese oft für glaubwürdiger als etablierte Medien. Die Inhalte zielen auf die Gefühle der Nutzer ab, die glauben, dass sie sich gerade politisch informieren – obwohl sie stattdessen manipuliert werden.

Jérôme Bourdon, Historiker Autor des Buches „Die unmögliche Erzählung. Der israelisch-palästinensische Konflikt und die Medien“ sagte zu den Angriffen auf Israel, bei denen viele Hamas-Kämpfer ihre gewalttätigen Aktionen gefilmt haben: „Was hier neu ist, ist die Intensität der Flut, die seit dem 7. Oktober sehr schnell zu einer Überflutung mit ziemlich unglaublichen Bildern in den sozialen Netzwerken geführt hat, sodass alle ‚klassischen‘ Medien hinterher waren. Dies konnte zu einem Gefühl der Panik und des Unverständnisses führen, auch durch die mögliche Präsenz von Fakes.“ Die Horrorbilder dominieren. Und das ist genau das, was die Hamas will.

Am 1. November hat eine Gruppe Prominenter einen offenen Brief an Tiktok veröffentlicht. Unterzeichnet haben unter anderem die Schauspieler:innen Amy Schumer, Michael Rappaport und Jason Biggs. Sie fordern, die Plattform einerseits sicherer zu gestalten für jüdische Tiktoker, die täglich Todesdrohungen und Belästigung erfahren. Andererseits solle die Plattform ihrer Verantwortung nachkommen und strengere Sicherheitsstandards etablieren, um die Verbreitung von Antisemitismus zu verhindern. Denn die Radikalisierung online kann lebensbedrohliche Konsequenzen für jüdischen Menschen haben.

Der  Kampf gegen Propaganda und Antisemitismus wird in den Sozialen Medien gerade spektakulär verloren. Aber immerhin hat die EU-Kommission Tiktok wegen der Verbreitung von Falschinformationen verwarnt.

Tiktok, wir müssen wirklich mal reden.