Wie russische Bots fast unbemerkt im deutschen Wahlkampf mitmischten

Über den Wahlkampf las man zuletzt oft, wie langweilig er sei – faktisch nicht vorhanden. Das mag für Plakate und TV-Formate gelten, aber in den Untiefen der sozialen Netzwerke, allen voran Facebook, herrscht schon lange Krieg: Blut, Tod, Vergewaltigung, Untergang – das ist der Stoff, aus dem rechte News Feeds gemacht sind und der Wähler dazu bringen soll, am 24. September ihr Kreuz bei der AfD zu setzen.

Wer genau hinsah, konnte vergangenen Sonntag aber etwas Interessantes beobachten. Zwei Hashtags machten sich auf Twitter verdächtig: #toxischenarrative und #nichtmeinspiegel. Der folgende Tweetdeck-Mitschnitt von Fearless Democracy zeigt, wie unter den beiden Hashtags in kürzester Abfolge und nahezu synchron identische Inhalte einliefen – ein Indiz für automatisierte Kommunikation.

Drei Tage zuvor, am Donnerstag, hatte die Amadeu-Antonio-Stiftung (AAS) eine neue Studie vorgestellt. Der Titel: „Toxische Narrative”. Von April 2016 bis Februar 2017 hatte die Stiftung 1063 Beiträge von zehn relevanten Social Media-Akteuren aus dem rechtspopulistischen Spektrum analysiert und dabei sieben Hauptnarrative identifiziert, die beständig eingesetzt werden, um das Meinungsklima im digitalen Raum zu vergiften.

Noch am selben Tag tauchte der Hashtag erstmals bei Twitter auf:

Nur um etwa einen Tag später von anderer Seite aufgegriffen zu werden.

Den „Spiegel“ im Visier

Am selben Tag erschien der neue Spiegel, der sich in der Geschichte „Aufmarsch der Trolle” einem ähnlichen Thema widmete, wie die Amadeu-Antonio-Stiftung. Die Trolle, so scheint es, fühlten sich dadurch erst richtig motiviert. Sie begannen, Twitter mit teils rechtsradikalen Memes zu fluten. Darunter immer wieder die Hashtags #toxischenarrative und #nichtmeinspiegel.

Der lustige Frosch, der da über die Memes hüpft, ist ein alter Bekannter. Er hört auf den Namen Pepe und wurde von der US-amerikanischen Anti Defamation League im September 2016 zum Hasssymbol erklärt, nachdem die „Alt-Right“-Bewegung die ursprünglich harmlose Figur für ihre Zwecke instrumentalisierte. Sein Schöpfer, der Comiczeichner Matt Furie, hatte vergebens versucht, Pepe von den Neuen Rechten zurückzugewinnen, musste kapitulieren und den Frosch zu Grabe tragen. Jetzt mischt er als AfD-blauer Untoter also den Wahlkampf in Deutschland auf.

Doch wer steckt hinter der Aktion? Wird hier tatsächlich versucht, mit Social Bots den Wahlkampf zu manipulieren? Der Kommunikationswissenschaftler und Datenanalyst Luca Hammer hat sich #toxischenarrative und #nichtmeinspiegel genauer angeschaut. Das Ergebnis ist eindeutig: „Das ist das erste Mal, dass ich eine so hohe Beteiligung von automatisierter Kommunikation bei einem deutschsprachigen Thema beobachtet habe.“

Hammer hat bis zum Morgen des 11. September 5888 Tweets mit mindestens einem der beiden Hashtags gezählt. Allein am Sonntag, als man die Aktivitäten mit bloßem Auge erkennen konnte, waren es 968 originäre Tweets und 4320 Retweets. Die folgenden Grafiken von Luca Hammer zeigen, wie die beiden Hashtags zwischen 17 und 19 Uhr durch die Decke gingen.

An der Aktion waren 1557 Accounts beteiligt, die aktivsten 12 davon waren für rund 20 Prozent des Tweetvolumens verantwortlich. Luca Hammer konnte außerdem feststellen, dass 50 Prozent der beteiligten Accounts automatisiert waren.

Die Größe der Kreise sagt dabei nichts über die Menge der Accounts aus, sondern wie nah sie zueinander in Beziehung stehen.

Analysiert nach Spracheinstellungen ergibt sich folgendes Bild:

Gelb steht in diesem Fall für deutsch als Accountsprache, rot für russisch. 80 Prozent der 600 Bot-Accounts „sprechen“ russisch. Ist damit bewiesen, dass Russland sich im Bundestagswahlkampf einmischt? Nein. Fest steht aber, dass hier Aktivitäten eingekauft wurden. Gut die Hälfte der involvierten Accounts war automatisiert. „Aller Wahrscheinlichkeit nach handelt es sich um ein Spamnetzwerk, das jeder von uns für wenige hundert Euro mieten kann”, sagt Hammer.

Wahlkampf macht heut’ Herr Schmidt von nebenan

So zeigt seine Analyse vor allem eines: dass die Vorstellungen, die sich insbesondere Journalisten von konzertierten digitalen Wahlkampfmanipulationen bisher machten, an der Realität vorbeigehen. Es braucht nicht die offizielle Order aus dem Kreml oder dem AfD-Hauptquartier. Herr Schmidt von nebenan kann mit einem Taschengeld das digitale Meinungsklima vergiften.

Pascal Jürgens ist Kommunikations- und Medienforscher am Institut für Publizistik der Universität Mainz. Er beschäftigt sich mit der Frage, wie Technologien wie Suchmaschinen oder Soziale Netzwerke Meinungsbildungsprozesse manipulieren. Zwei Strategien automatisierter Kommunikation mittels Bots oder Skripten seien besonders wirksam, erklärt Jürgens. „Durch die großen Mengen an Inhalten und die Vernetzung untereinander lassen sich zum einen Mehrheitsverhältnisse ändern, was in der Folge Diskussionen zum Umkippen bringen kann. Zum anderen brauchen Menschen aufgrund der Masse an Informationen im Netz Orientierungshilfen, sogenannte Popularitätsindikatoren, um zu finden, was interessant sein könnte. Diese können Bots effektiv beeinflussen.”

So geschehen am Sonntag. #nichtmeinspiegel war zeitweise auf Platz fünf der Trending Topics auf Twitter. Nicht alle der Tweets zu #nichtmeinspiegel und #toxischenarrative gingen von Bots aus. Nachdem die Aktion angeschoben war, veränderten sich die Inhalte sogar qualitativ. Hatte man es zunächst mit wilden Aneinanderreihungen von Hashtags und Memes zu tun, begannen ein bis zwei Tage später Trolle damit, den Begriff „toxische Narrative” der Amadeu-Antonio-Stiftung zu kapern und mit vermeintlich linksvergifteten Erzählungen zu besetzen. Psychosen-Toni zählte zu den besonders Emsigen.

Die große Bot-Attacke, die mancher im Vorfeld der Bundestagswahl erwartet hatte, waren #toxischenarrative und #nichtmeinspiegel nicht. Twitter spielt in Deutschland ohnehin nur eine kleine Rolle. Kommunikationsforscher Pascal Jürgens sieht keinen Grund zur Beunruhigung: „Politische Einstellungen sind sehr stabil.“ Zudem sei die Onlinekommunikation in Deutschland überschaubar, deutlich kleiner als etwa in den USA. Selbst dort wecken erste Studien Zweifel am Einfluss digitaler Manipulationen auf den Ausgang der Präsidentschaftswahl.

„Das Hauptziel solcher Aktionen ist es, Leute anzusprechen, die ohnehin schon in bestimmten Bereichen unterwegs sind”, erklärt Jürgens. „Hier sollen einzelne Kommunikationsräume geflutet und Teilnehmer verdrängt werden.” Die größere Gefahr bestehe darin, dass sich Randgruppen im digitalen Raum so leicht organisieren können. „Da entstehen Mehrheitsgefühle. Ansichten, die schon vorher da waren, werden freimütiger geäußert. In der Folge kommt es zu Tabubrüchen, die nicht oder zu spät sanktioniert werden.” Online Disinhibition Effect nennt das der Fachmann. Die Hemmungen fallen.

Womit wir wieder bei Blut, Tod, Vergewaltigung und Untergang angekommen wären – und den Narrativen, die die AAS identifiziert hat. Positive Gegenerzählungen, sogenannte Counter Narratives, gebe es noch zu wenig, so die Stiftung. „Die öffentliche Gegenreaktion konzentriert sich bis jetzt weitgehend auf die Problematik von Filterblasen, Fake News und strafrechtsrelevantem Hate Speech”, ist in der Studie „Toxische Narrative” zu lesen. „Nicht zuletzt die Diskussion um das Netzwerkdurchsuchungsgesetz (NetzDG) hat die oberflächliche Wahrnehmung des Problems deutlich gemacht.”

Vielleicht sollten wir uns also mehr mit Inhalten als mit Strukturen beschäftigen. Auch Kommunikationsforscher Jürgens sagt: „Ein Gefühl von Mehrheit kann bei Randgruppen nur entstehen, wenn die tatsächliche Mehrheit dazu schweigt.” Neun Tage bleiben noch bis zur Wahl. Am 24. September wird sich zeigen, welche Narrative das Rennen machen.

Mehr zum Thema auch im Blog von Fearless Democracy.

Offenlegung: Fearless Democracy arbeitet gelegentlich mit der Amadeu-Antonio-Stiftung zusammen.