„Social Bots gefährden die Demokratie“. Schlagzeilen wie diese lesen wir seit dem Brexit und der Wahl Donald Trumps zum US-Präsidenten häufig. Die Sorge: Computerprogramme, also automatisierte Accounts bei Twitter und anderen Plattformen, könnten die öffentliche Meinung beeinflussen und Fake News und Verschwörungstheorien verbreiten.
Auch bei den Berichten über Elon Musks Twitter-Kauf ist momentan immer wieder die Rede von den bösen Bots. „Twitter-Deal kann ohne Daten zu Bot-Accounts nicht weitergehen“, titelt das „Handelsblatt“. Dabei habe der Milliardär beim Wert der Tesla-Aktie ja selbst von der Stimmungsmache der Bots profitiert, berichtet das „Manager Magazin“.
Der Medieninformatiker Florian Gallwitz hält das alles für Unsinn. Social Bots seien selbst eine Verschwörungstheorie, die leider auch große Medien immer wieder verbreiten. Er kritisiert, dass das „Phänomen“ Bots kaum hinterfragt werde. „Wenn ich als Journalist mit so einer Story konfrontiert wäre, würde ich sofort sagen, zeigt mir doch mal ein oder zwei Bots.“
Seit mehr als drei Jahren ist Gallwitz an der Technischen Hochschule Nürnberg nach eigenen Angaben auf der Suche nach einem „echten“ Social Bot. Fündig wurde er bislang nicht, sagt er. Von den Kriterien anderer Wissenschaftler, die meinen Bots zu erkennen, hält er nichts. Etwa wenn Accounts als Bots bezeichnet werden, nur weil sie mehr als 50 Tweets am Tag absetzen. Auch den „Botometer“ der Indiana University, der Bots mithilfe maschinellen Lernens erkennen will, basiere auf unbrauchbaren Daten.
Werden Bots also einfach nur mit Internet-Trollen verwechselt? Und warum ist das Thema so verlockend für viele Medien? Darüber spricht Holger Klein diese Woche mit Florian Gallwitz in unserem Podcast. Das Gespräch hören Sie hier:
(Sie können den Podcast auch über die Plattform oder App Ihrer Wahl hören. Hier ist der Feed.)
Florian Gallwitz ist Professor für Medieninformatik an der Technischen Hochschule Nürnberg. Seine fachlichen Schwerpunkte sind Mustererkennung, Bildverarbeitung, Spracherkennung und Deep Learning. Er studierte in Erlangen Informatik und promovierte dort 2002 über automatische Spracherkennung.
Also den Zynismus, dass Journalisten gerne Twitter schlecht machen wollen und deshalb gerne die Social-Bot-Märchen glauben, würde ich dann doch nicht unterschreiben.
Bleiben wir doch einfach dabei, dass viele Menschen (sowohl unter den programmierfähigen wie -unfähigen) im Allgemeinen sehr anfällig sind, Computeralgorithmen für Wunderwaffen zu halten, die praktisch alles können.
Es ist zugegeben aber intuitiv auch schwer zu verstehen, dass menschliche Unterhaltung für einen Computer ein viel komplexeres und schwierigeres Unterfangen ist, als Schach auf Großmeisterniveau zu spielen.
#1
Mehrere Ebenen of „weird“ lauern da.
Abhängig davon, wie man das Verb „verstehen“ definiert, unterscheidet sich der Weg zum letztlich gleichen Ergebnis. Wenn wir nur das dem Verstehen zurechnen, was in unseren „bewußten“ Gedanken auftaucht ( also nix mit Bauchgefühl, Unterbewußtsein oder wie man es bevorzugt nennen möchte ), dann gibt es kein „intuitives Verstehen“.
Wer dagegen all das dem Verstehen zurechnet, womit mensch sinnvoll arbeiten kann ( also Auto fahren, ohne zu wissen, wie ein Motor im einzelnen funktioniert bspw. ), der läuft auch Gefahr, sein „Verstehen“ zu überschätzen.
Angefangen damit, dass wir die Intuition ( ähnlich wie die Intelligenz interessanterweise ) für rel. statisch halten, so dass die sich maximal quantitativ ändert, meistens mit dem Alter, aber niemals „inhaltlich“ („wesen“tlich?).
Tatsächlich kann man Intuition, so wie die Intelligenz trainieren.
Die so hoch gelobte „intuitive Bedienbarkeit“ von Apple Produkten gilt idR. nicht für alle Generationen gleichermaßen. Multifunktionsknöpfe sind eigentlich das Gegenteil von intuitiv, wurden aber von trainierten SMS Schreibern der Nokia Generation gleichermaßen intuitiv und in atemberaubender Geschwindigkeit bedient. Von den Playstation Pads gar nicht zu reden.
Ich habe die Befürchtung, dass die Intuition einfach überschätzt wird. Die eigenen Vorurteile oder „Dünkel“ werden gleich mitgenommen.
Egal ob Professor Gallwitz, nicht unstolz, davon berichtet, dass er gar keine klassischen Medien mehr braucht, oder wenn ein Teil der Medienschaffenden sich unreflektiert an Kreuzzügen gegen die neuen Medien beteiligt.
Angeblich intuitiv weiß der eine wie die anderen sich auf dem besseren Weg. Die eigene Echokammer wird es verstärken und paßt scho.
Wie unterhaltsam, spannend und informativ!
Ganz toll, vielen Dank!!
#2
Danke für die Ausführungen. Wenn ich das korrekt dechiffriere, ziehe ich damit die Schlussfolgerung, dass ich besser hätte schreiben sollen „für einen Laien schwer zu verstehen“.
Seitdem ich erfahren habe, dass Algorithmen ihre eigenen Vorurteile bilden, bin ich gleichermaßen beeindruckt, wie menschenähnlich die Dinger schon sind, andererseits genervt von ihrer daraus resultierenden Nutzlosigkeit.
Kann es sein, dass es hier keinen Konsens gibt, was genau mit „Bot“ gemeint sein soll?
Ein Programm, das auf bestimmte Schlüsselwörter reagiert, Likes verteilt, Tweets retweetet und sonstwie Statistiken beeinflusst?
Oder ein Programm, das tatsächlich Dialoge und Diskussionen in einer Weise führen kann, die zumindest kurzfristig den Turing-Test besteht?
Ersteres halte ich für deutlich einfacher zu programmieren, auch wenn das natürlich keine Aussage über die Häufigkeit und den realen Einfluss ist.
#4 Werauchimmer bewahre.
Ich wollte mich nur mal über das Wort „Intuition“ auslassen, weil es, dem Wort Bot oder auch dem Begriff KI nicht unähnlich, inflationär häufig zu lesen ist, aber dabei anscheinend komplett unscharf bleibt.
Was natürlich dazu führt, dass 2 Menschen etwas komplett gegensätzliches aussagen-, und dennoch beide recht haben können.
Ich stelle mir in letzter Zeit auch oft die Frage, wie ein sinnvoller Unterricht in Medienkompetenz eigentlich auszusehen hat. Es herrscht ja weitesgehend Konsens darüber, das dieser Unterricht dringend verpflichtend erteilt werden sollte.
Ich wollte Sie also nicht korrigieren, nur auf Probleme hinweisen, die ich mit den Begrifflichkeiten habe ( wobei ich annehme, dass das vielen so geht ).
#5
Es gibt da ganz sicher keinen Konsens, was exakt ein „bot“ ist. Die gesamte IT Branche leidet unter wildwuchernden Uneindeutigkeiten.
Schon aus dem Grund, weil jedes neue „Buzzword“ Geschäfte verspricht.
Es müsste eigentlich jedesmal dazu eine RFC geschrieben werden, wie es bei Internetprotokollen der Fall ist. Oder jede Begrifflichkeit bliebe so lange „verboten“, bis es eine verbindliche Definition des NIST oder einer vergleichbaren Instituition ( BSI/ ISO ) gibt.
Nachdem das Wort „Cloud“ durch Amazon eingeführt wurde, war plötzlich alles irgendwie „cloud“, jedes popelige Netzlaufwerk, jede interaktive Webseite mit webdav oder whatever. Erst das US NIST lieferte dann erste verbindliche Definitionen, deren Verbreitung dann langsam diesen Wildwuchs beseitigte. Es wurde einfach zu peinlich, eine simple Dropbox „die cloud“ zu nennen.
Als Teil der Boomer Generation waren bots für mich Star Wars oder Star Treck getriggert kleine Mini-Roboter, die alle Fehler am Raumschiff in Schwärmen sofort beseitigten.
Es gibt bis heute keine verbindliche Definition, was ein bot ist. Die akademische Kybernetik legt da sicher ganz andere Ansprüche an, als praktizierende Webentwickler, die eine halbwegs interaktive FAQ Funktion programmieren. Man kann durch geschickte Vorauswahl Verblüffung hervorrufen, aber letztlich ist das eine recht 1-dimensionale Geschichte.
Aber der Mensch läßt sich anscheinend gerne täuschen. Ein Praxisbeispiel wären die gängigen Fehlermeldungen, die bei Fehlfunktionen eines Programmes erscheinen. Ich warne unsere Azubis immer, diese zu wörtlich zu nehmen.
Dann ist die rhetorische Frage in der Überschrift aber sinnlos. Wenn es keine Einigkeit darüber gibt, was als ein „social bot“ gelten soll und was nicht, sollte man erstmal das klären.
„Fliegende Objekte, die unbekannt sind“, gibt es ja auch. Das sind dann bloß keine UFOs im Sinne von „außerirdische Raumschiffe“.
#8
Nun, es ging um social bots und natürlich gibt es die.
https://www.mittwald.de/blog/sonstige/online-marketing/social-media/social-bots
Es kann also nur sein, dass der Professor Maßstäbe an die Definition der bots anlegt, die, sagen wir mal, speziell sind.
Der chat-bot von Klarmobil aus dem Beispiel von Mittwald oben, oder auch @TheNiceBot @tinycarebot auf Twitter wären Beispiele.
Es gibt keinen Konsens, was ein „bot“ ist, aber was ein „social bot“ ist, schon?
#10
Es gibt keinen Konsens, was ein bot nicht ist, würde ich für eine treffende Situationsbeschreibung halten. Was ist der Minimalanspruch an ein Programm, bis es bot genannt werden kann?
Es gibt auch andere bots.
Solange wie es Suchmaschinen gibt, gibt es web-crawler. Ja es gibt sogar extra dafür den Robots Exclusion Standard.
https://de.wikipedia.org/wiki/Robots_Exclusion_Standard
Und natürlich gibt es die gekaperten bot-Netze, die man im Dark-Web stundenweise mieten kann, um Feinde zu ärgern etc..
Ich würde den guten Professor für etwas exotisch in seiner Meinung halten. Aber grundsätzlich gibt es das Definitionsproblem, was dann eben auffällt, wenn man quantifizieren will, wie viele Nutzer eines social-media Dienstes wie auch immer „real“ sind.
Man muss aber auch sagen, dass gerade in Deutschland die besten IT Experten nicht unbedingt in der Lehre arbeiten.
Lohnt sich nicht ausreichend.
@Frank Gemein: Mit Definitionsfragen kann man jedes Thema zerreden. Will man das nicht, scheint es mir durchaus brauchbare Begriffsbestimmungen zu geben, vielleicht: Ein social bot ist eine Software, die automatisiert (i.w.S.) politische Botschaften in sozialen Netzwerken sendet. (Wenn Sie eine besser Definition haben, bitte, gern.) Auf jeden Fall lässt sich ganz gut definieren, was ein bot nicht ist: Ein Mensch, der eine Botschaft tippt oder einspricht und dann sendet, ist kein bot.
Ob es solche social bots nun gibt – und falls ja, wie oft und mit welchen Auswirkungen – weiß ich nicht. Wenn Sie da ein bisschen mehr Ahnung haben, würde ich mich freuen, wenn Sie gegen das, was Gallwitz sagt, argumentieren würden. (Ein bisschen ad hominem finde ich ja ganz ok, aber es sollte schon mit Argumenten unterfüttert sein.) Der Link in #9 wiederholt ja eigentlich nur das, was Gallwitz bestreitet…
Sofern die Bedeutung von social bots tatsächlich beständig überschätzt wird, vermute ich mal: Das kommt daher, dass sich viele Menschen nicht vorstellen können oder wollen, dass es so viele* echte Menschen gibt, die einen Gutteil ihrer Zeit damit verbringen, strunzdummes oder/und bösartiges Zeug in sozialen Medien zu verbreiten.
* Obwohl deren Zahl bzw. Bevölkerungsanteil bekanntlich auch oft überschätzt wird.
#12 Es sind 3 sog. social-bots oben von mir erwähnt worden.
Ich wüßte nicht, dass Gallwitz in dem Beitrag eine konkrete Definition lieferte, was er denn nun genau als bot durchgehen lassen würde.
Da könnte man also fast sagen, dass „ad hominem“ Attacken gegen seine Wissenschaftskollegen ein Teil seiner Darstellung sind?
Warum social bots dringend „politische Botschaften“ senden müssen, erschliesst sich mir leider gar nicht.
Aber lassen wir das:
Dem BSI kann man Neutralität und Reputation bei diesem Thema unterstellen (auch wenn das, wie wir am Beispiel Oxford University sehen können, kein Garant ist).
https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Informationen-und-Empfehlungen/Onlinekommunikation/Soziale-Netzwerke/Sichere-Verwendung/Exkurs-bots/social-bots_node.html
Noch interessanter wäre aber vielleicht der Vortrag des Datenjournalisten Michael Kreil beim Media Kongress des CCC 2017.
(etwa ab Minute 25 werden konkret social bots besprochen )
https://media.ccc.de/v/34c3-9268-social_bots_fake_news_und_filterblasen#t=1384
Er beschreibt ähnliches wie hier zu lesen, bleibt aber nicht ganz so unbestimmt ( wie es der Rahmen eben zuläßt ).
Die reine Existenz von social bots läßt sich nach meinem technischen Verständnis nur über Definitionsanpassung wegdiskutieren, was für mich ebenso wenig Sinn macht, wie die gängigen Übertreibungen der Gegenseite, was alles bots sein sollen.
Zu dem erneuten social-media flamewar am Schluss des Kommentars:
Was viele und insbesondere leider auch Medienmenschen sich „nicht vorstellen“ können, ist die blanke Masse an Menschen, die heute in der Lage sind, an einem öffentlichen Diskurs teilzunehmen und eine komplett neue Art von Reichweite zu haben.
Ich war schon vor der Erfindung von Twitter überzeugt davon, dass echte Menschen „einen Gutteil ihrer Zeit damit verbringen, strunzdummes oder/und bösartiges Zeug […] verbreiten“. Nur hatte jeder für sich wenig Reichweite, was das strunzdumme Zeug in seiner Vielfalt stark einschränkte.
Stammtische sind halt traditionsgesteuert.
Ich persönlich finde Twitter wesentlich besser, als 90% aller Kommentarbereiche ( Foren ) der großen Onlinemedien, die schon von einer kleinen und manischen Blase gekapert sind.
Aber das ist auch ein anderes Thema.
Meine Antwort enthielt 2 Links und wartet deshalb auf Bearbeitung.
Vorab also:
Die Verteidigung des Professors ist ja aller Ehren wert, aber die Definition
„Ein social bot ist eine Software, die automatisiert (i.w.S.) politische Botschaften in sozialen Netzwerken sendet“
scheint mir doch arg willkürlich gewählt. Das „social“ bezieht sich auf das Medium, wo der bot eingesetzt wird, nicht auf die spezielle Funktion.
Wenn man aber das Attribut „politisch“ wegläßt, sagt Professor Gallwitz im Beitrag selber, dass es social bots gibt.
Insofern könnten wir das ganze auch einfach abkürzen und auf „Betteridges Gesetz der Überschriften“ verweisen.
Ok, dann gibt es Programme, von denen man zumindest einige als „Bots“ bezeichenen kann, einige von diesen wiederum arbeiten in sozialen Netzwerken und man kann sie daher als „Social Bots“ bezeichnen.
Also ist die Frage beantwortet: „Es kann nicht sein, dass es ’social bots‘ nicht gibt, weil sie empirisch nachweisbar sind.“
Ob diese „Social Bots“ dann zahlreich oder wirkmächtig genug sind, um die öffentliche Meinung, Wahlen oder auch Börsenkurse zu beeinflussen (oder überhaupt dafür gedacht und geeignet), wäre die eigentliche Frage, aber nunja.