Mehr zum Thema KI
Wo ist der „human in the loop“, wenn man ihn braucht?
Die Nachrichtenseite „Upday“ veröffentlicht KI-generierte Texte, die auf Berichten anderer Medien basieren. Dabei schreibt sie exklusive Recherchen zum Teil ohne Quellenangabe ab und verwendet irreführende Fake-Bilder. Auch wenn Axel Springer beteuert, es werde alles von Menschen überprüft, bleibt der fatale Eindruck: Hier ist wirklich allen alles egal.
Vor kurzem postete der „Tagesschau“-Redakteur Peter Hornung einen LinkedIn-Beitrag, der sehr wütend klang. Er fragte darin, gerichtet an die Nachrichtenseite „Upday“:
„Ist das Journalismus oder kann das weg?“
Anlass für Hornungs Ärger war ein Text, der exklusive Informationen und Zitate aus Hornungs Bericht über den Besuch einer Taliban-Delegation in Brüssel übernommen hatte – ohne diesen als Quelle zu nennen.
Vom News-Aggregator zur KI-Schleuder
„Upday“ – was war das noch mal? Das Angebot von Axel Springer startete 2016 als sogenannter News-Aggregator, ein Dienst auf Samsung-Geräten, der Nutzern ausgewählte Nachrichten verschiedener Medien zusammenstellte. Es begann als ambitionierte Kooperation, die Springer und Samsung allerdings 2023 wieder beendeten.
Wer heute nach „Upday“ sucht, findet eine Nachrichtenseite, die in verschiedenen Sprachen erscheint – und schon auf den ersten Blick verdächtig nach KI aussieht. Daraus macht man bei „Upday“ auch gar kein Geheimnis. Unter jedem Text steht der Hinweis: „Dieser Artikel wurde mit Künstlicher Intelligenz (KI) erstellt.“
In der Regel würden Nachrichten bei „Upday“ veröffentlicht, wenn drei andere Quellen ohne Paywall über einen bestimmten Vorfall berichtet haben, erklärt ein Unternehmenssprecher auf Nachfrage. „Upday“ schreibt also ab, was andere geschrieben haben. „Kuratieren“ nennen einige Medienhäuser das beschönigend.
Der Sprecher von Axel Springer beteuert, dass alle Inhalte bei „Upday“ vor Veröffentlichung noch einmal von Menschen „überprüft, gegebenenfalls angepasst, geändert oder entfernt“ werden. Rund 30 Mitarbeiter „aus allen Redaktionen von Axel Springer“ betreuen „Upday“ aktuell, erklärt er.
Doch von den rund 30 Mitarbeitern waren offenbar alle in der Pause, beim Rauchen oder irgendwo anders im Springer-Hochhaus unterwegs, als die KI Peter Hornungs „Tagesschau“-Bericht über die Taliban-Delegation in Brüssel abschrieb. Auch bei einem weiteren Text über Drohnenangriffe auf Zivilisten in der ukrainischen Stadt Saporischschja hat die menschliche Prüfung durch den „human in the loop“ offensichtlich versagt – so nennt man in der Branche den Menschen, der vor Veröffentlichung noch einmal alles kontrollieren soll. Beim Text über Saporischschja wurden sogar Zitate von Augenzeugen aus einem „Tagesschau“-Bericht übernommen, also Beobachtungen und Informationen, die nur ein Reporter vor Ort sammeln kann.
Wie die KI abschreibt
Um zu verdeutlichen, wie die KI andere Texte abschreibt, hier zunächst eine Passage aus dem „Tagesschau“-Bericht:
„FPV steht für ‚First Person View‘ – billige, kleine Drohnen, die ein Pilot direkt steuert. An seinem Bildschirm sieht er genau, was die Kamera der Drohne sieht.
Die Ukraine geht davon aus, dass die russischen FPV-Drohnenpiloten gezielt Jagd auf Zivilisten machen. Die Bilder aus Saporischschja und den Vororten in den vergangenen drei bis vier Wochen sprechen dafür. Zerstörte Bushaltestellen, Sammeltaxis, Kioske – und immer wieder schwarze Leichensäcke.
Bilder, die die Ukraine aus einer anderen Stadt kennt, aus Cherson noch weiter südlich, die Russland seit Jahren mit FPV-Drohnen terrorisiert. Dort werden immer wieder auch Fußgänger und Radfahrer angegriffen. In der Ukraine hat sich dafür der zynische Begriff ‚Menschen-Safari‘ eingebürgert.
Droht dieses Schicksal auch dem viel größeren Saporischschja? ‚Wir versuchen, das zu verhindern. Aber möglich ist es‘, sagt Andrij, 34 Jahre alt. Er ist der Kommandeur einer Anti-Drohnen-Einheit, die in einem Radius von zehn Kilometern einen Teil des Himmels über Saporischschja schützen soll.
Im Bunker der Einheit, gelegen am Rand einer Ausfallstraße, blickt Andrij gespannt auf den Monitor. Dort ist ein roter Pfeil aufgetaucht – er symbolisiert eine heranfliegende feindliche Drohne.“
Zum Vergleich die entsprechende Passage aus dem „Upday“-Text:
„FPV steht für First Person View – billige, kleine Drohnen, die ein Pilot direkt steuert und dabei auf einem Bildschirm sieht, was die Drohnenkamera sieht. In der Ukraine wird diese Taktik zynisch als „menschliche Safari“ bezeichnet. Ähnliche Angriffe auf Fußgänger und Radfahrer gab es bereits weiter südlich in Cherson.
Andrij, 34, kommandiert eine Anti-Drohnen-Einheit, die einen Teil des Luftraums über Saporischschja in einem Radius von zehn Kilometern schützen soll. «Wir versuchen, das zu verhindern. Aber möglich ist es», räumt er ein. Von einem Bunker am Stadtrand überwacht er auf einem Bildschirm herannahende feindliche Drohnen, die als roter Pfeil symbolisiert werden.“
Der Text ist also so geschrieben, als hätte auch jemand von „Upday“ dem Soldaten Andrij im Bunker über die Schulter geschaut.
Bislang keine Korrektur
Auf Nachfrage teilt Axel Springer mit, dass die Quellen, auf denen „Upday“-Texte beruhen, immer genannt werden sollten, außer es handele sich um Agenturinhalte, wie etwa dpa-Texte. „Dass in den vorliegenden Fällen die ‚Tagesschau‘ nicht als Urheberquelle genannt wurde, ist ein Fehler, für den wir um Entschuldigung bitten und den wir korrigieren werden.“
Doch im Gegensatz zur KI, die schnell einen Text zaubert, dauert die Korrektur bei Springer dann doch um einiges länger. Übermedien hat den Verlag vor mehr als zwei Wochen auf die fehlenden Quellenangaben in den Texten hingewiesen, bis heute wurden sie nicht überarbeitet.
Wir wollten von Springer auch wissen, welches Ziel man mit „Upday“ eigentlich verfolge. Eine konkrete Antwort darauf gab es nicht. Auch zu Reichweite und Nutzerzahlen macht das Unternehmen keine Angaben. Es ist also kaum möglich, mehr über „Upday“ zu erfahren. Wer auf „Über uns“ klickt, landet auf einer Sicherheitswarnseite. Aber zumindest der Link zum Impressum funktioniert. Dort ist als inhaltlich Verantwortlicher kein Redakteur angegeben, sondern ein Programmierer.
Hauptsache KI
Es wirkt alles so, als sähe man bei Springer in „Upday“ eine Art KI-Testlabor, bei dem es ein bisschen egal ist, was genau herauskommt. Hauptsache, man nutzt KI. Oder wie formulierte es Springer-Chef Mathias Döpfner einmal in einem Interview mit dem „Manager Magazin“? Die Fehler, die er am liebsten verzeihe, seien die, wenn „jemand aus zu viel Enthusiasmus und zu viel Begeisterung für die Möglichkeiten der künstlichen Intelligenz irgendwelchen Halluzinationen aufsitzt“.
Mehr über Mathias Döpfner
Man kann sich das so gut vorstellen: Wie sie im Springer-Hochhaus enthusiastisch und begeistert auf die „Upday“-Seite gucken, wenn dort mal wieder ein von der KI verfasster Artikel erscheint, in dem steht, was woanders auch schon steht. Oder zumindest fast das, was woanders auch schon steht, nur ein bisschen falscher. Einfach magisch!
Details verfälscht, Zitate aus dem Kontext gerissen
Es geht hier nicht nur um die dreiste Übernahme von Reportage-Inhalten, die andere, zum Teil vor Ort, recherchiert haben. Denn die oben zitierten Passagen zeigen auch, wie leicht der Kontext von Zitaten und andere Details durch KI verfälscht werden können. Aus einem Bunker am Rand einer Ausfallstraße wird ein Bunker am Stadtrand. Dabei ist nicht gesagt, dass eine Ausfallstraße zwangsläufig am Stadtrand liegen muss. Das mag kleinlich erscheinen, doch auch das ist eine Verfälschung von Fakten, die in anderen Fällen natürlich auch gravierender sein kann als in diesem Beispiel.
Auch an einer weiteren Stelle wird deutlich, wie Zitate aus dem Zusammenhang gerissen werden. Die „Tagesschau“ schreibt:
„Für FPV-Angriffe auf Saporischschja, im Süden knapp 20 Kilometer von der Front entfernt, reicht die Batterie der kleinen Drohnen eigentlich nicht aus.
‚Aber der Feind setzt jetzt die Molnja-Drohne als Mutterdrohne ein‘, sagt Andrij. Die größeren Molnja-Drohnen brächten jeweils zwei bis drei FPV-Drohnen in das Stadtgebiet und verstärken das Internet-Signal, über das die Piloten die kleinen Drohnen steuern.
Andrij deutete auf den Monitor. Das da sei wahrscheinlich eine FPV-Drohne, sagt er. ‚Wir sehen das am Radarquerschnitt‘, so der Soldat (…).“
„Upday“ macht daraus:
„Obwohl Saporischschja etwa 20 Kilometer von der Front entfernt liegt, können die kleinen FPV-Drohnen die Stadt erreichen. ‚Aber der Feind setzt jetzt die Molnja-Drohne als Mutterdrohne ein‘, erklärt Andrij. Diese größeren Drohnen transportieren zwei bis drei FPV-Drohnen in die Stadt und verstärken das Internetsignal für die Piloten. ‚Wir sehen das am Radarquerschnitt‘, sagt er.“
Das Zitat „Wir sehen das am Radarquerschnitt“ bezieht sich im „Tagesschau“-Text auf die gesichtete FPV-Drohne, die KI von „Upday“ verwendet es also in einem falschen Zusammenhang. Im Fall des abgeschriebenen Berichts von Peter Hornung über die Taliban-Delegation hat die KI die Zitate sogar ganz leicht umformuliert.
Wenig Regung beim NDR
Wir haben beim NDR, dem für die „Tagesschau“ zuständigen Sender, nachgefragt, wie sie solche Fälle bewerten, wie häufig es vorkommt, dass KI-gestützte Nachrichtenportale Inhalte der „Tagesschau“ ohne Nennung der Quelle übernehmen, und ob der NDR gegen solche Texte rechtlich oder auf anderem Wege vorgeht.
Die Antwort des Senders dazu ist ziemlich unkonkret:
„Die tagesschau hat keine aktive Kooperation mit Upday. In welchem Maß ein KI-gestütztes crawlen unserer Inhalte erfolgt, prüfen wir derzeit quer durch den Markt der verschiedenen Anbieter.“
Es ist schon überraschend, dass sich das wichtigste öffentlich-rechtliche Nachrichtenangebot in so einer Sache nicht ein wenig deutlicher positionieren kann, angesichts der Tatsache, dass Recherche-Ergebnisse seiner Reporter ohne Quellenangabe übernommen und zum Teil verfälscht werden.
Fake-Hitler-Bunker
Mit Genauigkeit nimmt man es bei „Upday“ also nicht so genau. Was man nicht nur an den Texten sieht, sondern auch an den Bildern. Im Bild zum Beitrag über die Taliban-Delegation in Brüssel wehen etwa nicht nur Europaflaggen vor dem KI-generierten Gebäude, das wohl das der Haus EU-Kommission darstellen soll, sondern auch Länderflaggen Belgiens.
Einfach ein echtes Foto nehmen? Für die „Upday“-Redaktion offensichtlich keine Option. Auch das Bild zum Text über die Drohnenangriffe zeigt nicht Saporischschja, sondern das, was sich die KI unter Saporischschja vorstellt.
Besonders krass ist das KI-generierte Bild zur Meldung, dass der Berliner Bausenator den letzten Reichskanzlei-Bunker entfernen will. Über den Bunker, der wohlgemerkt unterirdisch liegt, berichtete unter anderem die SZ – mit diesem echten Bild:
Und bei „Upday“ sieht das Ganze so aus:
Das ist eine völlig falsche Darstellung und hat mit den tatsächlichen Gegebenheiten vor Ort nichts zu tun. Es sind im Grunde Fake News im Bild. Auf die Frage, warum Springer den Einsatz eines solchen Bildes in einer Nachrichtenmeldung für journalistisch vertretbar hält, bekommen wir keine Antwort. Zu den Bildern schreibt der Sprecher nur:
„Bei ‚Upday‘ werden primär verifizierte, echte Bilder verwendet. In Einzelfällen kann es sein, das – immer gekennzeichnet – symbolische Illustrationen mit KI erstellt werden.“
Wer das selbst auf der Seite von „Upday“ nachprüft, wird schnell sehen: Primär werden vor allem KI-generierte Bilder verwendet, die als „AI Generated Stock Image“ gekennzeichnet sind. Von Einzelfällen, wie der Sprecher schreibt, kann keine Rede sein. Sogar eine Straßenszene in der iranischen Hauptstadt Teheran und ein Gymnasium in Donaueschingen, die man ja echt hätte zeigen können, wurden KI-generiert.
Auf seiner Unternehmensseite formuliert Axel Springer seine Leitgedanken: Man müsse „radikal alle Chancen nutzen, die KI uns bietet und sie mit unserer menschlichen Intelligenz verschmelzen“, gleichzeitig müsse man „das wiedergewinnen, was der Journalismus an vielen Stellen verloren hat: Glaubwürdigkeit“.
Ein hoher Anspruch, von dem „Upday“ ähnlich weit entfernt ist wie seine KI-generierten Bilder von der Wirklichkeit.
Die Autorin
Lisa Kräher ist Redakteurin bei Übermedien. Sie hat bei der „Mittelbayerischen Zeitung“ volontiert und von 2013 an als freie Journalistin und Filmautorin gearbeitet, unter anderem für epd. Sie ist Autorin für die „Carolin Kebekus Show“ und Mitglied der Grimme-Preis-Jury.
Ein Schritt in die Richtung, dass man alles schreiben und zeigen kann was man will, und dadurch wird es dann zur echten Nachricht.
Ein Apltraum
„Testlabor“ ist meiner Meinung nach untertrieben. Das ist „move fast and break things“ und folgt einer ganz klaren perfiden Springer Linie: Die Grenzen so oft überschreiten, bis es niemanden mehr interessiert, dass da überhaupt eine Grenze war.