Warum es in der Debatte um digitale Gewalt und „Deepfakes“ wichtig ist, genau zu sein

Als Collien Fernandes am Sonntagabend in der Talkshow von Caren Miosga im Ersten zu Gast war, nutzte sie den Moment, um etwas zu „präzisieren“, wie sie sagte. Es ging um die Behauptung, ihr Ex-Mann Christian Ulmen (für den die Unschuldsvermutung gilt) hätte anderen Männern pornografische „Deepfakes“ von ihr geschickt, also mithilfe von Künstlicher Intelligenz (KI) gefälschte Aufnahmen, die realistisch wirken, es aber nicht sind.

Doch das ist, wie Fernandes nun erklärte, gar nicht der Fall. Stattdessen sollen echte Pornos verschickt worden sein, deren Darstellerinnen Fernandes angeblich ähnlich sehen.

Es ist eine interessante und nicht unwichtige Richtigstellung, denn in der aktuellen öffentlichen Debatte klang es oft so. Die „Spiegel“-Geschichte, in der Fernandes Ulmen digitale Gewalt vorwirft, löste nach ihrer Veröffentlichung vor anderthalb Wochen erhebliche Reaktionen aus. Von vielen Menschen wurde sie offensichtlich so verstanden, dass Ulmen solche Deepfakes genutzt haben soll. Auch Medien kolportieren es so.

Ulmens Medienanwalt Christian Schertz hatte sich deshalb am Freitag zu einer, wie er es ausdrückt, „Klarstellung“ veranlasst gesehen. In einer Pressemitteilung schreibt er:

„Unser Mandant hat zu keinem Zeitpunkt Deepfake-Videos von Frau Fernandes oder anderen Personen hergestellt und/oder verbreitet. Entsprechende Darstellungen sind falsch. Nach derzeitiger Kenntnis wird dieser Vorwurf, anders als teilweise verlautbart, auch überhaupt nicht erhoben. Mit der aktuell geführten Debatte über Strafbarkeitslücken bei Deepfake-Pornografie stehen die Geschehnisse mithin in keinem Zusammenhang.“

Dass überhaupt der Eindruck entstand, es könnte bei dem Fall Fernandes/Ulmen auch um Deepfakes gehen, dürfte vor allem daran liegen, wie der „Spiegel“ seine Titelstory aufbereitet und verkauft hat. Er legt einen Schwerpunkt auf etwas, das faktisch anscheinend nicht zutrifft bzw. von dem unklar ist, ob es zutrifft. (Was andere Medien natürlich nicht aus der Pflicht nimmt, Vorwürfe selbst zu prüfen und korrekt wiederzugeben.)

Aus moralischer Sicht macht es keinen Unterschied, ob jemand Deepfakes von einer anderen Person verschickt oder echtes pornografisches Material Dritter unter deren Namen. Beides ist eine Täuschung mit furchtbaren Folgen für die Menschen, deren Identität auf intimste Weise missbraucht wird. Es ist aber trotzdem ein Problem, wenn ein wirkmächtiger Artikel zu einem auch juristisch so sensiblen Thema so formuliert und aufgemacht ist, dass er zu grundlegenden Missverständnissen führt.

Hier der konkrete Fall, dort die „Deepfakes“

Der „Spiegel“-Text springt hin und her. Er schildert einerseits, was Fernandes Ulmen vorwirft, und erzählt andererseits auch von mit KI erstellten Deepfakes, die es von Fernandes und anderen im Internet gibt und gegen die sich Fernandes seit Jahren öffentlich einsetzt. Sie hat das zu ihrem persönlichen Thema gemacht und in zahlreichen Interviews darüber gesprochen. Auch eine ZDF-Doku mit ihr handelt davon.

Relativ zu Beginn des „Spiegel“-Textes erzählt Fernandes, wie Ulmen ihr Ende 2024 gestanden haben soll, in ihrem Namen Profile in sozialen Netzwerken angelegt zu haben. Er habe „über die falschen Profile“ gesprochen, „über die darüber verschickten Fotos und Videos, den Telefonsex“.

Danach macht der „Spiegel“ das Fass mit den Deepfakes auf. Im Internet kursierten „hunderte gefälschte Pornoaufnahmen, die angeblich Fernandes zeigen“, heißt es. Und dass sich darunter auch Deepfakes befänden, „also mithilfe von KI erzeugte Fotos und Videos, die sich von jedermann mit nur wenigen Klicks erstellen lassen“. Es folgen konkrete Beispiele, ein bisschen Statistik, ein Verweis auf Elon Musks Chatbot Grok.

Von dort aus geht es dann über zu digitaler Gewalt im Allgemeinen, dann wieder zum konkreten Fall, und von dort aus wieder zurück zu „gefälschten Bildern, die von Fernandes im Netz kursieren“. Beides ist im Text so sorgfältig miteinander verwoben, dass „Deepfakes“ als großes Überthema erscheinen, ganz direkt verknüpft.

Auch die optische Aufmachung, vor allem der Online-Version des Textes, stellt KI-generierte Bilder in den Vordergrund: Zu sehen sind (verfremdete) Screenshots, die „Deepfake-Aufnahmen von Fernandes“ zeigen sollen, „die im Netz zugänglich sind“. Im Bild steht: „ERZEUGT MIT KI“. Ebenfalls eingebaut: ein Diagramm zur „Fake-Flut“.

„Ähnlich“, „täuschend ähnlich“

An jenen Stellen aber, an denen es um Fernandes’ Ex-Mann Ulmen geht und die Fotos und Videos, die er verschickt haben soll, heißt es dann, dass die Frauen auf diesen Aufnahmen Fernandes „ähnlich“ gesehen hätten, „täuschend ähnlich“, „zum Verwechseln ähnlich“. Es geht um „angeblich authentische Pornoaufnahmen“, um „erotische Bilder und Videos“. Es klingt eher vage. Nirgends steht ausdrücklich: „Deepfakes“. 

Der „Spiegel“ hat offenbar keine stichhaltigen Belege, dass Ulmen KI-Material nutzte, verklausuliert das mitunter aber, statt es offen hinzuschreiben. „Es lässt sich nur schwerlich bestimmen, woher das Material kam, das Ulmen im Namen seiner Frau verschickt haben soll“, heißt es an einer Stelle. Und schwerlich zu bestimmen ist wohl auch, was für Material das genau war. Direkt im Anschluss geht es dann aber wieder darum, wie leicht man an Deepfakes kommt: 

„Im Netz finden sich etliche Plattformen, auf denen von anderen generierte Deepfakes kursieren, die gefälschten Pornos lassen sich auf den meisten Seiten ohne Zugangsbeschränkung anschauen und herunterladen. Es gibt inzwischen viele Apps, um solche Aufnahmen mühelos zu erstellen.“

In den folgenden Absätzen zitiert der „Spiegel“ aus einer vertraulichen Mail, die Ulmen an einen Anwalt geschickt haben soll. Auch dort ist von Frauen die Rede, die „ähnlich“ ausgesehen hätten, von Videos, die es auf „frei zugänglichen Pornoseiten“ gebe. Was für welche: unklar. Der „Spiegel“ resümiert:

„Man muss das wohl so verstehen, dass er solche Videos aber nicht selbst erstellt habe.“ 

Selbst erstellt also „wohl“ nicht, der „Spiegel“ entlastet hier Ulmen etwas. Andererseits lässt gerade dieses „erstellt“ offen, ob es sich vielleicht um Deepfakes von Dritten handelt, die er sich angeeignet hat.

Mehr über Der Spiegel

1. Collien Fernandes: Was dürfen Medien dem „Spiegel“ glauben? | Podcast
2. Fake-Anzeigen: So machtlos sind Medien gegen den Internetbetrug
3. Stepan Timoshin: Der Schuhverkäufer und der schöne Schein

An einer Stelle könnte man kurz meinen, dass der Deepfake-Vorwurf ganz klar an Ulmen gerichtet ist. Nachdem es um Fernandes’ psychische Probleme geht, heißt es:

„Fernandes möchte sich davon nicht mehr lähmen lassen, sie möchte auch nicht mehr, dass ihr die Bilder im Internet peinlich sind. Sie möchte, dass sie denjenigen peinlich sind, die so etwas erstellen und verschicken, sie im Internet entwürdigen. Zumindest was Letzteres angeht, hat diese Forderung eine sehr konkrete Adresse: die ihres Ex-Mannes, Christian Ulmen.“

Aber selbst das lässt sich auslegen. Dort steht: „Bilder“. Und was bedeutet hier nun wieder das Wort „erstellen“? Könnte es auch heißen, dass jemand echte Pornos manipuliert, für seine Zwecke beschneidet und in einen falschen Kontext stellt – ohne KI? Und die Formulierung „Zumindest was Letzteres angeht“ könnte sich auch lediglich auf „im Internet entwürdigen“ beziehen, also sehr allgemein gefasst sein.

Viel Raum für Interpretation

Das Problematische an dem „Spiegel“-Text ist, dass man ihn so genau lesen und auf semantische Feinheiten achten muss. Nicht, was die Kernvorwürfe betrifft, die werden durch Ulmens Medienanwalt bisher auch nicht bestritten. Aber die dramaturgische Konstruktion des Textes lässt viel Raum für Interpretation, wenn es um Deepfakes geht. Unklar ist auch, ob KI bei etwas anderem, das Ulmen von Fernandes vorgeworfen wird, verwendet wurde – dass er sich mutmaßlich auch bei Telefonsex als seine Frau ausgegeben haben soll. Fernandes schreibt auf Instagram: „mit KI generierter Stimme von mir“. Im „Spiegel“ wird das nicht weiter konkretisiert.  

Gegen Ende des Textes geht der „Spiegel“ auf die Rechtslage ein, in Spanien, wo Fernandes Anzeige erstattet hat, und in Deutschland. Spanische Gerichte verfolgten auch Deepfakes, in Deutschland aber hätten Opfer „kaum eine Chance“, weil es keinen eigenen Straftatbestand gebe, „der es verbietet, gefälschte Pornos zu erstellen“.

Das ist der Anknüpfungspunkt für das politische Thema, in das die Fernandes/Ulmen-Geschichte eingebettet ist: ein geplantes digitales Gewaltschutzgesetz, das auch vor Deepfakes schützen soll – doch explizit dafür ist dieser Fall ja offenbar gar kein gutes, eindeutiges Beispiel. Dennoch interviewt der „Spiegel“ in derselben Ausgabe Stefanie Hubig (SPD), die Bundesjustizministerin. Auch dort geht es um „Millionen mithilfe künstlicher Intelligenz generierte Pornos und Nacktbilder“.

Die Deepfake-Definition

Collien Fernandes hat also präzisiert, dass es in Hinblick auf ihren Ex-Mann vermutlich nicht um Deepfakes geht. Welche Technik verwendet worden sei, sagte sie der „Bild“-Zeitung, müsse vor Gericht geklärt werden. Man könnte hinzufügen: und ob denn überhaupt Technik – also: KI – verwendet wurde. Derzeit scheint es ja nicht so.

Dennoch spricht Fernandes (auf Instagram) von „Deepfakes“, sogar in direktem Bezug zu Ulmen – weil sie „Deepfakes“ nicht zwingend als KI-Material definiert. Gegenüber „Bild“ führte sie aus:

„Wenn er als ,Collien Ulmen-Fernandes‘ ein Foto eines nackten Schritts verschickt oder nackte Brüste, dann ist es doch völlig egal, ob diese von einer KI generiert wurden oder von einer anderen Frau, einer Pornodarstellerin stammen.“

Und auf Instagram schreibt sie: 

„Wenn du als Collien Ulmen-Fernandes nackte Brüste verschickst und die sind nicht ki-generiert, sondern von einer Pornodarstellerin, dann ist das kein Deepfake. Wenn du aber Mails verschickst mit ,Hallo Herr Produzent XY, mein Name ist Collien Ulmen Fernandes und hier sind meine nackten Brüste‘ dann macht das im Ergebnis keinen Unterschied, ob diese von einer Pornodarstellerin sind oder ki generiert wurden.“   

Mehr über KI

1. Künstliche Intelligenz: Wie KI-Bilder im Lokaljournalismus wirken
2. Radio: Für Verkehr und Wetter schaltet die ARD nachts zur KI
3. KI-Fakes in Medien: Was können Redaktionen tun? | Podcast

Wie gesagt: Moralisch spielt es keine Rolle, der Effekt ist derselbe; beide Täuschungen haben schwere Folgen. Es ist auch richtig, dass der Fall Fernandes/Ulmen so grundsätzlich strukturell diskutiert wird, zumal es ja nicht nur um Fotos und Videos geht, sondern um mutmaßlichen Identitätsklau und auch um Vorwürfe ganz realer physischer Gewalt.

Juristisch und politisch ist die Unterscheidung aber relevant. Zumal die Geschichte von Collien Fernandes gerade zentral in einer Debatte über ein neues „Deepfake-Gesetz“ genutzt wird. Und wenn man „Deepfakes“ nicht eng definiert, verwässert es die Debatte über Gefahren von KI.

In dieser Debatte geht es ja um eine neue, von vielen als bedrohlich empfundene Technologie, die unter anderem ermöglicht, das Gesicht, die Stimme, den Körper anderer Menschen binnen Sekunden in Situationen zu montieren, in denen sie nie waren. Und sie Dinge sagen und tun zu lassen, die sie nie gesagt oder getan haben. Dabei wird also das reale Bildnis einer Person missbraucht. Das ist bei Pornos Dritter, die umetikettiert werden, nicht der Fall, dafür braucht es auch keine KI.

Dass Fernandes nun präzisieren muss, worum es geht, ist auch ein Einfallstor. Natürlich gibt es Leute, die sie nun der Lüge bezichtigen und die ganze Geschichte in Zweifel ziehen. Es gibt auch Leute (und Wutportale wie „Nius“), die eine große Kampagne in Kooperation mit der Bundesregierung insinuieren, in die sich der „Spiegel“ habe einspannen lassen. Das ist alles überzogen. Aber es zeigt, dass es schadet, nicht genau zu sein: Collien Fernandes, dem „Spiegel“ und vor allem der notwendigen Debatte über digitale Gewalt und über Deepfakes. Denn die gibt es ja, und sie sind ein gewaltiges Problem.

Nachtrag, 2.4.2026. Ulmens Medienanwalt geht nach Angaben von LTO.de unter anderem auch gegen mutmaßliche Deepfake-Verdächtigungen vor: „Laut dem Antrag habe der ,Spiegel‘ den falschen Verdacht erweckt, Ulmen habe Deepfake-Videos, die Collien Fernandes zeigen, hergestellt und verbreitet.“

Der Autor

Boris Rosenkranz ist Gründer von Übermedien. Er hat in Bochum Literaturwissenschaften, Soziologie und Politik studiert. Er war Redakteur bei der „taz“, hat beim Norddeutschen Rundfunk in Hamburg volontiert und für verschiedene ARD-Redaktionen gearbeitet, insbesondere für das Medienmagazin „Zapp“ und das Satiremagazin „Extra 3“.

Mehr Artikel✉ Kontakt