Ist das Foto oder Video, das ich gerade in den sozialen Medien gesehen habe, ein Deepfake? Hat ein Mensch den Text auf dem Nachrichtenportal geschrieben – oder doch ein Chatbot? Und ist die Stimme beim Anruf im Kundencenter echt oder nicht? Seitdem KITechnologie, die Maschinen oder Software befähigt, Aufgaben auszuführen, die normalerweise menschliche Intelligenz... zum Alltag gehört, gehört auch das Gefühl dazu, dass wir uns nicht mehr sicher sein können, was wir sehen, hören und lesen.
Eine neue EU-Verordnung, die am 2. August in Kraft trat, soll das ändern. Sie ist Teil des sogenannten AITechnologie, die Maschinen oder Software befähigt, Aufgaben auszuführen, die normalerweise menschliche Intelligenz... Acts. Der soll Nutzer vor Desinformation schützen und dafür sorgen, dass Menschen Informationen im Netz mehr vertrauen. Die Verordnung sieht unter anderem vor, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen – die private Nutzung ist davon ausgenommen.
Doch wie erfolgversprechend sind KI-Labels eigentlich?
Maria Pawelec forscht an der Universität Tübingen zu Deepfakes und Medienethik. Im Übermedien-Podcast mit Holger Klein sagt sie: „Die KI-Verordnung und die Kennzeichnungspflicht werden nicht alle unsere Probleme lösen, die durch Deepfakes entstanden sind.“ Auch nicht den generellen Vertrauensverlust in Medien, sagt sie. Kennzeichnungen, so Pawelec, könnten sogar dazu führen, dass Menschen noch skeptischer werden.
Was genau schreibt die neue EU-Verordnung bei der Erstellung und Verbreitung von KI-Inhalten vor? Wer ist davon betroffen? Wer überprüft das alles? Und wie leicht lässt sich die Kennzeichnungspflicht umgehen? Darüber sprechen Holger Klein und Maria Pawelec in der neuen Folge von „Holger ruft an …“.
Maria Pawelec ist wissenschaftliche Mitarbeiterin am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen. Die Politikwissenschaftlerin forscht seit 2020 zu den ethischen, politischen und gesellschaftlichen Implikationen von Deepfakes und den Chancen ihrer Regulierung.
Links:
Sie sehen gerade einen Platzhalterinhalt von Turnstile. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSie sehen gerade einen Platzhalterinhalt von Facebook. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSie sehen gerade einen Platzhalterinhalt von Instagram. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSie sehen gerade einen Platzhalterinhalt von X. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen
was hier fehlte, ist die erwähnung, dass auch die ki-unternehmen ein interesse daran haben sollten, ki-generierte inhalte von „natürlichen“ inhalten zu unterscheiden. wenn man ki mit daten trainiert, die von ki erzeugt wurden, kommt es nach einigen iterationen zum modell-kollaps. dann sind die schönen, teueren KI nichts mehr wert, weil funktionsuntüchtig. das passiert natürlich nicht schnell, ist aber sicherlich etwas, wogegen die ki-produzenten maßnahmen ergreifen müssen.
https://www.nature.com/articles/s41586-024-07566-y