Was bringt es, dass KI-Inhalte ab jetzt gekennzeichnet werden müssen?

Ist das Foto oder Video, das ich gerade in den sozialen Medien gesehen habe, ein Deepfake? Hat ein Mensch den Text auf dem Nachrichtenportal geschrieben – oder doch ein Chatbot? Und ist die Stimme beim Anruf im Kundencenter echt oder nicht? Seitdem KI zum Alltag gehört, gehört auch das Gefühl dazu, dass wir uns nicht mehr sicher sein können, was wir sehen, hören und lesen.

Eine neue EU-Verordnung, die am 2. August in Kraft trat, soll das ändern. Sie ist Teil des sogenannten AI Acts. Der soll Nutzer vor Desinformation schützen und dafür sorgen, dass Menschen Informationen im Netz mehr vertrauen. Die Verordnung sieht unter anderem vor, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen – die private Nutzung ist davon ausgenommen.

Doch wie erfolgversprechend sind KI-Labels eigentlich?

Maria Pawelec forscht an der Universität Tübingen zu Deepfakes und Medienethik. Im Übermedien-Podcast mit Holger Klein sagt sie: „Die KI-Verordnung und die Kennzeichnungspflicht werden nicht alle unsere Probleme lösen, die durch Deepfakes entstanden sind.“ Auch nicht den generellen Vertrauensverlust in Medien, sagt sie. Kennzeichnungen, so Pawelec, könnten sogar dazu führen, dass Menschen noch skeptischer werden.

Was genau schreibt die neue EU-Verordnung bei der Erstellung und Verbreitung von KI-Inhalten vor? Wer ist davon betroffen? Wer überprüft das alles? Und wie leicht lässt sich die Kennzeichnungspflicht umgehen? Darüber sprechen Holger Klein und Maria Pawelec in der neuen Folge von „Holger ruft an …“.

Links:

• Leitlinien der EU-Kommission
• Wie Betrüger mit Promigesichtern Fake-Werbung machen (DLF)
• ZDF sendet KI-Fake und versucht sich rauszureden
• Springers KI-Schleuder „Upday“ schreibt bei der „tagesschau“ ab
• Wer schreibt denn da? Ippens undurchsichtige KI-News-Kooperation
• Nachprogramm der ARD-Wellen: Und jetzt zum KI-Wetter