ZDFheute live - EU will bei Deepfakes härter durchgreifen

Deepfake-Pornos, manipulierte Bilder, sexualisierte Gewalt: Die EU will gegen die Erstellung solcher Inhalte, wenn sie gegen den Willen der Betroffenen erstellt und verbreitet wurden, härter vorgehen. Das soll explizit auch die Unternehmen hinter den KI-Anwendungen selbst treffen: Nicht nur die Taten, sondern die Werkzeuge sollen verboten werden.  

Ein Beispiel ist der Chatbot Grok von US-Milliardär Elon Musk: Bis die Firma die entsprechende Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in Bildern zu entkleiden.  

KI-Anwendungen könnten bald in der EU verboten werden, wenn sie solche Funktionen weiter anbieten. Die Reform muss noch durch das Plenum im Europäischen Parlament und den Rat der Regierungen der Mitgliedstaaten – das gilt aber als Formsache. Bisherige Gesetze und Gesetzesinitiativen nehmen vor allem die Täter in den Blick, die Deepfakes erstellen und verbreiten. 

ZDF-Redakteur Daniel Heymann von der Redaktion Recht und Justiz ordnet die vorgesehene Gesetzänderung ein. Mit Josephine Ballon von der Organisation HateAid spricht Philip Wortmann bei ZDFheute live darüber, was das Gesetz auch in Deutschland bewirken würde - und was es zum Schutz vor digitaler Gewalt noch braucht.