Sexualisierte Deepfakes: EU-Länder einigen sich auf Verbot

Die Europäische Union macht ernst im Kampf gegen sexualisierte Deepfakes. Die EU-Mitgliedsstaaten haben sich auf ein europaweites Verbot dieser manipulierten Inhalte geeinigt. Bis das Verbot rechtlich bindend in Kraft tritt, vergehen jedoch noch mehrere Monate. Experten warnen seit Jahren vor den schwerwiegenden Folgen solcher synthetischen Medien – die Opfer sind überwiegend Frauen und Mädchen.

Mehr zum Thema: EU-Regulierung im Überblick

Was sind Deepfakes und wie funktionieren sie?

Deepfakes sind synthetische Medien, die mithilfe von künstlicher Intelligenz und maschinellen Lernverfahren erzeugt werden. Der Begriff setzt sich aus „Deep Learning" und „Fake" zusammen. Kern der Technologie sind sogenannte generative adversariale Netzwerke (GANs): Zwei neuronale Netze – ein Generator und ein Diskriminator – konkurrieren miteinander. Der Generator erzeugt immer realistischere Bilder, der Diskriminator versucht, Fälschungen zu erkennen. Durch diesen iterativen Prozess verbessern sich die synthetischen Inhalte kontinuierlich.

Konkret funktioniert die Erstellung so: Ein Modell wird mit einer großen Menge an Trainingsbildern einer bestimmten Person gefüttert – aus verschiedenen Blickwinkeln, unter wechselnden Lichtverhältnissen und mit unterschiedlichen Gesichtsausdrücken. Anschließend kann das Modell das Gesicht dieser Person in beliebige Bilder oder Videos einsetzen. Im Fall sexualisierter Deepfakes werden Gesichter realer Personen ohne deren Einwilligung auf Körper in sexuellem Kontext montiert.

Die Qualität dieser Inhalte hat sich in den vergangenen Jahren drastisch verbessert. Frühe Deepfakes waren oft an Artefakten rund um Haare, Ohren oder Augenlider erkennbar. Moderne KI-Modelle hingegen erzeugen Ergebnisse, die mit bloßem Auge kaum noch als Fälschung zu identifizieren sind. Hinzu kommt: Die technische Einstiegshürde ist massiv gesunken. Spezialisierte Web-Apps und mobile Anwendungen ermöglichen es Laien, in wenigen Minuten überzeugende Deepfakes zu erstellen – ohne Programmierkenntnisse. (Quelle: Bundesamt für Sicherheit in der Informationstechnik)

Nicht jeder Deepfake ist strafwürdig – wo liegt die Grenze?

Deepfake-Technologie wird auch in legitimen Bereichen eingesetzt: die Filmbranche nutzt sie für Altersrückversetzung von Schauspielerinnen und Schauspielern, Bildungsanwendungen simulieren historische Persönlichkeiten, und medizinische Forschung setzt synthetische Daten ein, um Datenschutzvorgaben zu erfüllen. Das geplante EU-Verbot zielt ausschließlich auf sexualisierte Deepfakes – also Inhalte, die eine Person ohne ihre Zustimmung in einer sexuellen Situation zeigen. Diese Abgrenzung ist juristisch bedeutsam, da sie kreative oder wissenschaftliche Anwendungen der Technologie unberührt lässt.

Warum ist das Verbot sexualisierter Deepfakes notwendig?

Die Datenlage ist eindeutig: Rund 98 Prozent aller sexualisierten Deepfakes zeigen Frauen. Das Durchschnittsalter der Opfer liegt bei etwa 25 Jahren; Fälle mit Minderjährigen sind dokumentiert. Opfer berichten von massiven psychischen Belastungen – darunter Angststörungen, Depressionen und in extremen Fällen Suizidgedanken. Hinzu kommen berufliche und soziale Konsequenzen, wenn die gefälschten Inhalte im persönlichen Umfeld oder am Arbeitsplatz auftauchen.

Problematisch ist auch die Verbreitung: Sexualisierte Deepfakes kursieren auf spezialisierten Foren, aber auch auf regulären sozialen Plattformen, wo sie sich durch Algorithmen und Weiterteilung exponentiell verbreiten können. Plattformen reagieren zwar mit Löschmechanismen, kommen der schieren Menge neuer Inhalte jedoch häufig nicht hinterher.

Strafrechtlich befand sich Europa bislang in einer Grauzone. Nur wenige Mitgliedsstaaten verfügten über spezifische Gesetze gegen nicht-einvernehmliche Intimbilder in digitaler Form. Das neue Verbot schließt diese Lücke und schafft erstmals eine harmonisierte Rechtsgrundlage für die gesamte EU. Das Bundeskriminalamt warnt vor massiven Deepfake-Desinformationskampagnen – ein Beleg dafür, dass die Problematik weit über Einzelschicksale hinausreicht und demokratische Prozesse gefährdet.

Welche Plattformen und Tools sind betroffen?

Was bedeutet das Verbot für Betroffene und die Strafverfolgung?

Für Opfer bringt das Verbot erstmals einen einheitlichen rechtlichen Rahmen, auf den sie sich EU-weit berufen können. Bislang war die Rechtslage je nach Mitgliedsstaat sehr unterschiedlich – Betroffene in Ländern ohne spezifische Gesetze standen häufig mit leeren Händen da. Mit der neuen Regelung sollen Plattformen künftig schneller zur Löschung verpflichtet werden können, und Täter müssen mit empfindlichen Strafen rechnen.

Für Strafverfolgungsbehörden bedeutet die Harmonisierung eine erleichterte grenzüberschreitende Zusammenarbeit. Bislang scheiterten internationale Ermittlungen oft an unterschiedlichen nationalen Rechtsdefinitionen. Dennoch bleibt die Durchsetzung eine Herausforderung: Plattformen und Tools außerhalb der EU entziehen sich dem direkten Zugriff europäischer Behörden, und die Anonymisierung von Tätern erschwert die Identifikation.

Ausblick: Kann das Verbot wirksam durchgesetzt werden?

Das EU-Verbot sexualisierter Deepfakes ist ein wichtiger und längst überfälliger Schritt – doch seine Wirksamkeit hängt entscheidend von der Umsetzung ab. Entscheidend wird sein, ob die Mitgliedsstaaten ausreichend Ressourcen für Strafverfolgung und technische Erkennung bereitstellen, wie konsequent Plattformen zur Rechenschaft gezogen werden und ob internationale Partner – allen voran die USA als Sitz großer Tech-Konzerne – kooperieren. Rechtsexperten betonen: Gesetze allein stoppen keine Technologie. Begleitende Maßnahmen wie digitale Medienkompetenz, schnelle Löschpflichten und eine starke Strafverfolgungsinfrastruktur sind ebenso unverzichtbar. Die kommenden Monate bis zum Inkrafttreten werden zeigen, ob Europa den Worten auch Taten folgen lässt.