Explainer: NSTs
Sexualisierte Gewalt im digitalen Raum: Wer ist betroffen, was sind die Folgen, wie könnt ihr euch wehren?
Sexualisierte Gewalt gegen Frauen, Kinder und LGBTQI+-Personen wird zunehmend mithilfe technologischer Mittel angewendet – eine Fortsetzung patriarchaler Machtverhältnisse im digitalen Raum. Generative KI dient dabei immer häufiger als Werkzeug. Die Folgen reichen weit über den individuellen Schaden hinaus und verdrängen Frauen aus digitalen öffentlichen Räumen.
Kamala Harris, Azma Bukhari, Paris Hilton, Greta Thunberg: All diese Frauen stehen in der Öffentlichkeit, aber sie eint noch etwas: Von ihnen wurden sexualisierende Deepfakes im Internet verbreitet, die ohne ihr Einverständnis erstellt wurden. Der missbräuchliche Einsatz generativer KI für sexualisierte Gewalt nimmt zu, das Muster ist fast immer dasselbe: Aus öffentlichen und privaten Fotos von Betroffenen werden ohne ihre Zustimmung und mit geringem Aufwand manipulierte Nacktaufnahmen erstellt und anschließend über Plattformen mit Millionen Nutzer*innen geteilt.
Zuletzt sorgte hierzulande der Fall Collien Fernandes für eine Debatte um Anpassungen des Strafrechts. Frauen, Kinder und LGBTQI+-Personen sind vorwiegend das Ziel solcher massenhaft verbreiteten sexualisierenden Deepfakes. Die Betroffenen sind dabei nicht zwangsweise prominent: Auf der Plattform X wurden allein im Januar 2026 innerhalb weniger Tage tausende sexualisierende Darstellungen von Frauen durch den integrierten KI-Chatbot Grok erstellt und geteilt – in großer Mehrheit durch Männer, wie aus Profilnamen und -bildern erschlossen werden konnte. In Spanien teilten Jugendliche aus Social-Media-Fotos generierte Nacktbilder von über zwanzig minderjährigen Mitschülerinnen (unsere Kollegin hatte zu dem Zeitpunkt dazu recherchiert). Und auch an deutschen Schulen gibt es solche Fälle, etwa in Baden-Württemberg, wo ein Schüler aus einem Klassenfoto gefälschte Nacktbilder einer Mitschülerin erstellte. Landen solche Bilder in den sozialen Medien, befeuern Plattform-Algorithmen, die auf eine möglichst lange Verweildauer der Nutzer*innen abzielen, ihre Verbreitung.
Was sind nicht-einvernehmliche sexualisierende Deepfakes?
Als nicht-einvernehmliche sexualisierende Deepfakes (oder auch „Deepnudes“) werden KI-generierte Nacktbilder von Personen bezeichnet, die ohne Einwilligung der abgebildeten Personen erzeugt wurden – in den meisten Fällen aus zuvor nicht-sexualisierenden Alltagsfotos. „Nicht-einvernehmlich“ bedeutet hierbei, dass die abgebildete Person keine Zustimmung für die Verwendung ihres Bildmaterials zur Manipulation gegeben hat. Dies ist ein entscheidender Punkt: Es gibt auch KI-generierte intime Darstellungen oder Pornographie, die unter Zustimmung der Beteiligten und ohne eine missbräuchliche, gewaltvolle Überschreitung von Persönlichkeitsrechten erstellt wurden.
Nicht-einvernehmliche „Deepnudes“ entstehen vor allem auf zwei Wegen: Durch sogenannte „Nudify“-Apps und -Websites lassen sich mithilfe von KI realistisch wirkende sexualisierende Aufnahmen einer Person generieren, ohne, dass sie ihre Zustimmung dazu gegeben hat (intern verwenden wir den Begriff „Non-consensual Sexualisation Tools“, kurz: NSTs, um die fehlende Zustimmung sichtbar zu machen). „Face Swaps“, abgeleitet vom Face Swapping – einer Technik, bei der das Gesicht einer Person mithilfe von KI gegen das einer anderen ausgetauscht wird – montieren wiederum die Gesichter von Personen in reale Fotos und Videos, beispielsweise pornografisches Material. Bereits wenige Fotos, etwa öffentliche Bilder aus sozialen Netzwerken, reichen dafür aus. Mit einer größeren Menge an öffentlich verfügbaren Bildern als Trainingsmaterial für KI-Modelle steigt jedoch auch die Glaubwürdigkeit der Ergebnisse. Dabei sind aufgrund der einfachen Bedienung und der weiten Verbreitung von „Nudify“-Apps keine technischen Vorkenntnisse für die Erstellung solcher Deepfakes nötig. Jede*r kann somit Täter und Betroffene sein.
In der Forschung werden derartige sexualisierende Deepfakes oft unter Sammelbegriffen wie „technology-facilitated sexual violence“ (TFSV, technologievermittelte sexualisierte Gewalt) oder „image-based sexual abuse“ (IBSA, bildbasierter sexueller Missbrauch) diskutiert. Letzteres bezeichnet speziell die Erstellung, Verbreitung oder auch angedrohte Verbreitung von intimen oder sexualisierenden Aufnahmen, die ohne Einverständnis erstellt wurden. Hierbei gilt es jedoch zu unterscheiden, ob es sich um synthetische, also künstlich erzeugte bzw. KI-generierte Inhalte oder um die nicht-einvernehmliche Weitergabe von echtem Material handelt.
Deepnudes sind Teil eines größeren Problems: Gechlechtsspezifische sexualisierte Gewalt im digitalen Raum
Bislang gibt es keine einheitliche Definition davon, was unter dem Begriff digitale (sexualisierte) Gewalt genau zu verstehen ist. Je nach Quelle werden unterschiedliche Bezeichnungen für dasselbe Phänomen verwendet: Mal ist von geschlechtsspezifischer Gewalt im digitalen Raum die Rede, mal nur von „digitaler Gewalt“, die auch Handlungen ohne sexualisierenden und geschlechtsbezogenen Charakter umfassen kann. Unser Verständnis bei AlgorithmWatch orientiert sich an der Definition des Bundesverbands der Frauenberatungsstellen und Frauennotrufe (bff): Diese versteht „digitale Gewalt“ als Oberbegriff für Formen geschlechtsspezifischer Gewalt, die unter Einsatz technologischer Mittel oder im digitalen Raum verübt wird. Digitale sexualisierte Gewalt findet einerseits im öffentlichen digitalen Raum statt, zum Beispiel durch das Teilen von sexualisierenden Inhalten auf Social-Media-Plattformen, andererseits aber auch durch die Digitalisierung von sexualisierter Gewalt in privaten sozialen Beziehungen. Hierzu zählen auch geschlossene Chat- und Nachrichtengruppen. Entsprechend kann „digitale Gewalt“ nicht völlig getrennt von „analoger Gewalt“ betrachtet werden, sondern ist eine Erweiterung analoger Gewalt im digitalen Raum. Unter anderem umfasst sie folgende Formen:
- Sexualisierende Deepfakes, die nicht-einvernehmlich erstellt und/oder verbreitet werden
- Bildbasierte sexualisierte Gewalt (zum Beispiel das Versenden unerwünschter sexueller Bilder wie “Dickpics”), einschließlich der nicht-einvernehmlichen Weitergabe intimer Aufnahmen („Image-based Sexual Abuse“, kurz: IBSA),
- Sextortion (die Erpressung mithilfe intimer Inhalte),
- Sexualisierte Beleidigungen, Hassrede und Drohungen in sozialen Medien und über Messenger-Dienste,
- Cybergrooming (das gezielte Anbahnen sexueller Kontakte zu Minderjährigen im Internet),
- Stalking und Doxxing mit sexualisierter Komponente. Stalking benennt das beharrliche, unerwünschte Nachstellen und Bedrohen, das bis zu psychischer und körperlicher Gewalt reichen kann. Doxxing bezeichnet das Veröffentlichen von Kontaktdaten oder das Erstellen von Fake-Profilen, unter anderem in Verbindung mit Gewaltaufrufen.
Migrantische Frauen, LGBTQI+-Personen und Frauen des öffentlichen Lebens sind überproportional betroffen – in Deutschland und weltweit
Nicht-einvernehmliche sexualisierende Deepfakes werden in der Forschung als Form geschlechtsspezifischer Gewalt verstanden, die in patriarchale Macht- und Geschlechterverhältnisse eingebettet ist. Betroffen sind vor allem Frauen und Kinder. Eine intersektionale Perspektive zeigt zudem, dass marginalisierte Gruppen überproportional betroffen sind: Frauen mit Migrationshintergrund, Mädchen, Kinder und Jugendliche sowie queere und Trans-Personen erleben digitale sexualisierte Gewalt häufiger und in schwererer Form. Frauen, die in der Öffentlichkeit stehen (z.B. Schauspielerinnen, Sängerinnen, Politikerinnen, Aktivistinnen), sind oft stärker im Fokus von nicht-einvernehmlichen sexualisierenden Deepfakes, da ihr Bildmaterial in der Regel frei verfügbar im Internet zu finden ist. Mitunter kann hierbei das Zusammenspiel verschiedener Diskriminierungsformen die Gewaltausübung verstärken, beispielsweise Misogynie und Rassismus. Solche Deepfakes müssen daher auch als Problem der Demokratie erfasst werden, bei dem bestimmte Gruppen ins Visier geraten und eine gesamtgesellschaftliche Auseinandersetzung vonnöten ist.
In Deutschland sind belastbare Daten zu geschlechtsspezifischer digitaler Gewalt nur eingeschränkt verfügbar. Laut polizeilicher Kriminalstatistik sind mehr als 90 % der Betroffenen von hierzulande registrierten Sexualstraftaten weiblich. Die Dunkelfeldstudie LeSuBiA (2026) hat erstmals spezifisch digitale Gewalt untersucht – von Bildmanipulationen und diffamierenden Fake-Profilen bis zu digitaler sexueller Belästigung und Stalking. Sie zeigt, dass in den vergangenen fünf Jahren fast jede fünfte Frau (18,3 %) solche Gewalt „im weiteren Sinne“ erlebt hat (gemeint sind damit Gewaltformen im digitalen Raum, die auch außerhalb davon existieren – bspw. psychische Gewalt oder Belästigung), gegenüber 11,7 % der Männer, wobei Frauen mit Migrationshistorie überproportional (22,2%) betroffen waren. Sexualisierende Deepfakes wurden jedoch auch hier nicht als eigenständiges Phänomen erfasst.
Eine gemeinsame Untersuchung der Technischen Universität München und der Organisation HateAid (2025) zeigt, dass politisch engagierte Frauen überproportional oft von digitaler Gewalt betroffen sind. 63 % der befragten Frauen berichten von digitaler Gewalt, unter den Männern sind es 53 %. Besonders alarmierend ist, dass hierbei fast zwei Drittel der betroffenen Frauen geschlechtsspezifische Gewalt in Form von Sexismus, Frauenhass und misogynen Aussagen erleben, während knapp ein Viertel von ihnen Vergewaltigungsdrohungen erhält. Eine Erhebung der Gesellschaft für Freiheitsrechte (GFF) unter der deutschsprachigen Bevölkerung ab 18 Jahren zeigte bereits 2021, wie sehr digitale Gewalt insbesondere junge Frauen betrifft und langfristig prägt: Jede vierte junge Frau hat digitale Gewalt selbst erfahren; jede Dritte fürchtet, dass intime Aufnahmen von ihr ohne ihre Zustimmung im Netz veröffentlicht werden könnten.
Eine gemeinsame Recherche des Tech-Magazins WIRED und der Plattform Indicator hat erstmals systematisch ausgewertet, wie weit der Missbrauch von sexualisierenden Deepfakes an Schulen weltweit verbreitet ist: Seit 2023 wurden in mindestens 28 Ländern, darunter auch Deutschland, Fälle öffentlich bekannt, in denen überwiegend männliche Jugendliche an weiterführenden Schulen ihre Mitschülerinnen mit KI-generierten Nacktbildern attackierten. Insgesamt sind rund 90 Schulen und mehr als 600 Schülerinnen betroffen, wobei die Dunkelziffer höher liegen dürfte. Auch Lehrkräfte sind zum Teil betroffen oder wurden zu Tätern, wie ein Fall in Hessen zeigt. Laut einer Schätzung von UNICEF haben im Jahr 2025 weltweit rund 1,2 Millionen Kinder sexualisierende Deepfakes von sich entdeckt. Wenn die dargestellten Personen minderjährig sind, gelten die Inhalte rechtlich als Child Sexual Abuse Material (CSAM, Darstellungen sexualisierten Missbrauchs von Kindern).
Sexualisierende Deepfakes nehmen weltweit deutlich zu. Eine Untersuchung aus 2023 verzeichnete einen Anstieg von Deepfake-Videos um 550 % gegenüber 2019. 98 % davon waren sexualisierender Natur und zeigten zu 99 % Frauen. Auch geografisch und je nach Berufsfeld zeigt sich eine deutliche Tendenz: Betroffene kommen überwiegend aus dem Unterhaltungsbereich; Südkorea steht mit einem Anteil von 53 % an allen online verbreiteten sexualisierenden Deepfakes an der Spitze der Länder. Die Studie führt dies auf kulturelle Stereotype und geopolitische sowie auf bestimmte Zielgruppen ausgerichtete Faktoren zurück. Zudem hosteten 2023 sieben der zehn größten Pornoplattformen sexualisierende Deepfakes, die insgesamt über 300 Milliarden Aufrufe zählten. Jedes dritte untersuchte Deepfake-Tool ermöglichte die kostenfreie Erstellung sexualisierender Inhalte in unter einer halben Stunde.
Wie sehr sich diese Dynamik durch integrierte generative KI weiter zuspitzt, zeigt auch eine Untersuchung zum KI-Chatbot Grok auf der Plattform X (ehemals Twitter): Im Zeitraum vom 5. bis 6. Januar 2026 waren rund 85 % der pro Stunde generierten Deepfakes – über 7.800 Bilder – von sexualisierender Natur. Hinter den Deepfakes steht eine wachsende Industrie, die gezielt versucht, sich jeder Verantwortung zu entziehen. Anbieter von Deepfake-Diensten verstecken sich hinter ausländischen Firmensitzen und anonymen Strukturen, während ihr Angebot mühelos und mit gängigen Zahlungsmitteln nutzbar ist. Attraktiv bleibt das Geschäftsmodell, bis wirtschaftlicher Gegendruck entsteht – 2020 zwang der Kreditkarten-Rückzug Pornhub zu Praxisänderungen.
Screenshots aus dem von AlgorithmWatch entwickelten „NST Detection Tool“ zur Auffindung möglicher Nudify-Apps in App-Stores. Die Bilder zeigen nicht zwangsläufig Apps, die sexualisierende Deepfakes erstellen können. Hierzu bedarf es weiterer Tests, um festzustellen, welche Features die Apps bereitstellen.
Was sind die Folgen für Betroffene und die Gesellschaft?
Die Folgen sexualisierter Gewalt im digitalen Raum sind für die Betroffenen schwerwiegend. Sie leiden unter erheblichen psychischen und körperlichen Belastungen, die von Traumata wie Angststörungen, Scham, sozialer Isolation und suizidalen Gedanken bis hin zu gesundheitlichen Krisen reichen können. Bei nicht-einvernehmlichen sexualisierenden Deepfakes kommt durch die breite Verfügbarkeit auch das Risiko einer Normalisierung sexualisierter Gewalt gegen Frauen hinzu. Eine länderübergreifende Studie von 2022 zeigt, dass die emotionalen, psychischen, beruflichen und sozialen Folgen (bspw. durch die Bedrohung der wirtschaftlichen Existenz aufgrund des Verlustes von Kooperationen und Jobchancen) oft lange über den ursprünglichen Missbrauch hinaus fortwirken. Bei den Betroffenen kann das zu anhaltender Angst darüber führen, wer die Bilder gesehen hat oder noch sehen wird. Laut einer weiteren Studie sind Schuldzuweisungen an Betroffene und die Relativierung digitaler sexualisierter Gewalt besonders unter männlichen, heterosexuellen Befragten verbreitet: Frauen werden zum Sexting (dem Versenden und Empfangen eigener intimer Bilder und Videos) gedrängt, zugleich aber für die Folgen verantwortlich gemacht. Auch die Annahme, körperliche Gewalt wiege schwerer als „Online“-Gewalt, ist weit verbreitet – mitunter auch bei Strafverfolgungsbehörden und Erstkontaktstellen –, was dazu beiträgt, dass solche Fälle weniger ernst genommen werden. Dabei mündet digitale geschlechtsbezogene Gewalt häufig in analoge Übergriffe wie Stalking oder sexuelle Belästigung.
Deepfakes werden zudem gezielt eingesetzt, um Frauen (und LGBTQI+-Personen) einzuschüchtern und aus öffentlichen und politischen Debatten zu drängen. Es entsteht ein „Silencing Effect“: die Einschränkung öffentlicher Meinungsäußerung, der Rückzug aus sozialen Medien oder die Aufgabe politischer Ämter. Vor allem Frauen, die im öffentlichen oder politischen Leben aktiv sind, schränken infolge erlebter digitaler sexualisierter Gewalt ihre Teilhabe ein oder ziehen sich gänzlich zurück. Eine Studie aus dem Jahr 2025 belegt, dass in Deutschland ein erheblicher Anteil betroffener Politikerinnen erwägt, aufgrund von digitaler Gewalt öffentliche Ämter aufzugeben oder gar nicht erst anzutreten. Dies schwächt nicht nur die Meinungsvielfalt im demokratischen Diskurs, sondern gefährdet auch die politische Repräsentation von Frauen.
Diese Art der Verdrängung betrifft jedoch nicht nur den politischen Raum. Laut einer Recherche entscheidet gerade bei Vorfällen, die Kinder und Jugendliche betreffen, die erste institutionelle Reaktion darüber, ob sie sich künftig Erwachsenen anvertrauen. Solche Erfahrungen im frühen Leben beeinflussen das spätere Vertrauen in öffentliche Institutionen, in den Rechtsstaat und in die eigene Selbstwirksamkeit.
All diese Schädigungen werden durch geschlechtsspezifische Doppelstandards verschärft, da Frauen und LGBTQI+-Personen in sexualisierten Inhalten stärker stigmatisiert werden als Männer – was auch prägt, wer überhaupt als „betroffen" gilt. Sexarbeiterinnen werden dabei oft übersehen, obwohl ihr Arbeitsmaterial ohne Einwilligung – häufig durch Abschöpfung von Porno-Plattformen – für nicht-einvernehmliche Deepfakes genutzt wird und ihnen so Kontrolle, Einnahmequelle und Gegenwehr zugleich entzogen werden; das Schutzvakuum trifft mehrfach benachteiligte Frauen wie Asylsuchende am härtesten, die ihren Aufenthaltsstatus verlieren können, wo Sexarbeit verboten ist.
Weitere Studien zeigen, dass das oftmals humoristische Framing von Deepfake-Inhalten auf Social Media die Verantwortung von Plattformen weg und hin zu Einzelpersonen verschiebt (Gosse & Burkell, 2020; Cochran & Napshin, 2021). Die mediale Berichterstattung stellt digitale Gewalt durch geschlechtsspezifische Deepfakes zudem tendenziell als weniger relevant dar als ihren Einsatz zur Desinformation. Eine experimentelle Studie ergab, dass sexualisierende Deepfakes nachsichtiger beurteilt werden, wenn es sich um eine bekannte Persönlichkeit handelt oder die Inhalte nur zur privaten sexuellen Befriedigung statt zur öffentlichen Verbreitung erstellt wurden.
Kein Einzeltäterphänomen: Das strukturelle Ausmaß der Motivationen und die männliche Dominanz in Online-Räumen
Die Forschung zum konkreten Tathergang bei nicht-einvernehmlichen sexualisierenden Deepfakes steht noch am Anfang, hat aber in den vergangenen Jahren sich wiederholende Muster ausgemacht – sowohl in Bezug auf die Motivation der Täter als auch auf die gesellschaftliche Wahrnehmung solcher Inhalte. Viele Studien betonen zugleich, dass individuelle Motivation allein die Verbreitung nicht ausreichend erklärt. Auch die Forschung dazu, was zum Konsum solcher Deepfakes motiviert, ist bislang begrenzt. Nur eines zeigt sich immer wieder: Die Täter sind überwiegend Männer.
Die Motive sowohl jugendlicher als auch erwachsener Täter sind breit gefächert und reichen von sexueller Lust über Neugier und Rache bis hin zu Mutproben. Es zeigt sich zunehmend, dass sexuelle Befriedigung nicht zwingend das primäre Ziel ist. Stattdessen steht zunehmend die Ausübung von Macht im Vordergrund, darunter Demütigung, Herabwürdigung und soziale Kontrolle, Rufschädigung und Rache (Vasist & Krishnan, 2023).
Die Motivation für sexualisierte Gewalt im digitalen Raum steht in einem größeren geschlechtsbezogenen Zusammenhang: Das Netz ist nach wie vor von sexistischen und frauenfeindlichen Mustern geprägt, und gerade auf sozialen Plattformen schreitet eine misogyne Radikalisierung voran. Sichtbar wird dies etwa in der sogenannten „Manosphäre“, einem losen Netzwerk von Online-Communities, in dem ein rigides Verständnis von Männlichkeit gepflegt wird. In dieser Echokammer wird die Vorstellung verbreitet, der Fortschritt bei der Gleichstellung der Geschlechter und bei den Frauenrechten gehe auf Kosten der Männer. Studien zu einschlägigen Online-Communities zeichnen ein ähnliches Bild: Untersuchungen in Foren auf GitHub, Reddit und vergleichbaren Plattformen (Newton & Stanfill, 2020; Winter & Salter, 2020; Kalpokas et al., 2024) beschreiben die Erstellung sexualisierender Deepfakes als eingebettet in eine Kultur „toxischer Männlichkeit", in der technische Expertise zur Inszenierung einer männlichen Vorherrschaft eingesetzt wird. Wiederkehrende Muster in diesen Communitys umfassen die Reduzierung der dargestellten Person auf schlichtes Bildmaterial, die Leugnung der nicht-einvernehmlichen sexualisierenden Dimension und eine ausgeprägte Gleichgültigkeit gegenüber den Schäden für Betroffene. Deepfake-Gewalt erscheint weniger als Einzelübergriff denn als kollektiv inszenierte hypermaskuline Anspruchshaltung gegenüber dem weiblichen Körper und repräsentiert eine „neue Form digitalen sexuellen Missbrauchs“.
Welchen Schutz bieten Gesetze gegen „Deepnudes“ und welche Rolle spielen KI-Anbieter und Plattformen?
Die Gesetzeslage besteht aktuell aus einem Geflecht an europäischen und nationalen Regelungen. Viele rechtliche Bausteine existieren bereits oder befinden sich in Vorbereitung. Doch nur ihr konsequentes Zusammenspiel, eine effektive Durchsetzung, das Schließen bestehender Lücken und ein gesamtgesellschaftliches Umdenken können Betroffene effektiv schützen.
Plattformen, KI-Anbieter*innen und Täter sind dabei die zentralen Akteure in der Gesetzgebung, wenn es um nicht-einvernehmliche sexualisierende Deepfakes geht. Erstere spielen eine Schlüsselrolle bei der Verbreitung solcher Inhalte und werden durch den europäischen Digital Services Act (zu Deutsch: Digitale-Dienste-Gesetz) adressiert. Betreiber*innen von KI-Systemen stehen vor allem bei der technischen Herstellung im Fokus, die durch eine Erweiterung der Verantwortungen innerhalb der europäischen KI-Verordnung (AI Act) geregelt werden soll. Die Täter-Ebene wiederum soll in Deutschland zukünftig durch das Gesetz gegen digitale Gewalt abgedeckt werden, das nach aktuellem Entwurf sowohl die Erstellung als auch die Verbreitung nicht-einvernehmlicher sexualisierender Deepfakes unter Strafe stellt.
Der Digital Services Act (DSA) verpflichtet sehr große Online-Plattformen (solche mit mehr als 45 Millionen monatlichen Nutzer*innen in der EU) dazu, sogenannte „systemische Risiken“ proaktiv zu bewerten und zu mindern. Dazu zählt ausdrücklich auch geschlechtsspezifische Gewalt sowie Verletzungen der Menschenwürde und der Privatsphäre. In Mitgliedstaaten, in denen nicht-einvernehmliche sexualisierende Inhalte als illegal eingestuft sind, gelten die DSA-Pflichten zur Bearbeitung und Meldung solcher Inhalte für sämtliche Online-Dienste, nicht nur für die großen Plattformen. Die KI-Verordnung (AI Act) enthält in Artikel 5 einen Katalog an Praktiken, für die der Einsatz von KI-Systemen in der EU verboten ist. In einem Überarbeitungsprozess der Verordnung von 2026 wurde eine Erweiterung um ein explizites Verbot von KI-Tools beschlossen, die ohne Schutzvorkehrungen eine Erstellung von nicht-einvernehmlichen intimen Inhalten ermöglichen.
Unsere Stellungnahme zum Verbot von Deepfakes durch die europäische KI-Verordnung
Völkerrechtlich betrachtet verpflichtet die Istanbul-Konvention des Europarats, die für Deutschland seit 2018 verbindlich gilt, die Vertragsstaaten zum Schutz vor und zur Bekämpfung von Gewalt gegen Frauen in jeglicher Form. Darüber hinaus sind EU-Mitgliedstaaten durch die EU-Richtlinie zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt (2024) verpflichtet, geschlechtsspezifische digitale Gewalt unter Strafe zu stellen und geschlechtsspezifische Tatmotive als Gründe zur Strafverschärfung zu bewerten. Die Umsetzung in nationales Recht muss bis Juni 2027 erfolgen.
Auf nationaler Ebene hat das Bundesministerium für Justiz und Verbraucherschutz (BMJV) kürzlich einen Entwurf für ein digitales Gewaltschutzgesetz vorgelegt. Bislang fehlt im deutschen Recht ein eigener Straftatbestand für nicht-einvernehmliche sexualisierende Deepfakes – obwohl es bereits 2023 ein erstes Eckpunktepapier der damaligen Bundesregierung gab. Das vom Bundesjustizministerium angekündigte Gesetz gegen digitale Gewalt wird seit Ende Mai 2026 im Bundeskabinett diskutiert.
Unsere Stellungnahme zum Entwurf des Gesetzes gegen digitale Gewalt (Ggdg)
Für Betroffene in Deutschland gilt zudem ein gesetzlicher Rechtsanspruch auf eine juristische oder psychologische Beratung, die zwar im Gewalthilfegesetz der Bundesregierung verankert ist, aber erst ab dem Jahr 2032 greift. Bis dahin müssen Frauen hierzulande mit den Konsequenzen weiterhin selbst zurechtkommen.
Bei der Umsetzung bereits bestehender Gesetze und geplanter Gesetzesvorhaben gibt es ebenfalls Nachbesserungsbedarf, ebenso wie in den Behörden zur entsprechenden Durchsetzung. Denn eine wirksame Antwort der Justiz hängt nicht allein von passenden Straftatbeständen ab. Es steht ebenso zur Frage, ob Polizei, Staatsanwaltschaften und Gerichte die Betroffenen ernst nehmen, ihnen glauben und über das nötige Spezialwissen für KI-gestützte Gewalttaten verfügen. Die Lücke zwischen formaler Rechtslage und tatsächlicher Strafverfolgung ist also groß und reicht von Victim-Blaming (die Zuschreibung von Verantwortung an Betroffene einer Straftat statt an die Täter*innen, auch Täter-Opfer-Umkehr genannt), Normalisierung und fehlenden Meldewegen bis hin zum Erschweren oder Abraten von Anzeigen durch die Behörden selbst – oft unter dem Vorwand, die Täter seien nicht identifizierbar. Auf den erlebten Übergriff folgt für die Betroffenen insofern eine institutionelle Reaktion, die das Unrecht relativiert anstatt es anzuerkennen, wodurch Betroffene erneut zu Opfern werden. Erhebungen aus Deutschland zeigen diese mangelnden Unterstützungsstrukturen auf: Jede dritte befragte Person traut keiner amtlichen Stelle zu, digitale Gewalt wirksam anzugehen. 78 % hielten die Schutzmaßnahmen der Plattformen für unzureichend, während die Anzeigequote für digitale Gewalt unter betroffenen Frauen bei nur 2,4 % liegt. Neben den politischen Maßnahmen ist die gezielte Weiterbildung in Strafverfolgungsbehörden also ebenso bedeutsam
Gewaltformen wie nicht-einvernehmeliche sexualisierende Deepfakes sind weit mehr als ein technisches Missbrauchsphänomen: Sie verlängern patriarchale Machtverhältnisse in den digitalen Raum, treffen marginalisierte Gruppen am härtesten und verdrängen Frauen aus öffentlichen und politischen Debatten. Sie einzudämmen verlangt nicht nur das Zusammenspiel bestehender und neuer Gesetze, sondern auch deren konsequente Durchsetzung – und ein gesellschaftliches Umdenken, das digitale Gewalt nicht länger relativiert.
Weiterführende Links und Literatur
The Office of the United Nations High Commissioner for Human Rights. (2026). Technology Facilitated Gender-Based Violence. https://www.ohchr.org/sites/default/files/documents/issues/women/genderandequality/2025-tool-technology-facilitated-gbv.pdf
Zorloni, L., AI Forensics, Open Society Foundations, Luminate, Limelight Foundation, & UCM. (2026). Harassment As Infrastructure: How Telegram’s design enables technology-facilitated gender-based violence in Italy and Spain. https://aiforensics.org/uploads/NCII%20Telegram%20-%20Harassment%20As%20Infrastructure.pdf
Burgess, M. (2026). The deepfake nudes crisis in schools is much worse than you thought. WIRED. https://www.wired.com/story/deepfake-nudify-schools-global-crisis/
Deutscher Juristinenbund e.V. (djb). Rechtlicher Handlungsbedarf bei nicht-einvernehmlichen sexualisierenden Deepfakes (2026). https://www.djb.de/presse/stellungnahmen/detail/st26-09#
LeSuBiA - Lebenssituation, Sicherheit und Alltag. Eine geschlechterübergreifende Bevölkerungsbefragung zur Gewaltbetroffenheit in Deutschland. (2026). https://www.bka.de/DE/UnsereAufgaben/Forschung/ForschungsprojekteUndErgebnisse/Dunkelfeldforschung/LeSuBiA/lesubia_node.html
HateAid, Koch, L., Voggenreiter, A., Steinert, J. I. (2025): Angegriffen & alleingelassen. Wie sich digitale Gewalt auf politisches Engagement auswirkt. Ein Lagebild. https://hateaid.org/wp-content/uploads/2025/01/hateaid-tum-studie-angegriffen-und-alleingelassen-2025.pdf
Bundeszentrale für politische Bildung: Feminizide und Gewalt gegen Frauen. https://www.bpb.de/themen/gender-diversitaet/femizide-und-gewalt-gegen-frauen/560023/digitale-gewalt-im-sozialen-nahraum
Flynn, A., Powell, A., Eaton, A., & Scott, A. J. (2025). Sexualized Deepfake Abuse: perpetrator and victim perspectives on the motivations and forms of Non-Consensually created and shared sexualized deepfake imagery. Journal of Interpersonal Violence, DOI: 10.1177/08862605251368834. https://doi.org/10.1177/08862605251368834
Lazard, L., Capdevila, R., Turley, E. L., Gilfoyle, K., & Stavropoulou, N. (2025). Deepfake Technology and Gender-Based Violence: A scoping review. Trauma Violence & Abuse, DOI: 10.1177/15248380251384271. https://doi.org/10.1177/15248380251384271
HateAid. (2025). Safe to engage: Securing democratic voices online — HateAid. https://hateaid.org/hass-hetze-politisch-engagierte-safe-to-engage/
Kalpokas, Ignas, et al. (2024). „Technology as a Threat or a Solution? The Challenges of Responding to Synthetic Media.“ Baltic Journal of Law & Politics, vol. 16, no. 2, Faculty of Political Science and Diplomacy and the Faculty of Law of Vytautas Magnus University (Lithuania), pp. 1-22. https://reference-global.com/article/10.2478/bjlp-2023-0010?tab=preview
GFF – Gesellschaft Für Freiheitsrechte e.V. Die Marie-Munk-Initiative. (2023). https://freiheitsrechte.org/themen/starke-grundrechte-fuer-eine-lebendige-demokratie/marie-munk-initiative
Flynn, A., Cama, E., Powell, A., & Scott, A. J. (2022). Victim-blaming and image-based sexual abuse. Journal of Criminology, 56(1), 7–25. DOI: 10.1177/26338076221135327 https://doi.org/10.1177/26338076221135327