Inhaltshinweis: Dieser Artikel behandelt reale Geschichten über nicht-einvernehmliche sexualisierte Deepfakes, bildbasierten Missbrauch, Online-Belästigung, Sextortion und die psychologischen Auswirkungen digitaler Gewalt.

Seit Julie mit einer Flut an gefälschten Nacktfotos von sich selbst bombardiert wurde, ist sie von wiederkehrenden Gedanken geplagt. Jedes Mal, wenn die 31-jährige Journalistin aus Rio de Janeiro in Brasilien einen Aufzug voller Männer betritt, beginnt ihr Verstand zu rasen. Haben die Männer die Fotos gesehen? Hatten sie Zugang zu intimen Bildern ihres Körpers, die sie der Welt nie zeigen wollte? Die Wände scheinen näher zu rücken, während sich ein noch beängstigenderer Gedanke einschleicht: Was, wenn einer der Männer hinter den gefälschten Bildern steckt?

Julie fühlt sich nirgendwo mehr sicher. Sie hat das Gefühl, die Kontrolle über ihren Körper verloren zu haben. Was als Online-Angriff begann, hat nun auch die Offline-Welt erreicht und attackiert ihren Alltag, ihre Realität.

Auf der anderen Seite der Welt, in Großbritannien, durchsucht Laura* das Internet nach gefälschten Fotos von sich. Laura ist eine erfahrene Sexarbeiterin. Sie hat mitbekommen, dass ihre Inhalte, die sie auf Websites für Sexarbeit mit zahlenden Mitgliedern hochlädt, möglicherweise geleakt wurden. Bei Google stößt sie auf ein Bild von sich, auf dem sie eine berühmte Person küsst.

Die Szene ist gefälscht – der Kuss hat nie stattgefunden.

Ihr wird übel. Als Sexarbeiterin ist sie es gewohnt, anzügliche Fotos von sich im Internet hochzuladen. Doch auf Bilder zu stoßen, von denen sie weiß, dass sie manipuliert wurden, fühlt sich wie ein Verrat an. Genau wie Julie wird Laura plötzlich bewusst, dass sie die Kontrolle über ihren eigenen Körper und ihr eigenes Bild verloren hat.

Sowohl Julie als auch Laura sind Opfer einer Technologie geworden, die Künstliche Intelligenz nutzt, um gefälschte Bilder zu erstellen: „Nudification“-Apps, auch bekannt als Non-Consensual-Sexualisation-Tools (NSTs), wurden in den Medien bekannt, nachdem sich herausstellte, dass der KI-gestützte Chatbot Grok der Plattform X dazu verwendet werden kann, aus echten Fotos – meist von Frauen, aber auch von Kindern und Angehörigen der LGBTQI+-Community – sexualisierte Bilder zu erstellen. Die öffentliche Reaktion fiel so stark aus, dass sie zu einem Verbot solcher Tools als Teil des „AI Omnibus“ führte – einem Gesetz, das vorgeblich darauf abzielt, digitale Regulierung in Europa zu „vereinfachen“.

Die Demokratisierung der Technologie – mit bösen Absichten

Du siehst eine fremde Person, machst ein Foto und kannst quasi automatisch die Kleidung entfernen – so einfach wie ein Fingerschnippen. Im Wesentlichen ist das die Leistung eines solchen Tools zur nicht-einvernehmlichen Sexualisierung, kurz NST („Non-consensual sexualization tool“). Der Prozess dahinter ist allerdings komplexer: Es werden enorme Datenmengen benötigt, um die generativen KI-Modelle zu trainieren, die diese Tools antreiben. Im Grunde kombinieren die Tools existierende Fotos von nackten Körpern, um ein Bild zu erzeugen, das dem Gesicht und der Körperform auf dem bereitgestellten Foto entspricht – nur eben ohne die Kleidung.

Für Sexarbeiter*innen birgt die Technologie eine zusätzliche Gefahr, die nicht unmittelbar zu erkennen ist: Durch die Erstellung gefälschter Nacktbilder oder sexualisierter Fotos von Sexarbeiter*innen erhalten Menschen Zugang zu Inhalten, für die sie eigentlich zahlen müssten – und die nur erstellt werden konnten, weil sie auf anderen Bildern basieren, die wiederum erst durch die Ausbeutung von Sexarbeiter*innen entstanden sind.

Während Grok der bislang bekannteste Fall einer massenhaften KI-Generierung gefälschter sexualisierter Inhalte ist, gibt es zahlreiche weitere Apps, die dazu in der Lage sind. Die Idee dahinter ist natürlich nicht neu: Lange Zeit waren Fotomontagen von Prominenten oder Privatpersonen gang und gäbe, die auf Fotos von Pornodarsteller*innen oder Nacktmodels montiert wurden. Der Unterschied heute: Dank KI können auch Menschen ohne jegliche technologische Kenntnis äußerst realistische Deepfakes erzeugen, die kaum von echten Fotos zu unterscheiden sind.

Kolina Koltai, leitende Forscherin bei der Gruppe für investigativen Journalismus „Bellingcat“ aus den Niederlanden, hat sich intensiv mit dieser Art von Tools beschäftigt. Sie warnt: „Der Unterschied liegt in der Geschwindigkeit und der Leichtigkeit, mit der realistische Inhalte erstellt werden können. Heutzutage braucht man weder Geld noch technisches Know-how, um sowas zu bewerkstelligen“, fügt sie hinzu.

Während die Europäische Kommission und nationale Regulierungsbehörden das Thema in den Fokus rücken, wurden die Auswirkungen auf Sexarbeiter*innen dabei bislang kaum thematisiert.

Auch bei den früheren Fotomontagen wurde selten über die Frauen gesprochen, deren Bilder „enthauptet“ wurden, um manipulierte Versionen ihrer Bilder zu erstellen. Heute werden dafür ohne Erlaubnis Pornoseiten abgegriffen. Das stellt nicht nur eine Form von digitaler Gewalt und Missbrauch dar, sondern auch Diebstahl, denn für Sexarbeiter*innen sind die Inhalte ihre Existenzgrundlage. Doch in der Regel wird ihnen der Opferstatus nicht zuerkannt: „Die Menschen scheinen leider weniger Mitgefühl mit Sexarbeiter*innen zu haben“, sagt Koltai.

Digitale Gewalt gegen Frauen ist kein neues Phänomen. Doch Julie beobachtet einige besorgniserregende Veränderungen: Von unzähligen Angriffen in Form von hasserfüllten Antworten und Kommentaren weiß sie schon lange zu berichten. Der Unterschied besteht nun darin, dass auch extrem explizite Nacktbilder von ihr für die Angriffe verwendet werden. Früher gingen die Attacken darauf zurück, dass sie eine „deutliche politische Meinung“ vertrat, die sie auf ihren Plattformen äußerte. Nach der COVID-Pandemie bemerkte sie jedoch eine Veränderung: Die gezielten Angriffe wurden zunehmend durch den Einsatz von Bots automatisiert.

Anfang 2026 wurde Julie zu einem der Opfer, die mit gefälschten Nacktbildern der Plattform-eigenen KI Grok auf X bombardiert wurden. Ihr Account wurde von zahllosen unterschiedlichen Profilen überschwemmt. Wenn sie die Antworten auf ihrem Profil öffnete, sah sie als erstes sich selbst – in sexualisierten Posen auf Nacktfotos, die erschreckend realistisch wirkten.

Sie konnte nachverfolgen, dass die Accounts, die die Bilder verbreiteten, in verschiedenen Ländern erstellt worden waren. Sie alle folgten denselben Accounts und erweckten den Eindruck einer koordinierten Gruppe an „Geisterprofilen“, hinter denen keine einzelnen, echten Nutzer*innen stecken: „Nur drei der mehr als 20 Accounts, die mich attackierten, hatten mehr als eintausend Follower*innen. Es schien mir ein enges Netzwerk zu sein: Die Accounts hatten eine festgelegte Art, wie sie schrieben, und schienen bereits zu wissen, was sie posten würden, wenn sie auf meine Seite kamen.“

Prominente und Persönlichkeiten des öffentlichen Lebens sind oft die einfachsten Ziele für Netzwerke wie jenes, das Julie angegriffen hat: Die italienische Ministerpräsidentin Georgia Meloni nahm es auf sich, ein gefälschtes Foto zu entlarven, das sie in einem Negligé auf einem Bett zeigte. Obwohl das Foto keineswegs pornografisch war, reichte es aus, um einen öffentlichen Aufruhr auszulösen und ihren Ruf zu schädigen.

Die stellvertretende Ministerpräsidentin Schwedens, Ebba Busch, wurde Opfer eines ähnlichen Angriffs. Nutzer auf X wiesen Grok an, sie auf Fotos zu entkleiden, ihre Brüste und ihr Gesäß zu vergrößern oder ihre Haltung so zu verändern, dass es aussah, als würde sie sich in einer sexualisierten Pose nach vorn beugen. Auch Busch reagierte öffentlich auf den Skandal.

Koltai zufolge gibt es auch einen finanziellen Anreiz, den Missbrauch am Laufen zu halten: „Im Allgemeinen sind die Leute hinter diesen Apps dadurch angetrieben, dass sie damit Geld verdienen können. Es ist ein unglaublich profitables Geschäft.“ Ein Bericht des Tech Transparency Project schätzt, dass allein im Apple App Store solche NSTs bzw. Nudify-Apps sage und schreibe 483 Millionen Mal heruntergeladen wurden und damit einen Umsatz von 122 Millionen US-Dollar erzielt haben.

Gezielte Angriffe: Wenn die Gefahr näher ist, als man denkt

Von Fremden mit pornografischen Deepfakes und hasserfüllten Nachrichten überschüttet zu werden, ist nicht die einzige Form, in der sich digitale Gewalt äußert. „In vielen Fällen ist der Täter jemand, den das Opfer kennt“, erklärt Koltai. In Deutschland sorgte der erschütternde Fall von Collien Fernandez für landesweites Aufsehen: Über viele Jahre hinweg nutzte ihr Ehemann – ein bekannter Komiker und Schauspieler – sowohl echte als auch KI-generierte Fotos von ihr als Form des digitalen sexuellen Missbrauchs, indem er sich auf Online-Plattformen als seine Partnerin ausgab, um Kontakt zu Fremden aufzunehmen.

Für Sexarbeiter*innen ist diese Realität der Gewalt noch komplexer, und entgegen einer verbreiteten Annahme sind Frauen nicht das einzige Ziel.

Kelly* ist ein nicht-binärer geflüchteter Mensch, dem bei der Geburt das männliche Geschlecht zugewiesen wurde („assigned male at birth“, kurz AMAB). Kelly lebt in der Türkei und hat zeitweise Sexarbeit geleistet, um während der Eingewöhnungsphase in einem neuen Land den Lebensunterhalt zu bestreiten. Kelly achtete sorgfältig darauf, dass die Fotos, die in Online-Anzeigen verwendet wurden, keine Hinweise auf Kellys Identität enthielten. Als geflüchtete Person, die in der Sexarbeit aktiv ist, drohten Kelly Sanktionen sowohl seitens der türkischen Regierung als auch seitens internationaler Flüchtlingsbehörden.

All das spielte keine Rolle für eine Kollegin, die Kelly in der Flüchtlingsgemeinschaft kennengelernt hatte. Die Kollegin wusste von Kellys gelegentlicher Sexarbeit und die beiden gerieten in eine politische Diskussion. „Es war so dumm“, erinnert sich Kelly.

Ein paar Tage später erhielt Kelly Fotos von sich selbst – vollkommen nackt und mit entblößten Genitalien.

Die Kollegin drohte, Kelly bei den Behörden anzuzeigen. Kelly bekam Angst. Andere Menschen in der Gemeinschaft sollen ähnliche Drohungen erhalten haben. Mit welcher App die Bilder erstellt worden waren, hat Kelly nie erfahren.

Annie*, eine nicht-binäre Sexarbeiterin aus Polen, der bei der Geburt das weibliche Geschlecht zugewiesen wurde (AFAB), wurde ebenfalls Opfer von Sextortion (der Erpressung mittels intimer Bilder) auf Basis von KI-generierten Inhalten. Ihre Ex-Freundin schickte Bilder von Annie an deren Familie, auf denen Annie künstlich „ausgezogen“ wurde, und entlarvte sie zudem als Sexarbeiterin. Die Bilder verbreiteten sich darüber hinaus im Internet, und da die Originalfotos Teile des Hauses und der Nachbarschaft zeigten, in der Annie lebte, wurde schließlich ihre Adresse bekannt. Sie war gezwungen umzuziehen und verbrachte mehrere Monate in einer prekären Wohnsituation. Auch ein Jahr später leidet Annie unter dem Trauma, wenn sie den Vorfall schildert.

Ungeschützt

Für Sexarbeiter*innen, die aufgrund der Kriminalisierung und Stigmatisierung ihres Berufs oft unter prekären Bedingungen leben, ist die ständige Gefahr, identifiziert zu werden, eine zusätzliche Belastung. Sämtliche im Rahmen dieser Recherche befragten Sexarbeiter*innen berichteten von Einkommensverlusten, seitdem sie sich davor fürchten, ihre üblichen Kanäle für Eigenwerbung zu nutzen. Annie erinnert sich, dass sie monatelang Angst davor hatte, zu arbeiten.

Im Fall von Sexarbeiter*innen ist es zudem nicht immer eine realistische Option, sich an die Behörden zu wenden oder die wenigen Rechtsschutzmechanismen zu nutzen, die von Plattformen angeboten werden. Denn in den meisten Fällen verlangen Plattformen zur Löschung von Inhalten Angaben zur Identität, was Sexarbeiter*innen einem hohen Risiko aussetzt.

Doch selbst für Menschen, die keine Sexarbeiter*innen sind und sich nicht mit solchen Einschränkungen konfrontiert sehen, kann es kompliziert sein, die Hilfe von Plattformen in Anspruch zu nehmen.

Anfangs hatte Julie das Gefühl, sie sollte sich einfach zurückziehen und abwarten, bis sich die ganze Sache gelegt hat. Doch die Angriffe hörten nicht auf. Also beschloss sie, die Sache selbst in die Hand zu nehmen und sich zu wehren. Die Kontaktaufnahme mit der Polizei und mit Anwälten beschreibt sie als unfassbar frustrierende Erfahrung: „Sie sind nicht darauf vorbereitet, mit so einem Fall umzugehen. Die Polizei tat im Grunde so, als würde ich überreagieren, weil die Fotos schließlich gefälscht waren.“

In Großbritannien, tausende Kilometer entfernt, bekam Laura eine ähnliche Antwort zu hören. Die Polizei erklärte, sie könne nicht viel tun, weil das Foto KI-generiert sei. Deswegen gebe es keine Möglichkeit festzustellen, ob sie wirklich die Person auf den Bildern sei.

Cordelia Moore, eine Beraterin für digitale Gewalt in Deutschland, die direkt mit Betroffenen zusammenarbeitet, erklärt, dass viele Opfer gar nicht wüssten, dass sie ihre Erfahrungen bei den Behörden melden können: „Bei synthetischen Bildern gibt es nach wie vor eine große Grauzone: Die Strafverfolgungsbehörden sind nicht darauf vorbereitet, solche Fälle zu bearbeiten.“

Und auch auf den Plattformen scheint dies der Fall zu sein. Als Julie die Fotos bei X meldete, wurden sie entfernt. Doch es gab keine brauchbare Spur, um den Tätern nachzugehen, da in vielen Fällen Ghost-Accounts oder Bots verwendet wurden. Die Plattform X bot keine wirklich anwendbare Möglichkeit, die Täter tatsächlich aufzuspüren.

Diese Erfahrung scheint weitverbreitet zu sein. Eva Lejla Podgoršek, Senior Policy Managerin bei AlgorithmWatch, untersucht ebenfalls solche Apps. Sie erzählt, wie sie beobachtet hat, dass Accounts auf X vorübergehend verschwanden, wenn sie wegen der Nutzung von Grok zur Erstellung sexualisierter Deepfakes gemeldet wurden – nur um später erneut auf der Plattform aufzutauchen.

Neben den großen Akteuren wie Grok ist der Markt für Nudification-Apps noch wesentlich undurchsichtiger. „Viele davon sind nicht als offensichtliche NSTs gelistet“, erklärt Eva Lejla Podgoršek. „Auf den ersten Blick sehen sie nach etwas anderem aus – zum Beispiel wie eine App für romantische Begegnungen. Man muss genauer hinschauen, um zu erkennen, was sie eigentlich anbieten. Dadurch wird es schwierig, den Überblick zu behalten.“

„Die meisten Apps werden in geschlossenen Foren verbreitet. Die Plattform X wiederum geriet in Schwierigkeiten, weil Grok öffentlich ist und mehr Aufmerksamkeit erhielt“, erklärt Koltai von Bellingcat und fügt hinzu: „Grok ist der weltweit beliebteste Nudification-Service – auch wenn er ursprünglich nicht dafür entwickelt wurde.“

Wer gilt als echtes Opfer?

Laura erhielt für ihr Leid wenig Mitgefühl, obwohl daraus langfristige Folgen für ihr Leben und ihre Arbeit entstanden. „Die Leute sagten: ‚Na ja, was hast du denn erwartet, du postest solche Inhalte online‘“, erinnert sie sich.

Doch bekommen auch Privatpersonen genau dasselbe zu hören: Julie erinnert sich an Freund*innen, die dieselben Argumente benutzten, um ihr die Schuld für die Deepfake-Angriffe zu geben: „Na ja, du hast Bilder von dir online gepostet, was hast du denn erwartet?“

Für Menschen, die solche Gewalt am eigenen Leib erfahren, verschieben sich die Maßstäbe ständig. Das verbindet die meisten Opfer von Attacken mit gefälschten, nicht-einvernehmlichen Nacktaufnahmen – egal ob es sich um Persönlichkeiten des öffentlichen Lebens, Privatpersonen oder Sexarbeiter*innen handelt.

All dies passiert in einer Zeit, in der Menschen mehr und mehr dazu gedrängt werden, online präsent zu sein, und in der das Internet für viele Sexarbeiter*innen immer noch der sicherste Weg ist, um Kund*innen zu überprüfen, auszuwählen und mehr Kontrolle darüber zu haben, wie, wann und wo sie arbeiten. Tatsächlich haben die verschiedenen Gruppierungen unter den Betroffenen mehr gemeinsam, als es auf den ersten Blick erscheint.

Der Effekt von nicht-einvernehmlichen sexualisierten Deepfakes auf verschiedene Opfergruppen. Grafik von Ana Ornelas, basierend auf einer Analyse 25 verschiedener Berichte von Opfern.

NSTs: Neues Symptom eines alten Problems

Wenn über nicht-einvernehmliche Deepfakes diskutiert wird, suggeriert die verwendete Sprache oft, dass es sich um ein aktuelles Problem handelt. Zwar sind der Realismus, die Einfachheit der Erstellung und die Allgegenwärtigkeit solcher Apps zum Entkleiden sicherlich neu. Das Problem ist es jedoch nicht.

In einem augenscheinlichen Versuch, das ganze Thema als harmlosen Scherz zu verkaufen, nutzte Elon Musk, Eigentümer und CEO von X, die KI Grok, um sich selbst zu entkleiden und in einen Bikini zu stecken. Allerdings riskierte Musk nicht seinen Ruf, seine Beziehungen oder seinen Job, indem er in einem Bikini auftrat. Außerdem tat der Multimilliardär dies vollkommen freiwillig.

Darin liegt womöglich der fundamentalste und heimtückischste Aspekt von Nudify-Apps und der nicht-einvernehmlichen Weitergabe intimer Bilder: Sexualität und Nacktheit werden als Waffe eingesetzt, um Zwang auszuüben, zu kontrollieren, anzugreifen, zu missbrauchen und zu erpressen.

Zwar könnte eine solche Praxis auch schlicht zur sexuellen Befriedigung genutzt werden, doch zeigt diese Recherche, dass das selten der Fall ist. Zumeist werden sexualisierte Bilder mit der Absicht erstellt, zu demütigen und Rache zu üben. Wie Julie sagt: Die Täter mussten in ihrem Fall lediglich einen Prompt an Grok schreiben und einen Knopf drücken. Für sie löste diese einfache Handlung eine verheerende Schockwelle aus, deren Folgen sie für immer prägen werden.

Nach dem Vorfall stellte Julie fest, dass sich ihre Wahrnehmung gegenüber anderen verändert hat: „Heutzutage wirkt es auf mich so, als ob Männer ständig versuchen, meine Grenzen zu überschreiten, sowohl online als auch offline. Ich habe das Gefühl, ständig unter Beobachtung zu stehen.“

Die feministische Historikerin Gerda Lerner schreibt, dass „die Klassenposition von Frauen durch ihre sexuellen Beziehungen gefestigt und verfestigt wurde“. Das Problem ist, dass die Sexualität von Frauen und Menschen mit nicht-binären Geschlechtern als Waffe eingesetzt wird, um Gewalt auszuüben.

Dies ist nur in einer Gesellschaft möglich, die eine Kontrolle über Körper und Sexualität mit der Absicht einer Zerstörung des Rufs und der Beziehungen von Individuen hinnimmt. Der „Kontrollverlust“ über den eigenen Körper ist etwas, das alle Überlebenden beschreiben. Doch Julie geht noch einen Schritt weiter: „Mir wurde klar, dass ich diese Kontrolle nie wirklich hatte.“

Sie empfindet den weiblichen Körper zudem als „öffentliches Eigentum“, was mit dem zusammenhängt, was die feministische Historikerin Silvia Federici in The Caliban and the Witch beschreibt: Als die Bauern den Zugang zu Gemeinschaftsland verloren, bestand der Kompromiss des Patriarchats darin, dass der weibliche Körper zum neuen Gemeingut wurde.

Die Frauenfeindlichkeit, die dieser Art von Missbrauch zugrunde liegt und ihn ermöglicht, ist dieselbe Frauenfeindlichkeit, die Täter vor der Rechenschaftspflicht schützt und gleichzeitig den Opfern die Schuld für die Gewalt gibt, die sie ertragen müssen.

Nudification-Apps sind ein Spiegel dafür, wie die Gesellschaft diesbezüglich funktioniert: Frauen und Menschen mit nicht-binären Geschlechtern sind unverhältnismäßig stark von Gewalt betroffen, wobei Sexarbeiter*innen aufgrund von Stigmatisierung, Kriminalisierung und Marginalisierung einer noch größeren Gefährdung ausgesetzt sind. Wenn diese Gewalt aufgedeckt wird, werden die Opfer beschuldigt, während jede Verbindung zur Sexarbeit (oder auch nur zu Verhaltensweisen, die lediglich als damit zusammenhängend wahrgenommen werden) als Waffe eingesetzt wird, um ihre Aussagen weiter zu diskreditieren.

Und solange diese Frauenfeindlichkeit nicht bekämpft wird, wird sie sich weiterhin auf jede neue Technologie auswirken.

*Die Namen wurden abgeändert, um die Identitäten der Opfer zu schützen.

Diese Recherche ist Teil des Rahmenprogramms der „Algorithmic Accountability Reporting Fellowship“ von Reporting Fellow Ana Ornelas.