Cybergrooming | Teil 1 von 3

Die automatisierte Jagd auf Cybergroomer

Cybergroomer machen sich online an Minderjährige heran, Algorithmen sollen solche Versuche aufdecken. Doch die Zuverlässigkeit automatisierter Systeme ist umstritten – und sie können sogar Kinder und Jugendliche kriminalisieren.

Foto von Gilles Lambert auf Unsplash

Jasmin geht es nur um Freundschaft: Nach der Schule chattet die Zwölfjährige fast jeden Tag auf Plattformen wie SchülerVZ, Wer kennt wen oder Emo-Treff mit Freundinnen – und mit Fremden. Ihrem Profil entnehmen die Männer Informationen wie Alter, Hobbys, Lieblingsmusik, Lieblingsfarbe, schreiben sie an: „Hey cool, die Musik höre ich auch.” Mit einem verabredet sie sich zum Eisessen, er holt sie mit dem Auto von der Schule ab. Statt zum Eiscafé fährt er weiter in die Weinberge. Und verriegelt die Autotür.

„Ich war im Kopf nicht so weit, um zu verstehen, dass sie Sex wollten”, sagt Jasmin, die heute 26 ist. In ihrer Kindheit kontaktierten sie 42 Männer im Internet, wie sie später zählt. Männer zwischen 40 und 60, die meisten Familienväter. Sie bauen vor der Vergewaltigung oft monatelang online Vertrauen auf. Manche drohen danach, ihren Hund oder ihre Schwester zu töten, wenn sie darüber spricht. „Als Kind dachte ich: Wow, da sind Menschen, die mir zuhören und mich verstehen”, sagt Jasmin, die mit 15 wegen häuslicher Gewalt aus ihrer Familie genommen wurde. Sie habe sich gefühlt wie programmiert: „Wer sexualisierte Gewalt mit großer Brutalität erlebt, kennt seine Grenzen nicht – ich war total gebrochen.”

Kinder aller Geschlechter sind von sexualisiertem Missbrauch betroffen, in etwa 75 bis 90 Prozent der Fälle sind die Täter Männer oder männliche Jugendliche. Die Täter*innen stammen aus allen sozialen Schichten. Jede App oder Plattform, die von Kindern und Jugendlichen genutzt wird, ist auch ein Einfallstor für Pädokriminelle – ob Foren, soziale Netzwerke wie YouTube, Instagram und TikTok, Gaming-Plattformen oder Kleinanzeigenportale. Weltweit werden seit Jahren zunehmend mehr Fälle von Cybergrooming bekannt. Cybergrooming ist die digitale Anbahnung sexualisierter Kontakte mit Minderjährigen. Mit zunehmender Digitalisierung verbringen Kinder mehr Zeit im Netz und sind auf eigenen Handys ständig erreichbar. In Ferienzeiten steigern sich ihre Online-Aktivitäten noch, auch während des Corona-Lockdowns verbrachten Kinder und Jugendliche mehr Zeit vor dem Screen. In Deutschland wurde jeder vierte Minderjährige einer Studie der Landesanstalt für Medien NRW 2022 zufolge schon online von Erwachsenen zu einem Treffen aufgefordert – bei der Befragung im Vorjahr 2021 war es jeder Fünfte gewesen. Die Dunkelziffer könnte Expert*innen zufolge noch höher liegen.

Regierungen, Sicherheitsbehörden und Plattformen weltweit suchen nach technischen Lösungsansätzen, die Cybergrooming und andere Formen sexualisierter Gewalt gegen Kinder online aufdecken sollen. Die geplante EU-Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern („Chatkontrolle”) könnte Plattformen, die ihre Dienste in Europa anbieten, verpflichten, ihre Inhalte künftig automatisiert auf bekanntes und unbekanntes Kindermissbrauchsmaterial sowie Cybergrooming hin zu prüfen und diese an eine noch zu schaffende EU-Meldestelle zu melden. Auch die bisher verschlüsselte Kommunikation von Messengern wie WhatsApp soll gescannt werden; die Mehrheit der EU-Mitgliedsstaaten drängt darauf, Audio-Nachrichten ebenfalls auszuwerten. Auch Gesetzesentwürfe wie die britische Online Safety Bill und der US-amerikanische Stop CSAM Act wollen Onlinekommunikation schärfer regulieren.

Expert*innen warnen vor der drohenden Aushebelung der Verschlüsselung, Massenüberwachung und vor fehleranfälligen Algorithmen, die zu Falschmeldungen führen können. Eine Studie des Wissenschaftlichen Dienstes des EU-Parlaments hält die Pläne für rechtswidrig und unwirksam und warnt davor, Technologien zur Aufdeckung von sexualisiertem Kindesmissbrauch („child sexual abuse material”, CSAM) und Grooming würden zu mehr Meldungen und weniger Genauigkeit führen, was sich erheblich auf die Arbeitsbelastung der Strafverfolgungsbehörden auswirken werde. Der Gesetzesentwurf könnte „möglicherweise sogar für den Kinderschutz kontraproduktiv sein”, kritisieren die Justizminister von Deutschland, Österreich, der Schweiz, Luxemburg und Liechtenstein in einem Brief. Der Juristische Dienst des EU-Rats geht davon aus, dass der Europäische Gerichtshof das geplante Gesetz wieder kippen wird. Die Verhandlungen sind allerdings noch im Gange.

Jede Kommunikation mit einem Kind kann Cybergrooming sein

Cybergrooming mit Software aufzuspüren klinge zwar wie eine gute Idee, sagt Jasmin, trotzdem sei es „Quatsch”. Als Betroffene weiß sie, wie schwierig und oft sogar unmöglich es ist, Cybergrooming zu erkennen. „Einige haben direkt Dickpics geschickt, um die Reaktion zu testen, andere haben aber erst ein bis drei Monate Vertrauen aufgebaut”, erzählt sie. Cybergrooming beginne bei normalen Fragen, „Wie geht es dir?” zum Beispiel. Wenn das Kind antwortet, es gehe ihm nicht so gut, hätten die Cybergroomer leichtes Spiel. Mit harmlosen Fangfragen sei es leicht herauszufinden, in welche Schule und Klasse die Kinder gehen – und ihnen vor der Schule aufzulauern: „Zack, schon haben sie dich. Das geht sehr schnell”, warnt Jasmin.

Die Profile der Täter*innen unterscheiden sich genauso stark wie ihre Ziele und Vorgehensweisen, berichtet Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei des Landes Brandenburg: „Es gibt schnelle aggressive und sexualbasierte Anbahnungen, es gibt Täuschungshandlungen, bei denen Täter und Täterinnen sich konsequent als jemand anderes ausgeben, etwa als junges Mädchen, und es gibt auch die emotionale Einwirkung.”

Der Kriminologe glaubt, dass vor allem die aggressiven, „hypersexualisierten” Täter*innen mit KI erkannt werden könnten. Bei „Intimitätstäter*innen”, die teils lange auf ihre Opfer einwirken, werde es „schwerer sein, eine normale Kommunikation von Cybergrooming zu unterscheiden”, warnt Rüdiger. „Im Prinzip kann jede Kommunikation mit einem Kind juristisch Cybergrooming sein und als solches erfasst werden.”

In der Fortsetzung dieses Beitrags ist zu lesen, wie ein Machine-Learning-Tool mit linguistischen Methoden versteckte Bedeutungen und Absichten in den Nachrichten von Cybergroomern aufspüren soll.

Hat dir diese Story gefallen?

Alle zwei Wochen untersucht „Die automatisierte Gesellschaft“ die Auswirkungen automatisierter Systeme auf die Gesellschaft und die Welt um dich herum. Melde dich jetzt an und verpasse keine Story mehr!

Abonniere jetzt DIE AUTOMATISIERTE GESELLSCHAFT_

Mehr Informationen findest du in unserer Datenschutzerklärung.