Die Kriminalisierung von Minderjährigen durch KI

In Deutschland gilt das Legalitätsprinzip, also die Strafverfolgungspflicht für Cybergrooming (§ 176a Abs. 1 Nr. 3; 176b Abs. 1 Nr. 1 und 2 StGB): Die Polizei hat also keinen Spielraum zu entscheiden, ob eine Ermittlung sinnvoll ist. Bei jedem Anfangsverdacht auf Cybergrooming muss ein Verfahren eröffnet werden, selbst wenn Beteiligte keine Anzeige erstatten wollen. Der Kriminologe Thomas-Gabriel Rüdiger warnt: „Kinder und Jugendliche können durch eine KI kriminalisiert werden.” Minderjährige könnten selbst ins Visier der Polizei geraten, mit vergleichsweise harmlosen Kontaktaufnahmen oder mit Sexting, dem freiwilligen Austausch erotischer Kommunikation und Medien. „Wenn zum Beispiel eine 14-Jährige einem 13-Jährigen Nachrichten schickt, ist das nicht vergleichbar mit einem Erwachsenen, der auf ein Kind einwirkt”, sagt Rüdiger. Der Einsatz von KI würde hier aber vermutlich keinen Unterschied machen, denn: „Die Polizei muss genauso gegen die 14-Jährige mit dem 13-jährigen Freund ermitteln wie gegen einen echten Sexualstraftäter.” Erst Gerichte oder Staatsanwaltschaften entscheiden abschließend über die Vorwürfe. Bis dahin gelten selbst Kinder und Jugendliche, die sich nicht übergriffig verhalten haben, als Beschuldigte.

Von den 1861 Cybergrooming-Tatverdächtigen im Jahr 2022 waren einer BKA-Auswertung zufolge (siehe die folgende Übersicht) rund 45 Prozent Kinder oder Jugendliche. Es gibt zwar text- und bildforensische Verfahren, mit denen durch die Auswertung von Text oder Fotos das Alter der Beteiligten ermittelt werden soll. Doch auch dabei sind Falschmeldungen nicht ausgeschlossen.

Überforderung durch automatisierte Auswertungen

Schon jetzt werden BKA und Polizei mit Hinweisen zu sexualisierter Gewalt gegen Kinder überflutet. Den Großteil der Hinweise erhält das BKA von der US-Organisation National Center for Missing and Exploited Children (NCMEC) – darunter explizit sexualisierte Bild- und Videoaufnahmen, Aufnahmen und Texte mit sexualisierten Bezügen sowie Texte, die sexuelle Anbahnungen (Grooming) enthalten. Die meisten Meldungen stammen von Plattformen wie Facebook, Twitch, Omegle oder Google, die in den USA gesetzlich zu Meldungen verpflichtet sind. Das BKA prüft, inwieweit die Inhalte nach deutschem Recht strafrechtlich relevant sind, und leitet sie an die zuständige Polizeistelle weiter. 2022 übermittelte das NCMEC rund 136.000 Hinweise mit Deutschlandbezug, davon waren 90.000 Fälle strafrechtlich relevant, also rund 66 Prozent.

Seit die Verbreitung von Missbrauchsdarstellungen (§ 184b StGB) 2021 in Deutschland als Verbrechen eingestuft wurde, ist die Zahl der Ermittlungen stark gestiegen. Doch in vielen Fällen wurde dem BKA zufolge nicht nur gegen Pädokriminelle ermittelt, sondern auch gegen Betreuer*innen, Lehrer*innen oder andere Aufsichtspersonen, die nur Beweismaterial sichern wollten. „Auch Fallkonstellationen, in denen Eltern entsprechendes Material auf den Handys ihrer Kinder fanden und an andere Eltern der Schulklasse zur Prüfung oder Warnung weiterschickten, sowie die massenhafte Verbreitung von viralen Inhalten aufgrund von digitaler Naivität müssen seitdem als Verbrechen behandelt werden”, so die Pressesprecherin des BKA.

Nun soll das Gesetz wieder entschärft werden. Die Justizminister der Länder fordern eine Herabstufung der Tatbestände von § 184b StGB zum Vergehen (was juristisch eine weniger schwere Straftat ist, bei der keine hohen Freiheits- oder Geldstrafen drohen) oder eine Regelung für minderschwere Fälle. Das BKA hält eine Gesetzesänderung für sinnvoll, „da sie eine Priorisierung der Ermittlungen auf Hersteller von Missbrauchsdarstellungen bzw. auf pädosexuelle Missbrauchstäter ermöglicht”. 

Sollten die EU-Pläne zur Chatkontrolle umgesetzt werden, wird die Flut von Hinweisen weiter wachsen. Das BKA rechnet „mit einem steigenden Hinweisaufkommen”. BKA-Präsident Holger Münch will das BKA zu einem „Knotenpunkt” für Meldungen aus dem In- und Ausland ausbauen, wie er bei einer Pressekonferenz zur PKS 2022 im Mai 2023 betonte – auch mit Automatisierungsverfahren zur Erfassung und Sortierung von Beweisen. „Wir müssen nicht nur in die Technik investieren, wir brauchen auch das passende Personal dafür, wenn wir mit den steigenden Zahlen Schritt halten wollen”, so Münch. Mit Aktionstagen oder Bannern auf sichergestellten Webseiten versucht das BKA, seine Polizeipräsenz sichtbar zu machen, weil die Ermittlungen im Netz in der Öffentlichkeit nicht hinreichend wahrgenommen werden, wie Holger Münch meint.

Online auf Streife gegen Cybergrooming?

Der Kriminologe Thomas-Gabriel Rüdiger findet es wichtig, dass die Strafverfolgung im Bereich Cybergrooming zunimmt: „Teilweise haben die Täter und Täterinnen Hunderte von Opfern, von denen aber nur ganz wenige eine Anzeige machen.” Effektiver als automatisierte Verfahren hält er, Kinder darüber aufzuklären, bessere Vorgaben für die Moderation auf den bisher unregulierten Gaming-Plattformen einzuführen und die Online-Präsenz der Polizei auszuweiten. Bei „Scheinkindoperationen” hätten sich Polizist*innen bereits in der Vergangenheit auf den Plattformen als Kinder ausgegeben und damit Täter*innen überführt, sagt Rüdiger. „Meiner Einschätzung nach findet das aber nur selten statt, weswegen offenbar auch nur eine geringe Angst vor Strafverfolgung in diesem Bereich herrscht.” 

Dazu trage vermutlich die Strafverfolgungspflicht bei, die Rüdiger bei Online-Ermittlungen nicht mehr für zeitgemäß hält. Selbst wenn Nachrichten mit Cybergrooming-Bezug in einem Forum bereits Jahre alt seien, müsse die Polizei dagegen vorgehen. So eine Arbeit verhindere  die Suche nach schweren Verbrechen und überfordere die ohnehin überlasteten Behörden. 

In Dänemark gibt es eine Online-Polizeistreife, die in sozialen Netzwerken sowie Spielen wie Fortnite oder Minecraft mit eigenen Profilen unterwegs ist. Sie will so mit Kindern und Jugendlichen „in Dialog treten, unangemessenes Verhalten und Straftaten verhindern und bei Straftaten eingreifen”, heißt es auf der Webseite. Es ist nicht bekannt, wie das BKA seine „Scheinkindoperationen” durchführt und ob es eigene Online-Polizeistreifen oder eigene KI-Verfahren zur Analyse von Cybergrooming einsetzt: „Das BKA erteilt grundsätzlich keine Auskunft zu kriminaltaktischen Maßnahmen”, heißt es auf Nachfrage.

Analoge Hausaufgaben machen

Die „unfassbar hohe Anzahl an Missbrauchsabbildungen im Internet” beunruhigt auch Rainer Rettinger, den Geschäftsführer des Deutschen Kindervereins. Dennoch hält er die EU-Pläne für einen „massiven Eingriff in rechtsstaatliche Grundsätze”. Es sei nicht garantiert, dass die Technologie fehlerfrei arbeite. „Ich sehe das problematisch, auch als Türöffner für andere Fallkonstellationen, wofür auch der Kinderschutz nicht missbraucht werden darf”, kritisiert Rettinger. „Wir müssen vor allem unsere analogen Hausaufgaben machen.”

Für einen effektiven Kinderschutz bräuchten Rettinger zufolge etwa die Jugendämter eine bessere Ausstattung und doppelt so viele Fachkräfte. Minderjährige müssten bei Jugendämtern und Familiengerichten geschützt angehört werden, mit einem speziell ausgebildeten Verfahrensbeistand. „Oft wird den Aussagen der Kinder nicht geglaubt, sie werden selbst vor den Familiengerichten nicht gehört”, warnt der Kinderschutzexperte. Es sei auch wichtig, Kinderrechte und Kinderschutz an allen Bildungs- und Betreuungseinrichtungen deutlich zu kommunizieren, Lehr- und Erziehungspersonal müsse genauso sensibilisiert werden wie Minderjährige.

Jasmin gibt Workshops an Schulen, um über Cybergrooming aufzuklären. Auch sie sieht Nachholbedarf bei Eltern und Schulen: „Es ist ein Riesenproblem, dass die Eltern alles auf Lehrkräfte schieben – und die Lehrer sehen es als Aufgabe der Eltern an.” Sie müssten Cybergrooming-Gefahren ansprechen und auch ohne Worte Anzeichen für Missbrauch erkennen können. „Die Täter setzen einen unter Druck, man bekommt Redeverbote und die Bedrohungslage ist akut”, weiß Jasmin aus eigener Erfahrung. Auf ihrer Instagram-Seite @Das_Schweigen_brechen teilt sie ihre Erfahrungen und ist Anlaufstelle für Betroffene, Lehrkräfte oder interessierte Polizei-Dienststellen.

Cybergrooming könne jedes Kind treffen, warnt Jasmin – selbst wenn die Eltern mit dem Kind reden, das Handy prüfen oder Algorithmen Chats durchforsten. „100-prozentige Sicherheit gibt es nicht”, sagt sie. „Die Menschen sollten sich da auch nicht auf irgendeine technische Lösung verlassen.”