Wie KI-Slop-Farms Identitäten stehlen

ArchZine. Ich habe die Gewohnheit, in meinen Arbeitstag zu starten, indem ich mich erst einmal selbst google. Ihnen kommt das vielleicht eitel vor, aber ich betrachte es als einen Akt von Digitalhygiene. Und am 23. August habe ich wieder einmal recht behalten, als ich nämlich auf einer mir bisher völlig unbekannten Webseite namens ArchZine (ein Online-Magazin) ein Profil unter meinem Namen fand. Es enthielt mein Foto, eine fehlerfreie Bio, einen Link zu meinem Instagram-Account und sogar eine E-Mail-Adresse, unter der ich angeblich erreichbar war: nikolas@archzine.fr! Die Artikel, die mir untergeschoben wurden, waren ganz offensichtlich automatisch generiert. Von fiktiven aktuellen Nachrichten bis hin zu Horoskopen war alles dabei.

Es war nicht meine erste Erfahrung als Opfer KI-generierter Fälschungen. Ich war gelegentlich auch schon bei YouTube auf Fake-Interviews mit meiner Wenigkeit gestoßen, aber diese Arch-Zine-Sache fand ich doch noch mal eine andere Nummer. Okay, es waren keine Deepfakes, im Vergleich mit einer unerbetenen Veröffentlichung KI-generierter Nacktfotos war ich noch gut weggekommen. Trotzdem hatte ich das Bedürfnis, etwas zu unternehmen.

Beschwerdemechanismen. ArchZine gehört einem kleinen Unternehmen aus Bulgarien. Ich habe mich sofort dort gemeldet und gebeten, die Verwendung meiner Identität zu unterlassen. Es kam keine Antwort. Daraufhin habe ich Bing und Google angeschrieben, ob sie die mir fälschlich zugeschriebenen Artikel bitte de-indizieren könnten. Bei Bing hat das geholfen, bei Google leider nicht. Die Webseite stehe offensichtlich in einem Zusammenhang mit meiner beruflichen Tätigkeit, urteilte das Unternehmen, und ich müsse nachweisen, dass ich kein Mitarbeiter von ArchZine sei. Wie sollte ich diese Beweisführung ex negativo überhaupt erbringen? Ich schrieb noch eine Mail an Google, aber der Pressesprecher wich der Frage aus.

Daraufhin wandte ich mich an den Berliner Datenschutzbeauftragten (der für mich zuständig ist, weil ich in Berlin wohne). Er leitete meine Beschwerde pflichtbewusst an seine bulgarische Schwesterbehörde weiter. Seitdem habe ich nichts mehr gehört.

Slop-Ökonomie. ArchZine ist ein Paradebeispiel für eine KI-Slop-Farm. Solche Farmen produzieren riesige Mengen automatisch generierter Artikel und Bilder und ziehen damit Traffic von Aggregatoren und Plattformen wie Pinterest an. Wahrscheinlich hatten sie die Hoffnung, mit meinem Fake-Profil ein bisschen wie ein journalistisches Medium auszusehen und bei Google News vorzukommen. Jedenfalls haben sie neben meiner auch die Identität einer anderen französischen Investigativjournalistin missbraucht. Und die von mindestens acht weiteren Personen, Influencer aus Frankreich und Deutschland, darunter eine Köchin und eine Friseurin.

Zwar sind die entsprechenden Inhalte eigentlich auf den ersten Blick als KI-Slop zu erkennen. Aber nur für menschliche Leser*innen. Wo Daten hingegen automatisiert von einem System ins nächste fließen, ist der Schaden im wahrsten Sinne des Wortes vorprogrammiert. So tauchten die angeblich von mir stammenden ArchZine-Artikel, kaum dass sie bei Google News erschienen waren, auch schon in meinem Muckrack-Profil auf, einem automatisierten Aggregator für journalistische Inhalte. Und wenn Sie jetzt ChatGPT nach mir fragen, erfahren Sie, dass ich für eine bulgarische Content-Farm arbeite.

Strafrecht. Über Pariser Fachanwälte habe ich einen Brief an die französische Niederlassung von ArchZine schicken lassen, um sie an das Strafmaß für einschlägige Fälle zu erinnern: ein Jahr für Identitätsdiebstahl, fünf Jahre für die unerlaubte Datenverarbeitung. Daraufhin passierte tatsächlich etwas: Mein Profil wurde umbenannt. Genauer gesagt: Sie haben meine gestohlene Identität gegen eine andere ausgetauscht. Vielleicht aus Boshaftigkeit ausgerechnet gegen die eines Anwalts.

Ich fand es zwar ungeheuerlich, wie ArchZine sich aufführte, aber ich hatte leider nicht die finanziellen Ressourcen, um die Sache juristisch weiterzuverfolgen. Meine Anwaltskosten waren inzwischen zu einem Betrag in Höhe eines halben Monatseinkommens (nach Mindestlohn) aufgelaufen - unvermeidlich, um meinen Ruf als Journalist zu schützen. Obwohl die Sache sogar ein ziemlich glasklarer Fall von Verleumdung war (in Deutschland seit mindestens 1870 in § 187 StGB verankert), war meine bittere Erkenntnis, dass Datenschutzgesetze nicht besonders hilfreich sind, um sich dagegen zu wehren. Ich habe alle Opfer benachrichtigt, die ich identifizieren konnte. Doch heute, zwei Monate später, sind viele dieser gefälschten Profile immer noch online.

Identitätsdiebstahl, der darauf abzielt, von der Reputation des Geschädigten zu profitieren, ist nach Auskunft der Berliner Datenschutzaufsicht ein vergleichsweise neues Phänomen.  Allerdings eines mit hohem Potential, scheint mir, gerade in Bereichen wie dem Journalismus oder der Wissenschaft. Schon heute wimmelt es in wissenschaftlichen Publikationen von gefälschten Zitaten. Für die sogenannten „predatory journals“, also minderwertige Online-Wissenschaftszeitschriften ohne Qualitätskontrolle, könnte ein neues Geschäftsmodell darin bestehen, gefälschte Artikel renommierten Wissenschaftlern zuzuschreiben. Sie hätten kaum Konsequenzen zu befürchten.

Dies ist ein Auszug aus dem Newsletter „Die automatisierte Gesellschaft“, einer zweiwöchentlichen Zusammenfassung von Neuigkeiten zur automatisierten Systemen in Europa. Hier abonnieren.