Schöne neue Tech-Welt: Gesichtserkennung für alle

Gesichtserkennungstools wie FindClone, PimEyes oder Search4Faces höhlen Privatsphäre und Datenschutz in einem unheimlichen Ausmaß aus. Wir stellen einige Gebrauchs- und Missbrauchsfälle dieser Dienste vor, die für ein Taschengeld zu haben sind.

Story

3. August 2022

#gesichtserkennung

Philipp Schmitt & AT&T Laboratories Cambridge / Better Images of AI / Data flock (faces) / CC-BY 4.0

Die russische Website FindClone bietet für 5 US-Dollar im Monat einen Gesichtserkennungsdienst an. Wenn sie mit Fotos gefüttert wird, auf denen Gesichter zu sehen sind, ordnet die App sie in Sekundenschnelle Profilen auf VKontakte zu, dem staatlich kontrollierten russischen Facebook. 

Vladimir Putins nationalistische Riesenkundgebung am 18. März 2022: Ein Bild zeigt auf der Bühne einen Mann mit Kopfhörern in einer blauen Regenjacke, dessen untere Gesichtshälfte verdeckt ist. 

Nach der Kundgebung versuchte der tschechische Nachrichtensender Radio Liberty, mithilfe von FindClone den Mann mit den Kopfhörern zu identifizieren. FindClone stellte eine immense Ähnlichkeit zwischen dem Mann mit der Regenjacke und einem Mann mit einem Kreuz um den Hals fest, der mit drei anderen auf einem Foto auf VKontakte posiert. Microsoft Azure schätzte mit 74-prozentiger „Zuverlässigkeit“ ebenso ein, dass die beiden Gesichter übereinstimmen. Weitere Recherchen ergaben, dass dieser Mann keineswegs bloß ein Toningenieur, sondern wahrscheinlich ein verdeckter Mitarbeiter des FSO ist, Putins persönlichem Sicherheitsteam. 

Solche Ergebnisse überzeugen nicht alle. Uli Stopper, ein Software-Entwickler bei Bosch, postete unter dem Online-Artikel von Radio Liberty: „wrong OSINT (kurz für „Open Source Intelligence“) about real people” (etwa: „Falsche Infomationen über echte Menschen“). Er schrieb mir später, dass es für Algorithmen „völlig unmöglich” sei, jemanden auf einem Bild zweifelsfrei zu identifizieren, wenn Mund, Kinn und Ohren verdeckt sind und zudem noch die Bildauflösung gering ist. Außerdem sei nicht bekannt, auf welche Gesichtserkennungssoftware Azure zurückgreift und was Microsoft mit „Zuverlässigkeitsbewertung“ eigentlich genau meint.

Dass der Einsatz von Gesichtserkennungstools Bedenken hervorruft, ist nicht neu. Als das US-Unternehmen Clearview AI zum Zweck der Strafverfolgung anbot, Gesichter mithilfe seiner Datenbank zu identifizieren, war das Medienecho groß. Die 20 Milliarden Bilder in der Datenbank wurden illegal aus Facebook und anderen sozialen Medien extrahiert, wie mehrere Länder berichteten. FindClone basiert auf einem ähnlichen Geschäftsmodell: Mit Bildern von unbekannten Menschen können deren Namen, Adressen und ihre Familienangehörigen ausfindig gemacht werden. (Der Dienst kann wegen der westlichen Sanktionen nur noch genutzt werden, wenn von einem russischen oder belarussischen Bankkonto bezahlt wird.) 

Ein Google-CEO sagte 2011, dass das Unternehmen zwar ein Tool entwickeln könnte, das in Sekundenschnelle Menschen durch die Analyse von Bildern mit ihren Gesichtern identifiziert. Doch da das unabsehbare Folgen haben könne, sehe das Unternehmen davon ab. Wenn solche Tools frei zugänglich werden würden, wären Privatsphäre und Datenschutz so gefährdet wie noch nie. Nur sind FindClone, PimEyes und Search4Faces bereits Realität. Wir haben einige Fälle gesammelt, in denen der Einsatz von Gesichtserkennungstools zweifelhafte Folgen hat: selbst erfahrene OSINT-Journalist*innen identifizieren damit bei ihrer Recherche Personen falsch; anonyme Nutzer*innen von Online-Foren helfen einander, Menschen damit zu identifizieren, um sie dann zu belästigen und zu stalken; Demonstrant*innen werden damit öffentlich an den Pranger gestellt.

Wahre Verbrechen, live auf Twitter

Im März tauchte ein von der russischen Botschaft gepostetes Video mit einer Frau auf, die behauptet, in Mariupol zu sein. Sie wiederholte das russische Narrativ, dass das ukrainische Regiment Asow einen Anschlag auf ein Theater verübt habe, in dem Zivilisten Zuflucht gesucht hatten. Eine halbe Stunde später twitterte der niederländische Journalist Henk van Ess fälschlicherweise, dass sich diese Frau im russischen Magadan aufhalte. Diese Einschätzung war durch den Tipp eines Followers, der für monatlich 30 US-Dollar erhältlichen Gesichtserkennungssoftware PimEyes und Microsoft Azures „Zuverlässigkeitsbewertung“ zustande gekommen. 

Er postete später, dass es doch kein Match war. Der Thread mit der sich angeblich in Magadan aufhaltenden Frau ist aber noch immer da. Darin ist auch ein Link zu einem Ferienlager zu finden, an dem sie einmal teilgenommen haben soll.

„Es ist immer ratsam, die eigenen Methoden offenzulegen, damit sie andere kommentieren können“, schrieb mir Henk van Ess. Er ist nicht der Einzige, der seine Nachforschungen live auf Twitter teilt und schreibt, was er herausgefunden hat, um es manchmal gleich danach wieder zurückzunehmen. 

„In meinem Feed geht es um die einzelnen Stationen, die ich bei meiner Arbeit durchlaufen muss“, sagt er. „Ich dokumentiere jeden einzelnen Schritt, damit meine Follower daraus lernen können. Das ist mein persönlicher Umgang mit Open Source Intelligence: Ich mache mich angreifbar, indem ich meine Arbeit teile und sie von anderen beurteilen lasse.“

Nicht alle folgen diesem Ansatz.

Johanna Wild vom Bellingcat-Recherchenetzwerk sagt, dass der Einsatz von Tools wie FindClone „als alleiniges Prüfmittel enorme Risiken“ mit sich bringe, da Erfahrung notwendig sei, um nicht falsche Schlüsse zu ziehen und unschuldige Menschen schwerer Verbrechen zu beschuldigen. 

Um eine Gesichtserkennung zu verifizieren, sucht der Bellingcat-Mitarbeiter Aric Toler mit FindClone nach einzigartigen oder sehr markanten Gesichtsmerkmalen wie Muttermalen, Sommersprossen, Narben oder auch speziellen Ausprägungen von Ohrläppchen. Außerdem versucht er, Übereinstimmungen mit Kontextinformationen und anderen Datenquellen zu untermauern, aus denen vielleicht identische Telefonnummern oder ähnliche Hinweise hervorgehen. 

Toler sagt, dass er nur drei frei zugängliche Gesichtserkennungstools kenne: FindClone, PimEyes (das im Gegensatz zu FindClone nicht Social Media, sondern Websites ausliest) und Search4Faces (das ähnlich wie FindClone auf VKontakte Treffer sucht, aber auch auf TikTok, Instagram und der Social Media-Seite OK.ru).

Dvach: Hilf mir, meinen Vater zu finden!

„Meine FindClone-Laufzeit neigt sich dem Ende zu und ich habe noch 40 Suchen übrig. Ich will sie nicht verfallen lassen, von daher: Wer kann sie gebrauchen?“ Im russischen Forum 2ch.hk (oder auch „Dvach”) sind solche Posts in den letzten Jahren häufiger zu sehen. Dann lassen auf der anonymen Plattform Reaktionen nicht lange auf sich warten: Nutzer*innen posten Fotos von Teenagern, Bilder aus (Privat-)Pornos, das Foto einer Frau, die jemanden nicht einstellen wollte, und so weiter. 

Als ein*e FindClone-Nutzer*in Suchen zu verschenken hatte, kam aus dem Forum die Frage: „Hilfst du mir, meinen Vater zu finden? Er hat mich und meine Mutter vor zehn Jahren verlassen.“ Die Antwort war: „Nein, danke.“

Dvach wird ebenso wie VKontakte vom russischen Investmentunternehmen Mail.ru Group gehostet. Seit 2010 wird das Forum von einem Nutzer namens Abu betrieben. Sein richtiger Name lautet Nariman Namazov. Der 27-ährige aserbaidschanische SEO-Spezialist aus Moskau hat einmal behauptet, die Website für 10.000 US-Dollar gekauft zu haben.

Seit dem Launch von FindClone suchen Dvach-Nutzer damit nach den VKontakt-Profilen von Frauen, die sie in Pornos, auf Datingseiten oder auf Seiten von Eskortdiensten gesehen haben. Sie geben einander Ratschläge, wie diese Frauen bloßgestellt werden könnten, wem sie ihr „Geheimnis“ verraten könnten und mit welchem Aufhänger sie mit ihnen in Kontakt treten könnten, um sie zu erpressen. 

„Hallo zusammen, wahrscheinlich wissen die meisten von euch nicht, dass es einen neuen Gesichtserkennungsdienst gibt.“ Mit diesen Worten wandte sich im Dezember 2019 der Avatar Katya in einem Online-Forum für Eskortfrauen an die Nutzerinnen. „Mit einem Screenshot von eurem Gesicht aus einem Video oder einem Foto können sie eure VK-Profile finden, wenn ihr darin ein Bild von euch hochgeladen habt. Dann schreiben sie all euren Freunden und Verwandten, schicken ihnen die Screenshots und Fotos und was sie sonst noch über euch herausgefunden haben.“

2020 veröffentlichten Dvach-Nutzer die Identität von Frauen, die in einem Horrorporno des Rammstein-Frontmanns Till Lindemann mitgespielt hatten. Eine russische Feministin, die diese Frauen verteidigte, erhielt anschließend Morddrohungen. Dennoch sagte sie mir: „Gesichtserkennungstools können auch für etwas Gutes eingesetzt werden, zum Beispiel bei der Strafverfolgung.“ Auf Dvach seien Frauen bereits öffentlich belästigt worden, bevor es Gesichtserkennungstools gab. Die Tools hätten diese Praxis bloß erleichtert.

FindClones Ursprung: eine App für alle (die nicht zur russischen Strafverfolgung gehören)

Ein unabhängiger russischer Nachrichtenjournalist hat mit FindClone dessen Entwickler identifizieren können: zwei junge Mathematiker aus Dagestan, Gadzhi Saidov und Yuri Zdanovich. 

Im darauffolgenden Interview mit den beiden zeigte er sich von FindClone begeistert: „Gerechtigkeit, Anonymität und Recherchetools sind entweder für alle oder für niemanden da.“ Der Journalist wollte von den Entwicklern wissen, ob sie ihren Algorithmus auch an die Strafverfolgung verkaufen würden, wie es in der Branche üblich wäre. Siadov antwortete, dass es unwahrscheinlich sei, dass die Software beim russischen Staat landet, da er sie eher gegen die politische Opposition einsetzen würde als bei der Verbrechensbekämpfung.

Ich sprach kürzlich einen russischen Journalisten auf das Interview an und er sagte mir, dass die beiden FindClone Entwickler wahrscheinlich heute kein Interview dieser Art mehr geben würden. Wie er selbst und viele andere hätten sie wohl vor den seit dem Krieg in der Ukraine noch repressiveren Gesetzen Angst. 

Ein Unternehmen, das seinen Gesichtserkennungsdienst an den russischen Staat verkauft hat, ist NTechLab. Es ist der russische Ableger eines zypriotischen Unternehmens, das 2016 eine App wie FindClone veröffentlicht hat. Die App war eine Publicity-Erfolg, Sexarbeiter*innen und Teilnehmer*innen an Demonstrationen gegen die Korruption in russischen Behörden wurden damit öffentlich an den Pranger gestellt. Zwei Jahre später verkündete NTechLab, dass sein Algorithmus, mit dem Gesichter einander zugeordnet werden können, nicht mehr frei zugänglich sei. Er wurde neben anderen Diensten an die Moskauer Stadtregierung verkauft, die die Technologie zum Betrieb der über 200.000 Überwachungskameras der Stadt einsetzt.

Moskaus neu eingerichtetes Überwachungsnetzwerk ist bereits dafür berüchtigt, dass die Polizei es gegen Demonstrant*innen, politische Gegner und Menschen einsetzt, die gegen den Lockdown verstoßen. Es wird allerdings kaum darüber berichtet, dass die Polizei Aufnahmen der Überwachungskameras gewaltbereiten Männern zur Verfügung stellt, deren Frauen aus ganz Russland vor häuslicher Gewalt in die Hauptstadt geflüchtet sind. Dazu müssen die Männer einfach eine Vermisstenanzeige aufgeben. „Es hilft auch nicht, wenn die Frau oder ihr Rechtsbeistand die Polizei darüber informieren, dass sie nicht gefunden werden will, berichtete mir die Anwältin Olga Gnezdilova aus Woronesch, die etliche Opfer häuslicher Gewalt berät. 

Alena Yeltsova führt in Moskau das Frauenhaus Kitezh und hat viele solcher Fälle gesehen. Eine Frau wurde festgenommen, nachdem sie in der U-Bahn gefilmt worden war. Eine andere half einer Freundin, nach Moskau zu fliehen, und wurde dabei in der Handelskammer aufgenommen. Die Polizei suchte sie auf und verlangte, dass sie den Aufenthaltsort ihrer Freundin verrät. In einem dritten Fall konnte eine Frau von der Polizei aufgespürt werden, nachdem Kameras sie vor einem Moskauer Hauseingang gefilmt hatten.

FindClone als Instrument der Gegenwehr

„Diese Dienste könnten dabei helfen herauszufinden, wer 2015 den Oppositionspolitiker Boris Nemtsov umgebracht hat, und die Untersuchung von Kriegsverbrechen des russischen Militärs in der Ukraine voranbringen.“ Das sagte mir im April ein Administrator des Anti-Korruptionsprojekts Scanner, als ich von ihm wissen wollte, was er von FindClone hält. 

Am 27. Juli 2019 startete Scanner auf Twitter ein Kampagne: Dort wurden die VKontakte-Profile von Polizeibeamten veröffentlicht, die dabei fotografiert worden waren, wie sie mit Schlagstöcken und Schutzschildern bewaffnet bei einer Moskauer Kundgebung für demokratische Wahlen Demonstrant*innen zusammenschlagen. Ruslan Leviev, der Kopf der Rechercheorganisation Conflict Intelligence Team, twitterte, dass mit FindClone und der Suchmaschine Yandex (die es Nutzer*innen ermöglicht, Bildsuche-Ergebnisse auf ihren VK-Profilen zu veröffentlichen) die Anonymität der Schläger aufgehoben werden könne. Einige Polizeikräfte beschwerten sich daraufhin darüber, bedroht worden zu sein. Der Leiter der Moskauer Stadtpolizei ordnete Berichten zufolge an, dass alle Polizisten ihre Online-Fotos löschen sollen, auf denen ihre Gesichter zu sehen sind. Einige Tage später tauchte die Website „Criminal Justice Info” auf. Darauf wurden die Namen und VK-Profile der Demonstrant*innen veröffentlicht, die angeblich am 27. Juli dabei waren.

„Der Einsatz von Gesichtserkennungstools zum Aufdecken von Polizeigewalt hatte damit seinen Höhepunkt erreicht“, sagte mir Anatoly Reshetnikov, ein Politikwissenschaftler und Aktivist. Danach begannen die Polizeieinsatzkräfte, ihre Gesichter hinter getönten Helmen und hinter Masken zu verstecken. Außerdem setzten sie ihrerseits Gesichtserkennungstools ein, um Demonstrant*innen zu identifizieren. „Dadurch können sie jetzt vom hässlichen Bild ablenken, das Gewalt an öffentlichen Orten abgibt. Ein paar Stunden nach den Demos tauchen sie in den Wohnungen der Aktivist*innen auf und nehmen sie mit.“

Ein Orwellscher Alptraum: ein staatliches Monopol auf digitale Dienste

„Als bekannt wurde, dass eine Suchmaschine für Gesichtserkennung existiert, waren viele Nutzer*innen sehr besorgt“, sagte mir Sarkis Darbinyan, der Gründer des Digital Rights Center in Moskau. Er betont, dass fast 100.000 Menschen eine Petition unterzeichnet haben, die gegen den Einsatz von Gesichtserkennungstechnologie „in der Strafverfolgung und durch Aufsichtsbehörden“ gerichtet war.

Doch FindClone und ähnliche Tools haben generell nicht gerade für einen Aufschrei gesorgt, sagte ein Aktivist für digitale Rechte, der aus Sicherheitsgründen in diesem Artikel nicht namentlich genannt werden will. Denn „diejenigen, die wissen, wie Gesichtserkennung funktioniert, machen sich eher Sorgen über ihre staatliche Monopolisierung“.

NTechLab scheint zum Beispiel inzwischen vollständig unter staatlicher Kontrolle zu stehen, seitdem der Mitgründer des Start-ups Anfang 2022 das Unternehmen verließ. Sberbank, eine mehrheitlich staatlich geführte Bank, sorgt ebenso für die Verbreitung von Gesichtserkennungssoftware in Russland. 2018 wurde ein vereinheitlichtes biometrisches System zum Einsatz von Gesichtserkennung beim Online-Banking eingeführt. 2021 erhielt es den Status „Staatssystem”.

VKontakte drohte damit, FindClone zu verklagen, falls die Software weiterhin die Nutzer*innen-Datenbank von VK auslesen sollte. Dabei ging es allerdings weniger um Datenschutz, meint Sarkis Darbinyan. Die Datenbank bildet die Basis des Geschäftsmodells von VKontakte. Ein exklusiver Zugriff auf diese Daten geht mit der Bereitstellung exklusiver Dienste einher, die mehr Geld einbringen.

Seit Putin in die Ukraine eingefallen ist, dient FindClone als Recherchewerkzeug. Damit werden die Social Media-Profile von toten oder gefangengenommenen russischen Soldat*innen ausfindig gemacht, deren Bilder im Telegram-Kanal „rf200_nooow“ veröffentlicht wurden. (200 steht im Militärslang für eine „Leichenfracht“.) Die Betreiber*innen des Kanals kontaktieren die Verwandten der Soldat*innen und führen Interviews mit ihnen, um herauszufinden, was sie über den Kriegseinsatz wissen. Die russische Staatspropaganda weigert sich nach wie vor, von einem Krieg zu sprechen.

„Es gibt immer Anlass zur Sorge, dass der freie Zugang zu Diensten wie FindClone gesperrt wird“, sagte mir Andrey, ein russischer Investigativjournalist, der aus Sicherheitsgründen nicht mit seinem vollständigen Namen genannt werden möchte. „Aber es sind bereits so viele Daten über die russische Bevölkerung im Umlauf, dass Gesichtserkennung nur ein Tool unter vielen ist, auf das Journalist*innen, Strafverfolgungsbehörden oder auch private Ermittler*innen zugreifen – also all diejenigen, die die Privatsphäre von Menschen verletzen müssen, um ihre Arbeit zu tun.

Josephine Lulamae (sie/ihr)

Reporterin

Photo: Julia Bornkessel, CC BY 4.0

Josephine ist bei AlgorithmWatch Reporterin. Zuvor war sie als Journalistin und Rechtsanwaltsgehilfin in Berlin, Bristol und Mytilene tätig. Ihre Beiträge wurden in The Daily Beast , Coda Story, The New Republic , Gizmodo, Popula, Slate und Quartz veröffentlicht. Sie hat einen Jura-Abschluss von der BPP University und einen Bachelorabschluss in Philosophie von der Cambridge University.