Mit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Die KI-basierten Systeme sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.
Biometrische Erkennungssysteme beobachten und verfolgen Menschen mithilfe ihrer biologischen Merkmale und verarbeiten die daraus resultierenden Daten. Diese messbaren biologischen Merkmale können die Gesichtszüge, der Gang, die Stimme oder die Iris der Augen sein. Die Erkennungssysteme werden heute im Eilverfahren in ganz Europa und darüber hinaus getestet und eingesetzt. Sie sind in Stadien, Flughäfen, Spielcasinos und Schulen zu finden. Polizeibehörden setzen sie zur Strafverfolgung ein, in mehreren Ländern wurden die Systeme auch während der COVID-19-Pandemie zur Social-Distancing-Kontrolle verwendet.
Menschen können nicht nur live und vor Ort, sondern auch aus der Ferne und nachträglich erkannt werden. Der Abgleich mit den Datenbanken erfolgt dann nicht in Echtzeit, sondern zeitversetzt mittels gespeicherter Videoaufnahmen. Dadurch ist für Betroffene schwer einzuschätzen, wann genau sie tatsächlich überwacht werden. Viele moderne Kameras haben schon eine entsprechende Funktion zur Analyse und Verarbeitung biometrischer Daten.
Im Zusammenhang mit biometrischer Erkennung wird oft von „Gesichtserkennung“ gesprochen. Das Wort wird inzwischen als Synonym für „biometrische Fernidentifizierung“ verwendet. Aber was bedeuten „Identifizierung“, „Echtzeit“, „nachträglich“ und „Fern-“ eigentlich?
Biometrische Verifizierung, auch als Authentifizierung bezeichnet, ist zu unterscheiden von biometrischer Fernidentifizierung. Bei KI-gestützten Verifizierungsverfahren entsperren Personen zum Beispiel ihre Telefone mit ihrem Fingerabdruck. Dabei findet keine massenhafte Datenerfassung und auch kein Abgleich mit einer Datenbank statt. Die Nutzer*innen entscheiden sich selbst für das jeweilige Verfahren und die Daten bleiben auf dem Gerät.
Die biometrische Datenverarbeitung geschieht entweder in „Echtzeit“ (die Datenanalyse erfolgt live, während die Daten erfasst werden) oder „nachträglich”. Dabei werden die erfassten Daten später ausgewertet. Nur, was heißt „später“ eigentlich genau? Nach einer Minute oder nach einem Tag? Da dafür keine brauchbare Definition existiert, kann niemand den Unterschied zur Echtzeit-Analyse endgültig bestimmen.
In manchen Fällen sind die Grundrechte bei einer nachträglichen Verarbeitung besonders gefährdet. Regierungen oder Behörden wie die Polizei können mit sensiblen persönlichen Daten nachverfolgen, wo sich Personen aufgehalten, was sie getan oder mit wem sie sich getroffen haben − über Wochen, Monate oder Jahre hinweg. Das könnte zum Beispiel Quellen davon abhalten, wichtige Informationen an Journalist*innen zu geben, da sie nicht mehr sicher sein können, dabei anonym zu bleiben.
Worauf bezieht sich die „Ferne“ in „Fernidentifizierung“?
Fernidentifizierung ist dann gemeint, wenn zum Beispiel viele Menschen in einem Flughafen von weitläufig installierten Kameras aufgenommen werden, um ihre biometrischen Daten zu verarbeiten. Der Datenabgleich findet ohne aktive Mitwirkung der aufgezeichneten Menschen fernab des Ortes statt, wo die Daten erhoben wurden. Eine aktive Mitwirkung besteht zum Beispiel, wenn Menschen ihren Fingerabdruck abgeben. Wie weit ein Ort entfernt sein muss, um als „fern“ zu gelten, ist nicht definiert.
Im Wesentlichen besteht der Unterschied also in dieser räumlichen Entfernung zwischen Datenerhebung und Datenverarbeitung darin, ob die Menschen, deren biometrische Daten erfasst und verarbeitet werden, aktiv einbezogen sind.
Sicherheitsbehörden und Anbieter von Sicherheitssystemen preisen Gesichtserkennung als innovative und zuverlässige Methode zur verbesserten Strafverfolgung an. Wenn dabei allerdings Grundrechte ausgehöhlt werden, wird das grundsätzlich legitime Bedürfnis nach gesellschaftlicher Sicherheit problematisch.
Wenn Menschen im öffentlichen Raum jederzeit identifiziert oder überwacht werden können, verletzt dies nicht nur ihr Recht auf Privatsphäre. Es hat auch eine abschreckende Wirkung: Sie könnten dadurch abgehalten werden, andere Grundrechte wie die Meinungsäußerungs- oder Versammlungsfreiheit wahrzunehmen – also an Demonstrationen teilzunehmen oder bestimmte Lokale aufzusuchen, die zum Beispiel Hinweise auf ihre politische Ausrichtung oder sexuelle Orientierung geben könnten. Da biometrische Merkmale zum Körper gehören, können sie in der Öffentlichkeit nur mit einigem Aufwand ausgeblendet werden. In den USA haben Demonstrierende an Universitäten ihre Gesichter und Körper verhüllt, damit Systeme zur Gesichts- und Gangerkennung keine verwertbaren Daten von ihnen erhalten.
Die Erfahrung lehrt: Gerade repressive Regierungen setzen auf diesen Effekt – wie vergangenes Jahr in Ungarn zu beobachten war. Dort drohte die Regierung im Vorlauf einer Pride-Parade in Budapest, ein Live-Gesichtserkennungssystem einzusetzen, um Menschen zu identifizieren und Bußgeldzahlungen durchzusetzen. Die Teilnahme wurde zuvor durch ein queerfeindliches Gesetz zur Ordnungswidrigkeit erklärt. Selbst in einer großzügigen Auslegung der KI-Verordnung ist ein solcher Einsatz von Gesichtserkennung allerdings nicht legitim. Das Ziel, Menschen einzuschüchtern, ist in Budapest zwar nicht aufgegangen – nicht zuletzt, weil sich der Budapester Bürgermeister hinter den Pride gestellt hatte. Die Gefahr, dass zukünftig wieder Gesichtserkennungssysteme zum Einsatz kommen, besteht allerdings weiter.
Solche Folgen biometrischer Massenüberwachung treffen ohnehin schon benachteiligte Personen und Gruppen sowie politische Aktivist*innen typischerweise besonders stark. In Russland verhaftete die Polizei Menschen, die an der Beerdigung des Dissidenten Alexej Nawalny teilgenommen hatten. Die Personen wurden identifiziert, indem eine Software zur Gesichtserkennung Aufnahmen der Trauerfeier analysierte, die von Überwachungskameras stammten und auf Social Media kursierten.
Beim Einsatz von biometrischen Überwachungssystemen werden Grundrechte oft ohne Rechtsgrundlage und unverhältnismäßig eingeschränkt, da die Systeme Freiheiten gefährden, ohne wesentlich zu einer größeren Sicherheit beizutragen. Die Systeme funktionieren nämlich nicht mal ansatzweise so gut, wie es die Anbieter weismachen wollen. Immer wieder stufen sie Menschen als gefährlich ein, die es nicht sind.
In einem Test am Berliner Bahnhof Südkreuz wurde ca. jeder 200. Mensch fälschlich als gesuchte Person eingestuft, was 600 Falschmeldungen am Tag entspricht. Diese ungerechtfertigt verdächtigten Menschen werden unangenehmen Kontrollen ausgesetzt. Unter diesen Einsatzbedingungen hätte die Polizei durch die Fehlalarme dauerhaft einen erheblichen Mehraufwand, wodurch ihr an anderer Stelle Ressourcen fehlen würden.
Gesichtserkennungstechnik identifiziert außerdem dunkelhäutige und weibliche Gesichter tendenziell schlechter. Das führt dazu, dass diese Menschen öfter fälschlicherweise als verdächtig oder gesucht gemeldet werden. Das kann für die Betroffenen gravierende Folgen haben und zu ungerechtfertigten Kontrollen oder Festnahmen führen.
Eine Ursache für die Diskriminierung von dunkelhäutigen Menschen und Frauen sind die Daten, mit denen die Systeme trainiert wurden. Wenn die Trainingsdaten nicht repräsentativ sind oder überproportional Daten von Weißen Menschen und Männern umfassen, erkennen die Systeme Schwarze Frauen schlechter. Dadurch erhöht sich die Wahrscheinlichkeit falscher Identifizierungen, wie etliche Fälle zeigen. Doch selbst ein System mit repräsentativen Daten kann diskriminierend eingesetzt werden.
2018 wurde in Detroit ein Mann fälschlicherweise von einer Gesichtserkennungssoftware identifiziert und von der Polizei des Ladendiebstahls beschuldigt. Die Stadt erklärte sich bereit, dem Mann Schadenersatz zu zahlen, und überprüfte, wie ihre Polizei die Technologie einsetzt. Sie kam zu dem Schluss, dass keine Verhaftung mehr nur auf der Grundlage der Gesichtserkennung erfolgen darf. Alte Fälle sollten nachgeprüft werden.
Die Polizei in New Orleans hat seit Oktober 2022 15 Mal Gesichtserkennungstechnik eingesetzt. Bis auf eine Ausnahme sollten damit Schwarze Verdächtige identifiziert werden. In nur drei Fällen führte der Einsatz der Technik zu Fahndungserfolgen. In den USA wurde eine hochschwangere Frau verhaftet, nachdem ein Programm zur Gesichtserkennung sie als verdächtig gemeldet hatte. Alle bisher bekannten Verhaftungen nach solchen Falschmeldungen betrafen Schwarze.
Im Vereinigten Königreich identifizierte ein Supermarkt-Überwachungssystem eine Kundin mit Gesichtserkennung fehlerhafterweise als bekannte Ladendiebin. Sie wurde hinausbegleitet und aufgefordert, die Filialen der Supermarktkette in Zukunft nicht mehr zu betreten. Der Anbieter der Technologie räumte später einen Fehler ein. Viele Händler im Vereinigten Königreich haben dieses System in ihren Geschäften installiert. Silkie Carlo von der NGO Big Brother Watch hat zahlreiche Polizeieinsätze gefilmt, die auf Basis von Gesichtserkennung durchgeführt wurden. Sie hat beobachtet, dass der Einsatz von Gesichtserkennung letztlich einer digitalen polizeilichen Gegenüberstellung gleicht, also der Methode zur Identifizierung von Täter*innen, bei der für gewöhnlich Aussagen von Zeug*innen ausschlaggebend sind.
Die finale Fassung der KI-Verordnung der EU (der AI Act) verbietet biometrische Überwachung im öffentlichen Raum für den polizeilichen Einsatz und die Strafverfolgung grundsätzlich. Für biometrische Identifizierung in Echtzeit gelten konkrete Auflagen. Der nachträgliche Einsatz muss zwar begründet sein, doch schon beim bloßen Verdacht bestimmter Straftaten ist ein Einsatz solcher Systeme zulässig.
Kritiker*innen befürchten, dass die weiten Spielräume für eine nachträgliche biometrische Identifizierung, beispielsweise zur Beweisführung oder zur Fahndung, zu einer Art Vorratsdatenspeicherung führen könnten. Großveranstaltungen (wie die Olympischen Spiele) oder bestimmte Plätze könnten dadurch standardmäßig per Video überwacht werden, um biometrische Daten später auszuwerten und Menschen zu identifizieren.
Gleichzeitig regelt nicht allein die KI-Verordnung den Einsatz biometrischer Überwachungssysteme durch Strafverfolgungsbehörden. Der Einsatz muss erst explizit erlaubt werden, und weil es bisher keine grundsätzliche rechtliche Erlaubnis gibt, müssen Ermittlungsbefugnisse für die Polizei erst erweitert werden. Aber auch wenn Gesetze verabschiedet werden, die solche Befugnisse beinhalten, müssen sie grundsätzliche verfassungsrechtliche Standards berücksichtigen: Bei den Regelungen, die in den vergangenen Jahren mehrere Bundesländer eingeführt haben, ist anzuzweifeln, dass sie den verfassungsrechtlichen Standards gerecht werden. So hat beispielsweise zuletzt das Land Berlin eine Novelle des Berliner Polizei- und Ordnungsrechts (ASOG) verabschiedet, die Datenschützer*innen und Verfassungsrechtsexpert*innen zufolge das Recht auf informationelle Selbstbestimmung unverhältnismäßig stark einschränkt. Eine Verfassungsbeschwerde, die dieses Problem ebenso aufgreift, läuft bereits gegen das novellierte Sächsische Polizeigesetz. Auch in Hessen laufen ein Klageverfahren sowie ein Prüfungsantrag beim hessischen Staatsgerichtshof, der die Rechtmäßigkeit der dortigen Echtzeit-KI-Überwachung im Frankfurter Bahnhofsviertel untersuchen soll.
Derweil operierten deutsche Behörden beim Einsatz von biometrischen Erkennungstechnologien bereits in der Vergangenheit mehrfach am Rande der Legalität. So setzte die sächsische Polizei an der polnischen Grenze in Görlitz ein Live-Gesichtserkennungssystem ein. Die zuständige Datenschutzbehörde war nicht informiert und stuft das System als illegal ein. Um Gesichtserkennungssoftware zu testen, stellte das Bundeskriminalamt 2019 einem Forschungsinstitut einen Datensatz von drei Millionen Bildern zur Verfügung. Die Rechtmäßigkeit ist zweifelhaft.
Deutsche Innenminister*innen der Länder und des Bundes arbeiten derweil daran, Befugnisse für die Strafverfolgungsbehörden noch weiter auszubauen, um biometrische Erkennungssysteme noch umfangreicher einsetzen zu dürfen. Zum Beispiel wollen sie zukünftig im Internet Nutzer*innen mit deren biometrischen Daten nachverfolgen. Im Frühjahr 2026 haben die Minister*innen Alexander Dobrindt, Stefanie Hubig und Lars Klingbeil gleich mehrere Gesetzesentwürfe vorgelegt, die einen biometrischen Abgleich vorsehen. Die KI-Verordnung der EU regelt vergleichbare Abgleichmöglichkeiten von Gesichtersuchmaschinen privater Anbieter über ein Verbot, das die Erstellung und den Betrieb zugrundeliegender Datenbanken untersagt. Darunter fallen Gesichtersuchmaschinen privater Anbieter wie PimEyes und ClearviewAI. Durch solche biometrischen Abgleiche wäre die Anonymität im Internet effektiv aufgehoben und das Grundrecht auf informationelle Selbstbestimmung sowie die Unschuldsvermutung massiv gefährdet.
Derweil will die EU ihre Außengrenzen mit biometrischen Erkennungssystemen „absichern“. Beim Projekt D4FLY werden „2D+thermische Gesichts-, 3D-Gesichts-, Iris- und Somatotyp-Biometrie“ miteinander kombiniert. In Projekten wie iBorderCtrl untersuchen die Regierungen Emotionen und „Mikroexpressionen“ – flüchtige Gesichtsausdrücke, die nur Sekundenbruchteile dauern –, um zu beurteilen, ob Reisende vertrauenswürdig sind oder ob sie die (virtuellen) Grenzbeamt*innen belügen. Daraus wird automatisch eine Risikobewertung erstellt, die zu strengeren Sicherheitskontrollen an den EU-Außengrenzen führen könnte.
Das Problem an solchen Pilotprojekten ist, dass sie oft vorübergehend ohne entsprechende Rechtsgrundlage getestet werden. Erfahrungsgemäß ist es aber nach so einer Testphase wesentlich leichter, die Technologien einzuführen, ohne eine öffentliche Debatte darüber zu führen.
Angesichts der Risiken biometrischer Identifikationssysteme haben weltweit verschiedene Städte (darunter San Francisco, Portland und Nantes) bereits den Einsatz von Erkennungssystemen im öffentlichen Raum verboten. 2021 hat sich auch das UNO-Hochkommissariat für Menschenrechte in einem Bericht dafür ausgesprochen, die Verwendung von biometrischen Erkennungssystemen im öffentlich zugänglichen Raum wesentlich einzuschränken oder zu verbieten. Auch der Europäische Datenschutzausschuss und über 200 Nichtregierungsorganisationen weltweit warnen vor den gesellschaftlichen Folgen dieser Technologie.
Trotz aller bekannten Gefahren wird in Deutschland, in weiteren Mitgliedsstaaten der EU und weltweit die biometrische Überwachung im Namen einer vermeintlichen Stärkung der allgemeinen Sicherheit rücksichtslos vorangetrieben. Negative Auswirkungen wie fehlerhafte Identifizierungen, Einschüchterungs- und Diskriminierungseffekte werden dabei großzügig unter den Teppich gekehrt. Dabei sollte es Regierungen demokratischer Staaten wie in Deutschland klar sein, dass solche Repressions-Tools, die traditionell in autoritären Staaten zum Einsatz kommen, im direkten Widerspruch zu demokratischen Freiheiten stehen und ihnen – und damit uns allen – nur schaden können.
Mehr über unsere Policy- und Advocacy-Arbeit zu biometrischen Erkennungssystemen.
