Berlin/Brüssel, 11. Mai. Die zuständigen Ausschüsse des EU-Parlaments stimmten heute über die KI-Verordnung (Artificial Intelligence Act, AI Act) ab. Unter anderem stimmten sie dafür, biometrische Echtzeit-Fernerkennungstechniken (remote biometric identification”, RBI) umfassend zu verbieten, zum Beispiel Gesichtserkennung. Der nachträgliche Einsatz von RBI soll mit einer Ausnahme auch verboten werden: Ein*e Richter*in könnte je nach Schwere eines Falls entscheiden, dass solch ein Einsatz gerechtfertigt ist.
“AlgorithmWatch begrüßt, dass das EU-Parlament heute ein starkes Signal gesendet hat. Es setzt sich mit seiner Position zur biometrischen Fernerkennung eindeutig von der Kommission und vom Rat ab. Gesichtserkennung und RBI überhaupt sind Instrumente, die Massenüberwachung möglich machen. Sie dringen in unsere Privatsphäre ein und sind ein Nährboden für Diskriminierung. Sie verletzen unsere Grundrechte, das Recht auf Privatsphäre oder auch das Recht auf Meinungs- und Versammlungsfreiheit. Die EU darf nicht zu einer Überwachungsstaaten-Gemeinschaft werden.”
Nikolett Aszódi, Policy & Advocacy-Managerin bei AlgorithmWatch
Warum ist diese Abstimmung wichtig? Die EU arbeitet beim AI Act an einem umfassenden Regelwerk für Künstliche Intelligenz (KI). Darin werden auch bestimmte Systeme festgelegt, die ein unannehmbares Risiko für unsere Grundrechte darstellen. Zu solchen Systemen gehören biometrische Fernerkennungstechniken an öffentlich zugänglichen Orten. Allerdings haben sowohl die EU-Kommission als auch der Rat jeweils eine Version des AI Act vorgelegt, in denen es große Schlupflöcher gibt, um das Verbot zu umgehen. Diese Schlupflöcher sind so groß, dass sie geradezu dazu einladen, diese Technik zu nutzen. In den Versionen der EU-Kommission und des Rats wird es nur Strafverfolgungsbehörden, nicht aber Privatunternehmen und öffentlichen Behörden verboten, Gesichtserkennungstechnik an öffentlichen Orten zu verwenden. Auch würden die beiden Versionen die Technik nicht verbieten, wenn die Daten nachträglich verarbeitet werden – was ein paar Sekunden nach der Aufnahme bedeuten kann oder Jahre später. So können wir im öffentlichen Raum jederzeit identifiziert und verfolgt werden. Dies kann unser Verhalten beeinflussen und uns davon abschrecken, uns frei zu bewegen oder uns zu versammeln. Die Strafverfolgungsbehörden wären außerdem in vielen Fällen vom RBI-Verbot ausgenommen, wenn sie einen Grund vorweisen können, zum Beispiel ein anstehendes Bedrohungsszenario.
Die EU-Kommission wurde bereits von vielerlei Seiten für ihr laxes Verbot von RBI-Technik kritisiert, auch von der Bundesregierung, die in ihrem Koalitionsvertrag ausdrücklich festgehalten hat: „Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring Systeme durch KI sind europarechtlich auszuschließen“. Leider unterscheidet sich die AI-Act-Fassung des EU-Rats nicht wesentlich von dem der Kommission. Der Rat besteht aus den Regierungsvertreter*innen der EU-Mitgliedstaaten – also auch der deutschen Bundesregierung.
Nach der heutigen Abstimmung setzt sich das EU-Parlament für das strikteste und sinnvollste Verbot von RBI-Techniken ein. Dieses Verbot würde unsere Freiheit, Gleichheit und andere Grundrechte schützen. Allerdings könnte die Ausnahme für die nachträgliche Verarbeitung von RBI-Daten (zum Beispiel Aufnahmen von Überwachungskameras) auch mit einer richterlichen Instanz als Schutzvorrichtung an unseren Grundrechten kratzen. Die Gesetzgeber*innen stimmten außerdem für ein Verbot von KI-Systemen, die bei der Strafverfolgung, beim Grenzschutz, in der Bildung und am Arbeitsplatz zur Erkennung von Emotionen eingesetzt werden. Verboten werden sollen zudem biometrische Systeme, die Menschen auf der Grundlage von sensiblen und geschützten Kriterien kategorisieren, zum Beispiel ihr Geschlecht. Ebenso verboten soll es werden, Bilder von Gesichtern aus dem Internet zu scrapen und damit Datenbanken zu füttern, wie ClearviewAI es tut.
Es kommt jetzt darauf an, ob das EU-Parlament seine Position in der Plenarabstimmung aufrechterhält, wenn das gesamte Parlament zusammenkommt und über die finale Position abstimmt. Daraufhin werden die Verhandlungen mit der Kommission und den EU-Mitgliedstaaten starten. Der Umgang mit biometrischer Erkennungstechnik wird bei diesen Verhandlungen eines der wichtigsten und umkämpftesten Themen sein.
Für weitere Informationen und Interviewanfragen wenden Sie sich bitte an:
Nikolett Aszódi
aszodi@algorithmwatch.org
+49 (0)30 99 40 49 001
Hinweis: Dieser Beitrag beschränkt sich auf die Frage, welche unterschiedlichen Positionen zur biometrischen Fernerkennung in den Verhandlungen zum AI Act vertreten werden. Wir werden die Auswirkungen der Abstimmung umfassend analysieren, sobald das EU-Parlament in der noch ausstehenden Plenarabstimmung über seine Position zum AI Act entschieden hat.
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Artificial Intelligence Act.