Pressemitteilung

EU-Parlament stimmt für Schutz vor schädlichen KI-Systemen

Nach monatelangen Verhandlungen haben die Mitglieder des Europäischen Parlaments über die KI-Verordnung (AI Act) abgestimmt. AlgorithmWatch begrüßt, dass das es die Grundrechte vor den negativen Auswirkungen von KI schützen und zum Beispiel Gesichtserkennung im öffentlichen Raum stark einschränken will. Allerdings hat es versäumt, diejenigen besser zu schützen, die es am dringendsten nötig hätten.

Matthias Spielkamp
Geschäftsführer, Mitgründer und Gesellschafter

Mit seinem Votum hat sich das EU-Parlament auf eine Position festgelegt, mit der es die Trilog-Verhandlungen mit dem EU-Rat (bestehend aus den EU-Mitgliedstaaten) und der EU-Kommission aufnimmt.

Eines der umstrittensten Themen im Vorfeld der Abstimmung war die biometrische Fernidentifizierung („Remote Biometric Identification“, RBI), wozu zum Beispiel Gesichtserkennung gehört. Die Mitglieder des EU-Parlaments schlagen vor, RBI in Echtzeit umfassend zu verbieten und eine biometrische Analyse im Nachhinein nur unter sehr strengen Auflagen zuzulassen. Diese Position geht deutlich über den Vorschlag der EU-Kommission aus dem Jahr 2021 hinaus, der eine Reihe von Ausnahmen vom RBI-Verbot vorsieht. Eine Mehrheit im EU-Parlament widersetzte sich in der Abstimmung einem Vorstoß des rechten Lagers, in letzter Minute das RBI-Verbot zu verwässern. Mit dem umfassenden Verbot wird der öffentliche Raum wirksam vor einer Massenüberwachung geschützt, die dauerhaft unsere Grundrechte verletzt.

Das EU-Parlament stimmte außerdem für ein Verbot von diskriminierender biometrischer Kategorisierung und für ein Verbot von Systemen zur Emotionserkennung in den Bereichen Strafverfolgung, Bildung, Grenzkontrolle und am Arbeitsplatz. Das Votum des Parlaments sieht auch ein Verbot von vorausschauender Polizeiarbeit vor, die darauf beruht, Personenprofile zu erstellen.

Bessere Transparenz und größere Rechenschaftspflicht

Das EU-Parlament will, dass Behörden, die KI-Systeme mit hohem Risiko einsetzen, dazu verpflichtet werden, diesen Einsatz in einer EU-Datenbank zu registrieren und damit Informationen über den Einsatzkontext bereitzustellen. Dadurch würde die Öffentlichkeit erfahren, von wem solche Systeme wo und zu welchem Zweck eingesetzt werden. Dies könnte Aufschluss darüber geben, welche Folgen diese Systeme für Einzelne und die gesamte Gesellschaft haben. Darüber hinaus sollen alle Betreiber von risikoreichen KI-Systemen dazu verpflichtet werden, vor ihrem Einsatz eine Folgenabschätzung durchzuführen, um zu ermitteln, inwiefern die Grundrechte davon betroffen sein könnten. Wenn die KI-Systeme in öffentlichen Einrichtungen eingesetzt werden sollen, würden die Ergebnisse dieser Folgenabschätzung veröffentlicht werden. Mit diesen beiden Positionen folgt das Parlament zwei Kernforderungen von AlgorithmWatch: „Wenn wir erfahren wollen, welche Auswirkungen Algorithmen auf Menschen und die Gesellschaft haben, müssen wir KI-Systeme einer öffentlichen Kontrolle unterziehen. Das Ergebnis dieser Abstimmung ist ein großer Erfolg und ein wichtiger Schritt, um demokratisch zu kontrollieren, wie KI in unserer Gesellschaft eingesetzt wird“, so Angela Müller, Leiterin des Policy- & Advocacy-Teams von AlgorithmWatch.

Ein weiterer Meilenstein ist die Forderung des Parlaments, die Nachhaltigkeit von KI-Systemen zu überprüfen. KI-Systeme mit hohem Risiko sollen erst eingesetzt werden dürfen, wenn zuvor ermittelt wurde, wie umweltverträglich sie sind. Auch Dienste wie ChatGPT müssten dann europäischen Umweltstandards entsprechen.

Weniger Schutz für Menschen, die ihn am nötigsten brauchen

Die Abstimmung hat aber auch eine Schattenseite: Das EU-Parlament sieht kein Verbot von Systemen vor, die in den Bereichen Migration, Asyl und Grenzkontrolle auf der Grundlage von sensiblen personenbezogenen Daten Profile von Menschen erstellen, um vorauszusagen, ob sie eine Bedrohung darstellen. Außerdem verwehrt es Menschen das Recht, durch eine öffentliche Interessenvertretung eine Beschwerde einzureichen, wenn sich der Einsatz eines KI-Systems negativ auf ihr Leben auswirkt.

Diese Unzulänglichkeiten könnten in den anstehenden Trilog-Verhandlungen zwischen dem EU-Parlament, den im EU-Rat vertretenen Mitgliedstaaten und der EU-Kommission korrigiert werden. Die Verhandlungen sollen in Kürze beginnen. „Insgesamt haben die Abgeordneten des EU-Parlaments eindeutig signalisiert, dass der Schutz der Menschen und ihrer Grundrechte wichtiger ist als die Interessen von Big-Tech-Konzernen und die Überwachungsvorstöße einzelner Staaten. Die vom EU-Parlament vorgeschlagenen Schutzmaßnahmen für die Entwicklung und Nutzung von KI gehen viel weiter als die Vorschläge der EU-Kommission und des EU-Rats“, sagt Nikolett Aszódi, Policy- & Advocacy- Managerin bei AlgorithmWatch.

Für weitere Informationen und Interviewanfragen wenden Sie sich bitte an:

Matthias Spielkamp, Berlin
spielkamp@algorithmwatch.org

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Artificial Intelligence Act.