Tritt die KI-Verordnung jetzt endlich bald in Kraft?

Berlin/Brüssel, 2. Februar 2024. Heute entscheiden die 27 EU-Mitgliedstaaten darüber, ob sie die KI-Verordnung annehmen. Wenn sie grünes Licht geben, muss vor dem Einsatz bestimmter KI-Systeme eine Folgenabschätzung für die Grundrechte durchgeführt werden. In bestimmten Fällen werden Betroffene auch Beschwerde gegen ihren Einsatz einlegen können. Doch der Schutz der Grundrechte wird durch Ausnahmen für Hochrisiko-Systeme beeinträchtigt: bei der Strafverfolgung und Migration und wenn der Einsatz der Systeme die „nationale Sicherheit“ berührt.

Die Mitgliedstaaten stimmen im Ausschuss der stellvertretenden ständigen Vertreter der einzelnen EU-Mitgliedstaaten (AStV I) über den endgültigen Kompromisstext der KI-Verordnung ab. Diese Abstimmung dürfte wegweisend sein: Wenn eine Mehrheit der Mitgliedstaaten die KI-Verordnung in ihrer jetzigen Form heute nicht annimmt, wird wahrscheinlich der gesamte Zeitplan für die Verabschiedung des Gesetzes vor den EU-Wahlen nicht mehr einzuhalten sein.

Einige, wenn auch nicht alle Regierungen der Mitgliedstaaten haben bereits angekündigt, wie sie abstimmen werden. Es wird erwartet, dass die KI-Verordnung bei der Abstimmung angenommen wird. Dann wird der EU-Rat (der sich aus den zuständigen Minister*innen aller Regierungen der Mitgliedstaaten zusammensetzt und die offizielle Entscheidungsbefugnis hat) erneut über die KI-Verordnung abstimmen und dabei das AStV-I-Wahlergebnis bestätigen. Nach dem Ratsvotum wird auch das Europäische Parlament in den zuständigen Ausschüssen und im Plenum abschließend über den Gesetzestext abstimmen. Sobald sowohl der Rat als auch das Parlament zugestimmt haben, wird der Text im Amtsblatt der EU veröffentlicht und tritt in Kraft.

Erfolge und Mängel

Zivilgesellschaftliche Organisationen haben durch ihre unermüdlichen Anstrengungen erreicht, dass die KI-Verordnung grundrechtliche Folgenabschätzungen und eine öffentliche Transparenz vorschreibt, wenn Behörden Hochrisiko-KI einsetzen. Für diese zentralen Forderungen hat AlgorithmWatch in den letzten drei Jahren gekämpft. Betroffene Personen haben zudem das Recht auf eine Erklärung, wenn ihre Rechte durch die Entscheidung einer Hochrisiko-KI beeinträchtigt wurden, und können dagegen Beschwerde einlegen.

Allerdings gibt es auch große Schlupflöcher. KI-Entwickler haben zum Beispiel ein Mitspracherecht bei der Frage, ob ihre Systeme als Hochrisiko-KI gelten. Außerdem gelten in den Bereichen nationale Sicherheit, Strafverfolgung und Migration Ausnahmen für Hochrisiko-Systeme, durch die Behörden wesentliche Kernbestimmungen des Gesetzes umgehen können.

Es gibt weiterhin Widerstand

Einige Mitgliedstaaten, besonders Frankreich und Deutschland, haben den im Dezember erzielten Kompromiss kurz vor der Abstimmung wieder in Zweifel gezogen, da die entsprechenden Regelungen in ihren Augen zu restriktiv seien, vor allem diejenigen für KI-Systeme mit allgemeinen Verwendungszwecken (general purpose AI systems, GPAI). Beide Länder wollten Strafverfolgungsbehörden größere Freiheiten einräumen. Frankreich machte sich besonders dafür stark, der Polizei und Migrationsbehörden die Kontrolle über die Nutzung von KI-Systemen zu überlassen und für sie nur sehr wenige Transparenzauflagen einzuführen. Die Regulierung von GPAI lehnte die französische Regierung strikt ab. Deshalb wurde der Vorwurf laut, dass sie sich zu sehr von der Industrie-Lobby beeinflussen lasse. Aber sowohl die deutsche als auch die französische Regierung werden höchstwahrscheinlich zurückrudern und für die Verabschiedung des Gesetzes stimmen.

Angela Müller, Policy- & Advocacy-Leiterin bei AlgorithmWatch, kommentiert: „Der Kompromiss zur KI-Verordnung offenbart einen systemischen Fehler bei der EU-Gesetzgebung. Die nationalen Regierungen und die Strafverfolgungslobby haben einen unverhältnismäßig großen Einfluss. Das Interesse der Öffentlichkeit und die Menschenrechte müssen darunter leiden.“

Die KI-Verordnung führt wichtige Verbesserungen ein: bei technischen Standards, der Rechenschaftspflicht und der Transparenz beim Einsatz von hochriskanter KI. Allerdings gibt der finale Gesetzestext auch Anlass zu großer Sorge. Er könnte nämlich dazu beitragen, dass die Polizei und Migrationsbehörden ihre Überwachungsaktivitäten legitimiert ausweiten. Dadurch könnten KI-Systeme die Grundrechte untergraben.

Kilian Vieth-Ditlmann, stellvertretender Policy- & Advocacy-Leiter bei AlgorithmWatch, kommt zu dem Schluss: „Die KI-Verordnung legt wichtige grundlegende Transparenzpflichten fest, bietet aber keinen ausreichenden Schutz vor biometrischer Massenüberwachung.“

Für Interviewanfragen wenden Sie sich bitte an:

Kilian Vieth-Ditlmann
Stellvertretender Leiter des Policy- & Advocacy-Teams bei AlgorithmWatch
E-Mail: vieth-ditlmann@algorithmwatch.org
Tel.: +49 30 99 40 49 003