Leitlinien zum „AI Act“: Kritik aus der Zivilgesellschaft

Berlin, 16. Januar 2025. Die Europäische Kommission hat verschiedene Expert*innen und Organisationen zu den Leitlinien der KI-Verordnung (englisch „AI Act“) konsultiert. Die Leitlinien regeln die Definition von KI-Systemen und das Umsetzen von KI-Praktiken, die nach der KI-Verordnung gesellschaftlich unannehmbare Risiken herbeiführen können. Die Expert*innen konnten dabei praktische Beispiele vorbringen, die in den Leitlinien für mehr Klarheit über praktische Aspekte und Anwendungsfälle sorgen sollen. Die Leitlinien werden festlegen, wie diejenigen, die KI-Systeme entwickeln und nutzen, die Bestimmungen des Gesetzes auslegen können, und welche Systeme ausdrücklich verboten werden sollten.

Diese Leitlinien zur Umsetzung der KI-Verordnung sind sehr wichtig für den Schutz der Grundrechte, da das Gesetz selbst schwerwiegende Schlupflöcher für den Einsatz von KI aufweist.

Auf die wichtigsten Punkte haben die Organisationen nun in einer gemeinsamen Erklärung hingewiesen:

1. Die Verordnung sollte KI-Systeme nicht nach Maßgabe ihrer technischen Komplexität regulieren, sondern sich an den Schäden ausrichten, die sie potenziell verursachen können. Auch vergleichsweise „einfache“ Systeme sollten ausdrücklich in den Anwendungsbereich der Definition von KI-Systemen fallen.
2. Zahlreiche Verbote von Systemen, die laut Gesetz ein „inakzeptables“ Risiko für die Grundrechte darstellen, müssen in den Leitlinien präzisiert oder erweitert werden: etwa bei der „voraussagende Polizeiarbeit“ („Predictive Policing“) sowie beim Schutz vor dem Sammeln und der automatisierten biometrischen Auswertung von Gesichtsaufnahmen.
3. Die Leitlinien müssen sich an den Menschenrechten ausrichten, insbesondere an der EU-Grundrechtecharta. Das heißt auch, dass in den Leitlinien ausdrücklich betont werden sollte, dass sie zum Schutz der Grundrechte möglichst weit ausgelegt werden müssen.

Die unterzeichnenden Organisationen fordern das Europäische Amt für künstliche Intelligenz (European AI Office) und die Europäische Kommission insgesamt auf, bei allen künftigen formellen und informellen Konsultationen die Zivilgesellschaft angemessen einzubeziehen. Für die Konsultation konnten Beiträge nur in einem kurzen Zeitrahmen eingereicht werden, der bisherige Leitlinienentwurf war nicht veröffentlicht worden und es gab nur sehr beschränkte Möglichkeiten zur Rückmeldung.

Die ganze Stellungnahme und die Liste der unterzeichnenden Organisationen und Einzelpersonen können Sie hier einsehen.

Das gemeinsame Statement hat AccessNow koordiniert: https://www.accessnow.org/contact-us/