EU-Parlament stimmt über KI-Verordnung ab: Mitgliedstaaten müssen nachbessern
Das Europäische Parlament wird heute den Artificial Intelligence Act (AI Act) verabschieden. Das Gesetz legt fest, wie Systeme mit Künstlicher Intelligenz (KI) in der EU entwickelt und eingesetzt werden dürfen. Zwar sorgt der Act in einigen Fällen dafür, dass Grundrechte besser geschützt und Umweltkosten berücksichtigt werden. Doch er enthält eklatante Schlupflöcher, die den eigentlichen Zweck des Gesetzes zu untergraben drohen.
Das KI-Gesetz verbietet “unannehmbare" KI-Anwendungsfälle und legt für risikoreiche KI technische Rahmenbedingungen und Regeln für Aufsicht und Rechenschaftspflichten fest. Es schreibt eine EU-weite Datenbank für risikoreiche KI vor und räumt Betroffenen Rechte ein, KI-gestützte Entscheidungen erklärt zu bekommen. Leistungsstarke KI-Systeme müssen gewisse Transparenzanforderungen erfüllen.
Doch das Gesetz ermöglicht KI-gestützte Überwachungstechnologien, wie die automatische Gesichtserkennung. Echtzeit- und nachträgliche Gesichtserkennung im öffentlichen Raum werden durch die KI-Verordnung weitgehend erlaubt; Verbote gelten nicht für private Unternehmen oder Verwaltungsbehörden. Ein vager Hinweis auf die "Gefahr einer Straftat” reicht aus, um zu rechtfertigen, dass Gesichtserkennung im öffentlichen Raum rückwirkend eingesetzt wird - also Videoaufnahmen von öffentlichen Plätzen ausgewertet werden.
Das Gesetz lässt den Mitgliedstaaten jedoch die Möglichkeit, auf nationaler Ebene strengere Regeln zu erlassen. Gemeinsam mit 16 anderen Organisationen fordert AlgorithmWatch daher die Bundesregierung in einem Offenen Brief auf, diesen Spielraum zu nutzen und die biometrische Massenüberwachung ohne Ausnahmen zu verbieten.
„Die Bundesregierung hat sich in ihrem Koalitionsvertrag dazu verpflichtet, biometrische Erkennung im öffentlichen Raum zu Überwachungszwecken auszuschließen. Wir erwarten, dass die Koalitionsparteien den Spielraum im KI-Gesetz nutzen, um ein vollständiges nationales Verbot zu verabschieden, das keinen Raum für Massenüberwachung im öffentlichen Raum lässt und ein klares Signal an andere EU-Mitgliedstaaten sendet.“
Pia Sombetzki, Policy & Advocacy Manager bei AlgorithmWatch
Doch selbst wenn die Bundesregierung ihr Wort hält, weist der Rechtsakt weitere große Schlupflöcher bei nationaler Sicherheit, Strafverfolgung und Migration auf. Immer, wenn die Mitgliedstaaten der Ansicht sind, dass die nationale Sicherheit betroffen ist, dürfen sie selbst entscheiden, welche Regeln sie erlassen. Strafverfolgungs- und Migrationsbehörden müssen nicht öffentlich bekannt geben, ob und wie sie KI-Anwendungen mit hohem Risiko verwenden. Die Öffentlichkeit kann dadurch nicht nachvollziehen, welche Systeme die Behörden einsetzen - obwohl gerade hier das Missbrauchsrisiko besonders hoch ist.
“Gerade bei Strafverfolgung und Migration, wo ein starkes Machtgefälle herrscht und Entscheidungen über Leben und Tod getroffen werden, ist Öffentlichkeit eine wesentliche Voraussetzung demokratischer Kontrolle. Wir bedauern zutiefst, dass die EU die Geheimhaltung der Transparenz vorgezogen hat."
Nikolett Azodi, Policy & Advocacy Manager bei AlgorithmWatch
