Der KI-Omnibus: Schutzmaßnahmen abschwächen, bevor sie überhaupt in Kraft treten

Der KI-Omnibus hätte nie auf den Weg gebracht werden dürfen. Zu diesem klaren Ergebnis kommt eine gemeinsame Analyse verschiedener europäischer Organisationen, an der sich AlgorithmWatch beteiligt hat. Nach jahrelangen Verhandlungen und zahllosen Kompromissen wurde die KI-Verordnung (AI Act) endlich verabschiedet, einige der wichtigsten Schutzmaßnahmen sind noch nicht einmal in Kraft getreten. Doch schon soll sie durch ein sogenanntes Omnibus-Verfahren wieder abgeschwächt werden – im Namen einer vermeintlichen Simplifizierung.

Am 17. Juni stimmte das Europäische Parlament den Ergebnissen des Trilogs aus Europäischem Parlament, Rat der Europäischen Union und der Europäischen Kommission zu. Es geht also nicht mehr um die Umsetzung der Verordnung durch Richtlinien, Ressourcen und eine konsequente Durchsetzung oder die rasche Entwicklung von zentralen Instrumenten wie Standards, die eigentlich gefordert wären. Stattdessen hat die Europäische Kommission das Gesetz zur Regulierung von KI in der EU unter dem Deckmantel der „Vereinfachung“ vorschnell überarbeitet. In Wirklichkeit ist dieser Prozess, ähnlich wie der wesentlich umfangreichere Digital-Omnibus, zu einem Instrument der Deregulierung geworden. Denn der KI-Omnibus, der nun beschlossen wurde, geht weit über technische Anpassungen hinaus.

Unter anderem verzögert er die Einführung von Richtlinien für Hochrisiko-KI-Systeme, schwächt die Vorgaben zur Transparentmachung ab, ändert die Art und Weise, wie die KI-Verordnung auf industrielle KI angewendet wird, und fügt in letzter Minute neue verbotene Praktiken hinzu. Bei den voreiligen Maßnahmen handelt es sich um politische Entscheidungen mit konkreten Folgen für die Grundrechte und die Rechenschaftspflichten.

Außerdem stellt der Prozess einen gefährlichen Präzedenzfall dar: Wenn neu verabschiedete Gesetze zu digitalen Rechten noch vor ihrem Inkrafttreten überarbeitet werden, können Menschen mit politischem Einfluss die Umsetzungsphase als weitere Chance nutzen, um missliebige Vorschriften in ihrem Sinne abzuschwächen. Für Regeln, die bereits gelten, aber dringend strenger durchgesetzt werden müssen – dazu zählen auch die Datenschutz-Grundverordnung (DSGVO) und die Datenschutzrichtlinie für elektronische Kommunikation (die ePrivacy-Richtlinie) – ist die Botschaft ebenso brisant: Im Namen der „Wettbewerbsfähigkeit“ werden Grundrechte hintenangestellt. Global betrachtet läuft die EU durch ihre Abkehr von digitalen Rechten Gefahr, einem Unterbietungswettbewerb der (De-)Regulierung zu verfallen.

Das Verfahren zeichnet sich dabei aus durch schwache Belege, eine fehlende Folgenabschätzung, die unzureichende Einbeziehung der Öffentlichkeit und einen überstürzten Zeitplan für grundlegende Änderungen, die sowohl rechtlich als auch politisch komplex sind.

Die Einigung schwächt zentrale Schutzmaßnahmen der KI-Verordnung

Zumindest einer der schlimmsten Vorschläge der Kommission konnte gestoppt werden. Hierbei geht es um die Transparenzvorgaben für KI-Systeme, die nicht dem Hochrisiko-Sektor zuzuordnen sind. Der Vorschlag war ein klares Beispiel dafür, warum sich die aktuelle Deregulierungswelle in die falsche Richtung bewegt. Immerhin hebt der beschlossene Omnibus die Vorschrift, dass auch KI-Systeme, die als „nicht risikoreich“ eingeordnet wurden, in das öffentliche Transparenzregister der EU eingetragen werden müssen, nicht vollständig auf.

Das ist eine wichtige Errungenschaft, da die Verordnung den Anbietern von KI-Systemen schon jetzt einen erheblichen Ermessensspielraum einräumt, um zu entscheiden, ob bestimmte Systeme, die in risikoreichen Bereichen eingesetzt werden, selbst als risikoreich behandelt werden sollten oder nicht. Ohne das öffentliche Transparenzregister hätten Unternehmen solche wichtigen Pflichten aus der KI-Verordnung beinah unbemerkt umgehen können.

Dennoch ist der KI-Omnibus ein Rückschritt für die Transparenz. Anbieter müssen in dem Register weniger Informationen angeben als ursprünglich vorgesehen. Behörden, Forschende, die Zivilgesellschaft und betroffene Personen erhalten so weniger Informationen, anhand derer sie beurteilen können, ob Anbieter ihre Systeme korrekt eingestuft haben. Folglich gibt es auch weniger Möglichkeiten, sich zu wehren, wenn durch KI-Systeme Schäden entstehen.

Der Omnibus sieht außerdem vor, die Regulierung von Maschinen von Abschnitt A in Abschnitt B des Anhangs I zu verschieben. Praktisch führt das dazu, dass KI-Systeme, die in Maschinen eingebettet sind, eher den sektoralen Maschinenvorschriften unterliegen als den Hochrisiko-Regularien der KI-Verordnung.

Dies ist eine gravierende Änderung. Die KI-Verordnung wurde als horizontales Gesetz konzipiert, da sich KI-bezogene Schäden nicht eindeutig in die Kategorien der Produktsicherheit einordnen lassen. Die Verordnung über Maschinen mag zwar die physische Sicherheit regeln, ist allerdings nicht dafür konzipiert, das gesamte Spektrum an Risiken durch KI ebenso wie Risiken für Grundrechte abzudecken.

In Maschinen eingebettete KI-Systeme können Einfluss auf die Sicherheit der Arbeitnehmenden, das Arbeitstempo, die Aufgabenverteilung, die Überwachung, die Autonomie und die Hinterfragung von Entscheidungen haben. Werden diese Systeme im Omnibus mit Buzzwords wie Optimierung, Automatisierung, Effizienzsteigerung oder Qualitätskontrolle beschrieben, lassen sich ihre Auswirkungen auf die Grundrechte möglicherweise schwerer erfassen.

Verzögerte Schutzmaßnahmen bedeuten verzögerte Rechenschaftspflicht

Die beschlossene Einigung aus dem Trilog-Verfahren verschiebt zudem den Startzeitpunkt für zentrale Pflichten für Hochrisiko-KI-Systeme: Für viele Hochrisiko-KI-Systeme werden die Schutzmaßnahmen bis zum 2. Dezember 2027 aufgeschoben. Für KI-Systeme, die unter Anhang I fallen, treten sie sogar erst zum 2. August 2028 in Kraft.

Das bedeutet, dass potenziell schädliche KI-Systeme länger verbreitet und eingesetzt werden können, ohne dass sie den Schutzmaßnahmen der KI-Verordnung unterliegen. Zu diesen Schutzmaßnahmen gehören Vorschriften zu Risikomanagement, Dokumentation, menschlicher Aufsicht, Transparenz, Genauigkeit, Robustheit und Überwachung.

Diese Verzögerung ist besonders besorgniserregend, da KI-Systeme schon jetzt in sensiblen Bereichen eingesetzt werden – beispielsweise am Arbeitsplatz, im öffentlichen Dienst, im Gesundheitswesen, im Bildungswesen, bei der Polizei, in der Migrationspolitik und in der Justiz.

Die Verschiebung von Schutzmaßnahmen ist kein simpler Verwaltungsschritt. Sie verzögert die Zuweisung von Rechenschaft und verlängert den Zeitraum, in dem von KI-Systemen betroffene Menschen ohne den Schutz auskommen müssen – eben jenen Schutz, den die KI-Verordnung eigentlich gewährleisten sollte.

Sensible Daten und öffentlichkeitswirksame Verbote sollten nicht von den allgemeinen Rückschritten ablenken

Der KI-Omnibus umfasst außerdem eine besorgniserregende Ausnahmeregelung für die Verarbeitung von speziellen Kategorien persönlicher Daten, die bei der Erkennung und Bekämpfung von statistischen Verzerrungen helfen sollen. Die Erkennung von Verzerrungen ist natürlich wichtig, sollte aber nicht dazu genutzt werden, das Vorhandensein hochsensibler Daten in KI-Pipelines zu normalisieren. Daten, die Aufschluss über Gesundheitszustände, politische Meinungen, sexuelle Orientierung oder ethnische Zugehörigkeit geben, erfordern einen strengen Schutz gemäß der EU-Datenschutzgrundverordnung.

Das ist insbesondere im Zusammenhang mit dem sogenannten Daten-Omnibus besorgniserregend, der zweiten Säule des Digital-Omnibus. Dieser birgt die Gefahr, weitere Ausnahmeregelungen für die Verwendung spezieller Kategorien personenbezogener Daten bei der KI-Entwicklung zu schaffen. Zusammen stellen diese Gesetzespakete das Risiko dar, die Verarbeitung sensibler Daten vom Ausnahmefall zur Normalität werden zu lassen.

Die beschlossene Einigung enthält zudem neue Verbote für KI-Systeme, die genutzt werden können, um nicht-einvernehmliche sexualisierte Inhalte vornehmlich von Frauen und Kindern zu generieren. Das EU-weite Verbot solcher „Nudify-Apps“ ist ein wichtiger Schritt, den AlgorithmWatch schon seit Langem fordert. Allerdings wurden die entsprechenden Richtlinien in einen Omnibus-Gesetzentwurf aufgenommen, der ursprünglich als technische Vereinfachung verkauft wurde. Zudem verfügt die KI-Verordnung bereits über einen Überprüfungsmechanismus für verbotene Praktiken. Das wäre auch deshalb wichtig, weil es weitere grundrechtsverletzende KI-Praktiken gibt, die verboten werden sollten. KI-Anwendungen wie Emotionserkennung bei Geflüchteten oder der Export von verbotenen Überwachungstechnologien in Drittstaaten bleiben trotz Omnibus weiter zulässig.

Ein Verbot, das in erster Linie für gute Überschriften sorgt, sollte nicht von der weitergefassten Wirklichkeit ablenken: Dieselbe Einigung, die sexualisierte Deepfakes verbieten will, verzögert Schutzmaßnahmen, schwächt die Transparenz und schafft neue Schlupflöcher.

Hier findet ihr die vollständige Analyse des KI-Omnibus zum Lesen und Herunterladen – ein gemeinsames Papier von European Digital Rights (EDRi), ARTICLE19, Access Now, AlgorithmWatch, Amnesty International, Danes je nov dan, European Center for Not-for-profit Law (ECNL), Lafede - justícia global und Politiscope.