Umsetzung der KI-Verordnung: AlgorithmWatch fordert mehr Unabhängigkeit bei Aufsicht und verpflichtendes Transparenzregister

Berlin, 23. März 2026 – Der aktuelle Gesetzentwurf zur Umsetzung der europäischen KI-Verordnung (AI Act) weist klare Mängel auf – und lässt Chancen für deutsche Behörden ungenutzt. Zu diesem Urteil kommt Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch, in ihrem heutigen Statement bei der öffentlichen Anhörung des Bundestagsausschusses für Digitales und Staatsmodernisierung.

Der Gesetzentwurf, der bereits am Freitag (20. März 2026) im Bundestag debattiert wurde, umfasst nach Ansicht von AlgorithmWatch insbesondere in drei Punkten klares Verbesserungspotenzial: Der unabhängigen Aufsicht über Hochrisiko-KI-Systeme, der Schaffung eines verpflichtenden KI-Transparenzregisters und der Einbindung der Zivilgesellschaft.

Aufsicht über Hochrisiko-KI-Systeme sollte bei Datenschutzbehörden liegen

Als zentrale Koordinierungs- und Anlaufstelle für die deutsche KI-Verordnung ist die Bundesnetzagentur (BNetzA) vorgesehen – für AlgorithmWatch ein begrüßenswerter Schritt, um Kompetenzen zu bündeln, ohne neue Verwaltungsstrukturen zu schaffen. Der BNetzA soll jedoch ebenfalls die Aufsicht über Hochrisiko-KI-Systeme zufallen. Hierbei handelt es sich um Systeme, die unter anderem in der Strafverfolgung, bei Migrations- und Asylverfahren oder in demokratischen Prozessen eingesetzt werden.

Pia Sombetzki sieht hierin einen klaren Konflikt mit den Vorgaben des AI Acts und fordert deshalb die Verlagerung der Aufsicht zu den Datenschutzbehörden des Bundes und der Länder:

„Die EU-Verordnung schreibt für die Aufsicht über Hochrisiko-KI-Systeme Unabhängigkeit und Expertise vor. Diese sind bei den Datenschutzbehörden des Bundes und der Länder stärker ausgeprägt als bei der Bundesnetzagentur. Die Leitung der BNetzA wird zwar von einem Beirat vorgeschlagen, letzten Endes aber von der Bundesregierung bestimmt. Zudem sind nicht alle Präsidiumsmitglieder mit den technischen Bereichen vertraut, die für den Einsatz von Hochrisiko-KI-Systemen relevant sind. Hier sind die Datenschutzbehörden, ähnlich wie bei dem Schutz von Grundrechten, wesentlich erfahrener.“

KI-Transparenzregister: Auch eine Chance

Darüber hinaus kritisiert Pia Sombetzki, dass der Gesetzentwurf ein zentrales, verpflichtendes KI-Transparenzregister vermissen lässt: „Ein gesetzlich verankertes KI-Transparenzregister gewährleistet Verbindlichkeit, Vollständigkeit, Aufsicht und Kompatibilität mit der EU-Datenbank. Es würde die wenigen grundlegenden Informationen, die in der EU-Datenbank geführt werden, maßgeblich ergänzen. Zudem wird dem Grundrecht auf Informationsfreiheit genüge geleistet. Fragen, die für Staat und Gesellschaft von erheblicher Bedeutung sind, müssen gesetzlich geregelt sein – der Einsatz von KI durch Behörden gehört eindeutig dazu.“

AlgorithmWatch hat bereits 2025 einen Vorschlag für ein solches Transparenzregister vorgelegt. Eine entsprechende Datenbank dient nicht nur der Nachvollziehbarkeit, sondern kann ebenso den Abgleich bereits eingesetzter KI-Systeme innerhalb der Behörden fördern. Durch eine Schnittstelle zur im AI Act vorgeschriebenen EU-Datenbank würde bürokratischer Mehraufwand vermieden und es ließen sich zudem Informationen länderübergreifend austauschen und ergänzen.

Schließlich fordert AlgorithmWatch die Schaffung eines unabhängigen KI-Beirats, der gesellschaftliche und wissenschaftliche Expertise ebenso wie die Perspektive Betroffener in die Arbeit der Aufsicht einbringt:

„Ein KI-Beirat würde dafür sorgen, dass zivilgesellschaftliche und interdisziplinäre wissenschaftliche Expertise sowie die Perspektive Betroffener in die Arbeit der Marktaufsichtsbehörde einfließen. Solch ein KI-Beirat bietet auch die Möglichkeit, die Ziele der Beteiligung konkreter zu beschreiben, statt nur allgemein von einer Einbeziehung zu sprechen“, so Pia Sombetzki in ihrem Statement.

Das vollständige Statement ist hier nachzulesen.