Bundestag beschließt KI-Gesetz – Grundrechte und Transparenz stehen hinten an

Der Bundestag hat gestern Abend das Umsetzungsgesetz der europäischen KI-Verordnung (AI Act) beschlossen. Auch wenn es zu begrüßen ist, dass dadurch eine zentrale deutsche Aufsicht über KI-Systeme durch die Bundesnetzagentur geregelt wird, lässt der Beschluss Wünsche offen: Die Bundesregierung hat Verbesserungsvorschläge ignoriert, die AlgorithmWatch und weitere Organisationen in einer Sachverständigenanhörung im März 2026 eingebracht hatten. Die Vorschläge zielten darauf ab, den Grundrechtsschutz und die Transparenz über den Einsatz von KI-Systemen durch den Staat deutlich zu stärken.

So hatte Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch, zentrale Schutz- und Transparenzlücken im Gesetzentwurf bemängelt, die die Bundesregierung im parlamentarischen Verfahren hätte ausbessern können. Dazu zählte die Einführung eines zentralen, verpflichtenden KI-Transparenzregisters. AlgorithmWatch hatte bereits 2025 ein Konzept für ein solches Transparenzregister vorgelegt.

„Regierungsvertreter*innen betonen regelmäßig, dass KI-Systeme die digitale Verwaltungsmodernisierung maßgeblich vorantreiben sollen. Es ist deshalb unverständlich, warum Bürger*innen gleichzeitig kaum Informationen zum Einsatz von KI durch Behörden öffentlich einsehen können, während ein fertiges Konzept für ein umfassendes KI-Transparenzregister bereits auf dem Tisch liegt”, bemängelt Pia Sombetzki.

Zudem sollte die Aufsicht über Hochrisiko-KI-Systeme eindeutig bei den Datenschutzbehörden als erfahrenere Wächter des Grundrechtsschutzes liegen, nicht bei der Bundesnetzagentur. Letztere wird vor allem Koordinierungsaufgaben zwischen einer Vielzahl von Marktaufsichtsstellen und weiteren Landes- und Bundesbehörden wahrnehmen. Die Bundesregierung hat auch die Forderung nach einem unabhängigen KI-Beirat ignoriert, der gesellschaftliche und wissenschaftliche Expertise sowie die Perspektive Betroffener in die Arbeit der Aufsicht einbringt.

Im Zuge der Umsetzung der KI-Verordnung sieht der Beschluss zwar eine „kontinuierliche, unabhängige sowie transparente Begleitung interdisziplinärer Expertise aus Wissenschaft, Zivilgesellschaft und Vertretern der Praxis aus Wirtschaft und Verwaltung” vor - allerdings ohne rechtliche Bindung. Mehr als eine indirekte Einladung zur halbjährlichen Beratung im Ausschuss für Digitales und Staatsmodernisierung folgt auf diese Feststellung nicht.

„Ein ständiger KI-Beirat bei der Bundesnetzagentur hätte dafür gesorgt, dass zivilgesellschaftliche und interdisziplinäre wissenschaftliche Expertise sowie die Perspektive Betroffener strukturiert und regelmäßig in die Arbeit der Marktaufsichtsbehörde einfließen. Jetzt müssen wir darauf hoffen, dass wir zwei Mal im Jahr eine Einladung in den Ausschuss für Digitales und Staatsmodernisierung erhalten, um dort - fernab der eigentlichen Aufsichtsarbeit - diese lediglich kommentieren zu können”, kritisiert Pia Sombetzki.

Ergänzende Informationen:

• Die Stellungnahme von AlgorithmWatch im Digitalausschuss des Bundestags am 23. März 2026
• Das Konzept von AlgorithmWatch für ein verpflichtendes KI-Transparenzregister für Deutschland