Ein verbindliches KI-Transparenzregister für Deutschland
Die öffentliche Verwaltung setzt zunehmend auf Künstliche Intelligenz – doch mit dem Einsatz wachsen auch die Risiken. Ein nationales KI-Register muss für Transparenz sorgen. In zwei Publikationen zeigen wir, wie das rechtlich, technisch und organisatorisch gelingen kann.
Künstliche Intelligenz verändert die öffentliche Verwaltung – von Steuerprüfungen über Bürger-Chatbots bis zur Jobvermittlung. Mit der zunehmenden Nutzung von KI wachsen auch die Risiken: Intransparente Entscheidungsprozesse, unklare Verantwortlichkeiten und mögliche Grundrechtsverletzungen gefährden die Rechtsstaatlichkeit und das Vertrauen innerhalb der Bevölkerung. Behörden tragen eine besondere Verantwortung, da Bürger*innen staatlichen Entscheidungen nicht ausweichen können. Umso wichtiger ist es, dass der Einsatz von KI-Systemen nachvollziehbar und überprüfbar ist – für Betroffene, Medien, die Zivilgesellschaft und Aufsichtsgremien.
Aktuelle Transparenzinitiativen auf EU- und Bundesebene sind jedoch lückenhaft und uneinheitlich. Das gefährdet nicht nur die Grundrechte, sondern bremst auch den Kompetenzaufbau innerhalb der Verwaltung und den Wissenstransfer zwischen öffentlichen Stellen und Unternehmen.
Wir fordern deshalb ein KI-Transparenzregister (KI-TR) für Bund und Länder, das gesetzlich verbindlich und einheitlich ist. Wir legen in zwei Papieren dar, wie es konkret gestaltet werden sollte, um Rechtsstaatlichkeit, demokratische Kontrolle und das Vertrauen in staatliches Handeln zu sichern.
Unser Policy-Papier: Empfehlungen für ein verbindliches KI-Transparenzregister für Deutschland
Das Policy-Papier bündelt unsere Empfehlungen für ein verbindliches, umfassendes und klar geregeltes KI-Transparenzregister, das Vertrauen, Effektivität und Teilhabe stärkt. Es konzentriert sich auf drei zentrale Handlungsfelder:
- Rechtsrahmen: Das KI-Register muss gesetzlich verankert sein und sollte verpflichtend alle KI-Systeme erfassen, die die öffentliche Verwaltung produktiv nutzt – ohne pauschale Ausnahmen, aber auch ohne Einträge zu vorläufigen Testsystemen. So würde das Register übersichtlich bleiben und zugleich die Nachvollziehbarkeit für die Öffentlichkeit erhöhen. Eine tragfähige Lösung erfordert aus unserer Sicht eine Verfassungsreform, die ein einfach handhabbares Register für Bund und Länder erlaubt. Ein nationales KI-Register würde nicht im Konflikt mit der KI-Verordnung der EU stehen, sondern ihre praxisnahe Umsetzung erleichtern.
- Inhalte und Funktionen: Das Transparenzregister muss korrekte, aktuelle, konsistente und verständliche Informationen zu allen erfassten KI-Systemen bereitstellen – ohne technische Überfrachtung, aber mit klaren Angaben zum Zweck, zum Einsatzkontext und den Risiken. Zudem sollte das KI-Register Analyse- und Reportingfunktionen bieten, damit unterschiedliche Zielgruppen unbürokratisch die Informationen erhalten können, die sie benötigen.
- Governance: Klare Zuständigkeiten und eine zentrale, unabhängige Aufsicht sind unerlässlich, damit das Register seinen Zweck erfüllen kann. Wir empfehlen, dass die Behörde, die die Umsetzung der KI-Verordnung koordiniert, für den Betrieb, die Qualitätssicherung und die Weiterentwicklung des Registers verantwortlich ist. Ein dauerhaft eingesetzter, interdisziplinärer KI-Beirat soll gewährleisten, dass verschiedene gesellschaftliche Perspektiven berücksichtigt werden.
Unser Konzept: Die Umsetzung eines nationalen KI-Transparenzregisters
Das Konzept beschreibt, was ein nationales KI-TR fachlich, technisch und organisatorisch leisten sollte. Das Dokument leitet aus den Erwartungen verschiedener Zielgruppen Haupt-, Neben- und Nichtziele ab und beschreibt darauf aufbauend erforderliche Inhalte, fachliche Prozesse, eine notwendige technische Architektur, mögliche und sinnvolle Reports, sinnvolle Steuerungselemente sowie Informations- und Sensibilisierungsmaßnahmen und Maßnahmen zur Kompetenzentwicklung.
Durch die detaillierte Beschreibung praxisnaher Anforderungen können erfahrene IT-Architekt*innen das Konzept direkt umsetzen. Es orientiert sich an bestehenden nationalen und internationalen KI-Registern – greift aber deren Unzulänglichkeiten auf und schließt deren Lücken, unter anderem bei den Themen:
- Qualitätskontrolle und zentrale Aufsicht
- Versionierung und chronologische Nachvollziehbarkeit von Einträgen und Änderungen
- Zusammenarbeit mit der Zivilgesellschaft bei Aufbau und Betrieb
- Feedback-Mechanismen
- Zielnachhaltung und Wirkungsanalyse.
Mehr zum Projekt
Unsere Arbeit basiert auf unserer interdisziplinären Forschung im Rahmen des Projekts „AI used by the state: Safeguarding autonomy and human rights with transparency to citizens and support for public servants“, das von der VolkswagenStiftung finanziell gefördert wird. Die Projektpartner sind AlgorithmWatch, das Deutsche Forschungsinstitut für öffentliche Verwaltung und NExT e.V. – Netzwerk: Experten für die digitale Transformation der Verwaltung. Die drei Projektpartner vereinen ihre langjährige Erfahrung im Bereich KI-Transparenz und berücksichtigen die Perspektiven relevanter Stakeholder. Ein interoperables nationales KI-TR, das mit der EU-Datenbank kompatibel ist, erfordert eine kontinuierliche Zusammenarbeit aller Beteiligten.
Am Thema arbeiten
